跟 Ilya(OpenAI 联合创始人)聊大语言模型和未来世界

limboy's HQ at 
这篇文章是《纽约时报》的前总编辑 Craig Smith 与 OpenAI 的联合创始人 Ilya 进行的一次访谈的记录。聊到了大语言模型的局限和潜力,以及 AI 在未来世界中可能带来的影响。鉴于 Ilya 在 AI 领域所做出的成绩和地位,他对 GPT 以及 AI 的思考还是挺值得一听的。总结一下 Ilya 的一些观点:从原理上看,GPT 好像只是学习统计规律来进行预测,并不了解世界和语言的本质,但要做出精准的预测就需要了解这些数据。随着生成式模型的不断完善,它对世界的理解也会越来越深,甚至到惊人的地步(从 GPT-4 强大的 Reasoning 就可以见一斑)。幻觉(一本正紧地胡说八道)问……