Ilya：只要能够预测下一个token，人类就能达到AGI

要点:

Ilya Sutskever认为，只要能够非常好地预测下一个token，人类就能够达到人工通用智能（AGI）。

他强调大型语言模型，如ChatGPT，本质上是预测下一个字符的工具，通过这种方式可以超越人类智慧的综合水平。

Sutskever表示人工智能有望改变整个人类文明的存在方式，而不仅仅是解决一些小问题，预测下一个token是实现这一目标的关键。

近日，前OpenAI首席科学家Ilya Sutskever成为Nature评选的「2023年10大科学人物」，他强调只要能够极好地预测下一个token，就能帮助人类达到人工通用智能（AGI）。Ilya认为大型语言模型，如ChatGPT，本质上是预测下一个字符的工具，具备超越人类智慧的综合能力。他表示，人工智能有能力改变整个人类文明的存在方式，而不仅仅是解决小问题。在他看来，预测下一个token的能力是实现这一目标的关键。

图源备注：图片由AI生成，图片授权服务商Midjourney

Ilya认为大型语言模型通过预测下一个字符，可以理解导致该token创建的潜在现实。他指出，足够好地预测下一个token意味着理解创造这组统计数据的世界是什么，以及人类行为是如何决定的。他认为，只要能很好地预测下一个token，人工智能就能猜出一个具有伟大洞察力、智慧和能力的人会做什么，即使这样的人并不存在。

对于实现AGI的时间表，Ilya表示很难给出具体数字。他强调要保持脚踏实地，观察自动驾驶的发展，以理解技术的渐进性。他提到，技术发展可能是一个渐进的过程，而Transformer之类的突破可能是为了解决领域中的困难而出现的。

Ilya分享了OpenAI放弃机器人方向的原因，指出过去机器人技术受限于数据量不足，但现在有可能通过建造更多机器人、收集更多数据逐步改进。他认为，机器人技术的发展需要全身心的投入，与纯粹的软件开发有着根本区别。他强调了大型语言模型的潜力，并指出了人工智能对人类文明的深远影响。