LeCun：超级AI不会主宰人类，但必须开源

要点:

LeCun认为，未来将会有超越人类智能的人工智能，但这些智能不会主宰人类，而是成为与数字世界互动的中介。他强调这些人工智能必须是开源的，以确保每个人都能参与学习和优化。

在LeCun看来，智能与统治没有必然联系，控制欲是社会性物种的本性，而人工智能可以被设计成智能但不具备统治欲的系统。他强调了开源的必要性，以避免少数公司垄断超级人工智能，从而左右每个人的观点和文化。

LeCun呼吁建立一个能够预测动作序列后果的世界模型，以实现人工智能系统更通用的规划能力。他指出建立和训练这样的世界模型仍然是一个悬而未决的问题。

人工智能领域的重要人物之一，LeCun在最新访谈中再次表达了他对开源人工智能的坚定看法。他强调了未来可能出现超越人类智能的情景，但同时指出这些人工智能不会成为人类的主宰。相反，它们将充当与数字世界互动的中介，为人类提供帮助。LeCun认为，为了确保这些人工智能不被少数公司垄断，它们必须是开源的平台，每个人都有机会参与学习和优化过程。

图源备注：图片由AI生成，图片授权服务商Midjourney

在LeCun的观点中，智能与统治并没有必然联系。他将人工智能比喻为智能助手，在未来的10-20年里，这些助手可能会比人类更聪明，但它们存在的目的是帮助人类变得更聪明，而非统治人类。他认为控制欲是社会性物种的本性，而智能与控制并无必然关系。因此，设计一个智能但不具备统治欲的系统是可能的。

LeCun呼吁建立一个世界模型，使人工智能系统能够更好地规划和推理。他认为当前的自回归模型能力仍然有限，而要实现更通用的规划能力，系统需要具备预测动作序列后果的世界模型。然而，他也指出建立和训练这样的世界模型仍然是一个悬而未决的问题，需要解决技术上的挑战。

LeCun强调了人工智能的发展需要开源，并提出了对未来人工智能发展的期望和挑战。他的观点引起了广泛关注，让人们对人工智能的未来有了更深入的思考。