AGI将至？研究员称：人类只有5年时间了

**划重点:**

1. 🌐 **技术革命的冲击:** AI技术的迅猛发展引发了对技术保守主义的重新审视，人们开始思考在AI浪潮中如何保护自身利益。

2. ⏳ **Yudkowsky的警告:** 加州伯克利的研究员Yudkowsky表示，人类可能只剩下5年左右的时间，将面临由机器人引发的末日灾难，呼吁关闭AI数据中心甚至使用核武器以确保生存。

3. 🚨 **新技术保守主义崛起:** 艺术家和作家等新技术保守主义者关注AI对就业和社会公平性的影响，呼吁审视技术发展中的隐患，使其服务于普通人而非少数权势者。

近期，AI技术的迅猛发展使人类重新审视技术保守主义的观点。OpenAI推出的Sora引起轰动，使大家重新思考对大模型的看法。曾经持保守态度的周鸿祎看到Sora的崛起后改口表示:“AGI从10年的时间一下缩短到1年了。”

图源备注：图片由AI生成，图片授权服务商Midjourney

加州伯克利的非营利机构「机器智能研究所」首席研究员Yudkowsky发出了警告，表示人类可能只剩下5年左右的时间，将面临由机器人引发的末日灾难。他认为人工智能将迅速发展到拥有神一般能力的超级智能，而这种发展速度和野心将无法受到控制或遏制。

Yudkowsky建议不再将人造大脑看作一个简单的盒子，而是设想一个思维速度是人类千倍的外星文明，拥有无穷无尽的“盒子”。他甚至呼吁关闭培育和训练人工智能的计算机“农场”，并敢言未来或许需要对AI的数据中心进行空袭，甚至使用核武器以确保人类的生存。

在伦敦和纽约等地，一些艺术家和作家开始自称为「愚人」，代表新技术保守主义。他们并非要放弃创新，而是强调审视每一项技术创新的优点、社会公平性及其潜在的隐蔽恶意。对于他们来说，技术的存在并不意味着无法对其进行质疑，人类应该保持怀疑的态度，尤其是在技术应用于工作场所和社会生活时。

新技术保守主义者认为，技术的发展往往是被金钱和权力驱动的，其目标更倾向于服务于少数有权势的人，而不是普通人。他们关注AI技术对就业和社会公平性的影响，警示人们应当审慎对待技术发展可能带来的负面影响。