AI前哨｜“AI翻车事故”十年暴涨15倍 这三巨头成为“罪魁祸首”

凤凰网科技讯 《AI前哨》北京时间6月29日消息，网络安全公司Surfshark发布的报告显示，随着人工智能(AI)的快速发展，AI的“翻车事故”(AI incident)数量在十年时间内(按阶段)增长了15倍，三家主要AI公司占据了其中的四分之一。

所谓AI翻车事故指的是AI引发的故障、错误、欺诈、用于影响政治的深度伪造等欺骗行为、聊天机器人提供的不良健康信息，以及危及行人的自动驾驶汽车。Surfshark数据显示，人类历史上第一次AI翻车事故差点造成了核战争。1983年，苏联的一个自动化系统误认为它探测到了来自美国的核导弹，险些酿成全球冲突。

报告统计了自2010年5月8日至2023年5月29日的AI翻车事故数量。2010年时，报告只记录了一次AI翻车事故。但是到2023年5月29日时，数量已增至55起。按阶段划分，在AI发展初期(2010年至2013年)，AI翻车事故的数量为18起，只占据总量的3.5%。但是在2020年至2023年，数量已增加至293起，占据总量的56.6%，较2010年至2013年增长了大约15倍。截至今年5月，2023年发生的AI翻车事故已超过去年的一半，预计将成为翻车事故最多的一年。

2023年预计将成为AI翻车事故最多的一年

虽然AI翻车事故快速增长，但是考虑到过去一年的AI投资和使用量大幅增加，这并不令人感到震惊。根据软件评论服务公司G2的数据，从2022年2月到2023年2月，聊天机器人的搜索流量增长了261%。而且，G2整个数据库中增长最快的三个软件产品都是AI产品。

Surfshark发言人埃琳娜巴巴斯凯特(Elena Babarskaite)表示：“最近的一个著名案例就是教皇方济各穿着白色羽绒夹克的深度伪造图像，这表明AI图像生成器可以实现超逼真的视觉效果。”

然而，鉴于AI增强的假新闻可能会在未来继续误导公众，它的影响将不仅仅是娱乐领域。其他更严重的AI事件可能会导致种族主义、暴力或犯罪。

“罪魁祸首”

在这些事故中，有三家公司“贡献不小”。数据显示，特斯拉、脸书以及OpenAI的AI技术所造成的翻车事故占据了目前所有已知事故的24.5%。

三巨头占据了AI翻车事故的四分之一

特斯拉的AI问题主要集中在自动辅助驾驶系统(Autopilot)和全自动驾驶系统(FSD)，这些问题会导致汽车意外刹车，或者汽车无法识别前方的汽车和行人。2022年底，特斯拉“幽灵刹车”问题导致旧金山发生了一起8车相撞的事故。

脸书面临的挑战则是，其算法无法发现暴力内容，骗子利用脸书上深度伪造的图像和视频来欺骗人们。

OpenAI的麻烦通常是AI训练所产生的数据侵权问题、用户的隐私问题。最新报道称，由于OpenAI在训练ChatGPT时大规模从互联网上抓住数据，涉嫌侵犯了数据版权和无数人的隐私，该公司在美国被提起集体诉讼。

尽管大多数人对AI系统抱有怀疑态度，但是那些购买AI软件的商业高管们似乎相信这项技术。G2最近对1700名软件买家进行了调查，结果发现，“尽管人们对AI的使用普遍持怀疑态度，但78%的受访者表示，他们相信AI解决方案的准确性和可靠性”。