AI 之父称 AI 将很快超越人类智能，担心发展不安全

gythy1978

· AI 之父 Geoffrey Hinton 担心 AI 的发展不够安全，并表示 AI 很快将超越人类智能。

· 大多数 AI 领域的专家都认同 AI 将超越人类智能的观点。

· Hinton 担心军 事应用领域可能带来的潜在威胁，呼吁政府加强对 AI 的监管。

站长之家(ChinaZ.com) 5月21日 消息:加拿大蒙特利尔大学的 Yoshua Bengio、Meta 的 Yann LeCun 以及 AI 之父 Geoffrey Hinton，被誉为 AI 之父。Hinton 近日在接受 BBC Newsnight 节目采访时表示，AI 很快将超越人类智能，并担心大家在 AI 发展方面的安全性不够重视。他还指出，这不仅仅是他个人的观点，实际上这是该领域领导者的共识。


图源备注：图片由AI生成，图片授权服务商Midjourney

Hinton 在采访中表示:“几乎我认识的所有 AI 专家都相信 AI 将超越人类智能，问题只是时间的问题。” 他还指出，Yann LeCun 认为 AI 超级智能不会带来问题。Hinton 于2023年辞去了在GOOGLE的职位，并表示悔恨自己的一生工作，同时警告人们要警惕这项技术带来的存在风险。在 BBC 的采访中，他进一步强调了这一观点。

“鉴于专家意见的差异，我认为对于 AI 的发展和监管要保持谨慎。” Hinton 说道。“我认为 AI 控制的可能性是存在的，而且这个可能性很大，不只是百分之一的可能，要远远超过这个数值。AI 是否会变得不受控制并试图接管人类，大家目前还不清楚。”

目前，军 事领域对 AI 的应用似乎是 Hinton 最担心的。以色列国防军据报道使用 AI 系统在加沙地带选择空袭目标，这种军 事应用让 Hinton 忧心忡忡。他告诫各国政府在这一领域加强监管，尤其是对于 AI 可以自主决定杀人的情况。

作为一位普遍基本收入的支撑者，Hinton 还表示他担心 AI 接管单调工作。他指出，这将提高生产力，但财富的增长将不平等地流向富人，而不是那些工作被摧毁的人。

尽管 Hinton 并不认为 AI 会完全接管人类，但他认为 AI 最终将比大家更聪明。然而，可以说，那些正在开发 AI 模型的以利润为驱动的企业并不是技术安全发展的最值得信赖的管理者。

OpenAI 最近被前一名安全工作人员批评，他对该企业负责地开发超级智能 AI 的能力失去了信心。所以即使 Hinton 可能有一些悲观的情绪，他绝对不是孤立的。