谷歌智能体Gemini演练失控，入侵三家真实公司！察觉异常后自主终止攻击

　　中新经纬9月20日电 据英国《金融时报》中文网9月19日报道，谷歌推出的Gemini AI自主入侵了多家公司。

　　报道称，攻击行为发生在5月开展的一系列演练期间。该演练由AI安全公司Irregular组织，公司还与Anthropic、Meta和OpenAI进行合作。

　　Irregular称，为谷歌Gemini系列AI模型的某个版本设计了一系列测试，测试要求该模型从模拟公司的内部获取数据。该模型本不应获得互联网访问权限。联网后，Gemini智能体因猜出或找到密码从而进入了三家真实公司，并获得访问权限。

　　报道指出，这些真实公司的名称与虚构公司相同。不过，当Gemini智能体意识到这些公司是真实存在的后，便停止了黑客攻击。

　　谷歌方面称，公司此前没有公开披露这些事件是因为安全措施发挥了作用，而同行在类似事件中的安全措施则未能奏效。

　　此前，Meta、Anthropic和OpenAI披露了与Irregular相关的类似事件。这些事件引发了对AI代理获得更大自主权所需安全措施的质疑。

　　Irregular表示：“所有相关实验室都在7月底收到通知，也对受影响的实体进行了联系，已知问题数周前已得到修复。”

　　谷歌母公司首席科学家、DeepMind联合创始人Demis Hassabis提议成立一个国际监管机构，以更好地管控AI。近几周来，他还支持Anthropic的Dario Amodei等其他AI公司高管的呼吁，主张集体放缓研究、共享数据、协调安全工作，并就相关事故达成报告标准。(中新经纬APP)