Claude主导26%研发、参与90%工作、3万agent同时在线……Anthropic报告称，用最高12%计算资源做安全监控

　　中新经纬9月18日电 据彭博社报道，美国人工智能公司Anthropic表示，公司超过四分之一的人工智能研发工作，已经由旗下大模型Claude主导。

　　报道称，Anthropic发布的一份报告显示，Claude主导了公司26%的研发工作，但在年初几乎没有。与此同时，Claude还与员工合作完成了超过90%的工作。

　　Anthropic还重申，计划引入多个第三方评估组织并授予后台访问权限，“人工智能系统正指数级增强并开始自我进化，随着全球考虑放缓前沿人工智能的发展步伐，公众需要了解更多信息。”

　　报道介绍，Anthropic是几家专注于“自我进化”(RSI)的人工智能公司之一，也就是可以在几乎不依赖人的帮助下自我改进的人工智能系统。一些公司将这种方式视为人工智能发展的未来，但也加剧了对人工智能可能带来安全威胁的担忧。

　　在报告中，Anthropic还介绍，公司试图创建一个框架来跟踪agent(代理)，并监控它们在平台上所做的工作量。截至8月，任何时候都有3万多名agent在进行研究或工程工作。

　　Anthropic还阐述了如何在确保人工智能安全的前提下，为加速人工智能发展分配资源。测试结果显示，根据所做研究的类型，其6%至12%的计算资源用于安全监控。

　　上周，人工智能存在性风险的焦虑加剧。报道指出，在过去几天里，包括Anthropic首席执行官Dario Amodei和OpenAI首席执行官Sam Altman在内的多家人工智能公司领导人，都在敦促放缓技术开发步伐，以应对其日益不可预测的风险，尽管他们对如何处理这些问题存在分歧。

　　英伟达首席执行官黄仁勋表示，人工智能公司可以自行调整步伐以保证安全。Meta首席执行官扎克伯格认为，人工智能实验室应该依靠独立的评估人员和顾问来确保模型的安全。(中新经纬APP)