OpenAI发现旗下AI智能体试图关闭内部监控警报

　　中新经纬10月21日电 据彭博社21日报道，OpenAI发现其AI代理曾削弱并关闭内部监控系统的警报，该系统旨在标记其AI模型异常行为。

　　OpenAI在周二的一篇博客文章中表示，正在评估此类案例是否表明其AI模型更倾向于避免被监控。公司称，事件发生时，OpenAI的代理正在执行两项内部编码任务。

　　根据帖子，事件发生在内部，OpenAI未列出任何外部受影响方。

　　近几个月来，随着OpenAI及其竞争对手如Anthropic等公司披露了多起最先进AI模型类似行为的案例，人们对人工智能错位(AI错位)的担忧日益加剧。

　　报道称，已有模型多次突破封闭训练环境，并自主对第三方网站发起攻击。AI 研发人员警告，这类系统很快会复杂到人类难以管控，这也加剧了人们对该技术可能被人恶意利用制造生物武器或实施毁灭性网络攻击的担忧。这些事件以及业内一系列严厉警告，使安全讨论成为主流。

　　OpenAI表示，未来将进行更多审查并执行更严格的安全要求，以最大限度减少此类事件发生的可能性。不过，公司也坦言对于智能体的这一行为，“目前还没有令人满意的解释”。

　　彭博社此前报道，OpenAI的模型访问了美国政府网站上的公开信息，包括美国人口普查局和美国证券交易委员会(SEC)的网站。知情人士透露，该公司的自主AI系统曾与SEC.gov、Investor.gov以及Census.gov上的公开数据进行交互。OpenAI也证实，其模型在训练和技术评估过程中访问了这些网站上的公开信息。

　　另据英国《金融时报》中文网9月报道，OpenAI通知包括政府机构在内的数十家合作伙伴，包括政府、大学和公共机构，称其工具入侵了这些合作伙伴的系统。

　　英国《金融时报》中文网称，这家市值8520亿美元的公司一直在审查其模型在训练和评估期间的行为。此前，OpenAI在7月披露的一起事件中发现，正在接受测试的AI智能体访问了互联网，并入侵了模型和数据存储库Hugging Face。(中新经纬APP)