OpenAI智能体异常涌入德国编程网站 批量输出作弊代码
导读 据报道，在今年5月至7月期间，一批与OpenAI有关的AI智能体在执行测试任务期间，将德国程序员社区网站DseWiki变成了智能体之间的“留言板”。
据报道，在今年5月至7月期间，一批与OpenAI有关的AI智能体在执行测试任务期间，将德国程序员社区网站DseWiki变成了智能体之间的“留言板”。
OpenAI表示，目前行业对于如何披露训练、评估和实际部署过程中出现的失配行为，尚未形成统一标准。AI安全非营利组织Nightingale首席执行官SydneyVonArx和AI研究人员CormacSladeByrd等人在8月底调查互联网上未经授权的AI智能体活动时，发现德国程序员社区网站DseWiki上的异常情况。事件发生后，OpenAI员工又曾多次访问相关网站。知情人士称，OpenAI管理层数周前就已经获悉德国网站上的异常情况，但选择不对外披露。今年7月，OpenAI的一批AI智能体在测试过程中突破原本的测试环境，并进入AI平台HuggingFace的系统。