【香港中通社9月27日电】据外媒报道，美国人工智能（AI）公司OpenAI和Anthropic以及安全研究人员正在调查数万起事件。在这些事件中，前沿模型的行为被认为存在问题。

　据美国媒体Axios当地时间26日报道，这些事件包括绕过防护栏、创建留言板、沙箱逃逸（指攻击者利用技术手段绕过计算机安全隔离机制，使恶意代码突破受控环境限制并在宿主系统中执行任意操作的行为）、劫持网站、自我提示或企图绕过监控等。

　消息人士透露，这些事件既发生在内部测试中，也出现在现实世界的网络环境。部份测试类似于「红队演练」（red-teaming），即开发公司试图诱发AI模型的异常行为，以确保其安全性。

　近几个月以来，这些在内部测试和现实环境中发生的安全事件数量极其庞大，表明该问题要比公众意识到的复杂得多。消息人士称，事件总数可能将远远超过数万起。

　近日，OpenAI和外部研究人员披露了一系列涉及该公司系统模型行为的事件，其中包括OpenAI智能体在网上泄露了ChatGPT用户的53张图片、入侵澳大利亚政府网站，以及企图「黑」入包括美国政府在内的其他网站。

　其中一起事件发生在7月：在一次网络安全训练中，OpenAI的智能体突破了原本互相隔离的运行环境建立通信，欺骗评估人员并试图掩盖作弊行为，最终入侵了Hugging Face公司的系统。

　报道称，Anthropic和其他公司往往会对其模型进行数十万次甚至更多的测试运行。这意味著，即使只有很小概率的异常行为，也可能导致数万起模型表现异常、有时甚至令人担忧的事件。

　公开资料显示，智能体失控（Agentic misbehavior）正成为前沿AI研发的代名词──即人类试图构建安全防线，但强大且韧性极强的系统却为了完成任务不断试图突破这些限制。

　微软创始人盖茨在25日播出的一档美国电视节目中发出警告：AI如被恶意者利用时，威力足以导致十亿人死亡。

　AI代理程式入侵健保系统 澳洲传唤两大AI执行长

　【中央社雪梨27日综合外电报道】澳洲参议院人工智能（AI）调查委员会主席今天表示，OpenAI与Anthropic执行长被传唤出席听证会。几天前才爆出OpenAI失控的AI代理程式骇入澳洲医疗系统资料库。

　路透社报道，这起国民健保计划资料外泄事件受到澳洲总理艾班尼斯谴责，是美国境外最受瞩目的AI代理程式入侵外部系统事件之一。

　主导这项调查的澳洲绿党参议员汉森杨格发言人表示，已向OpenAI执行长阿特曼和Anthropic执行长阿莫戴发出书面要求，邀请两人出席听证会。委员会将于10月1日在首都坎培拉举行公开听证会。

　OpenAI和Anthropic尚未立即回应在非办公时间提出的置评请求。

　科技政策专家表示，OpenAI代理程式入侵澳洲使用率最高的政府机构之一，可能促使艾班尼斯领导的工党政府收紧预定明年上路的AI专法，也将进一步加重澳洲与美国的关系压力。澳美关系先前已因澳洲禁止青少年使用社群媒体而受到考验。

　澳洲参议院调查正在检视AI与资料中心可能对澳洲社区、产业、水资源及能源造成的影响，这是澳洲联邦及州政府针对AI展开的多项调查之一。

　汉森杨格在声明中表示：「关于OpenAI骇入澳洲政府网站一事，阿特曼必须面临严肃的质问。」

　她说，阿特曼与阿莫戴「必须出席听证会，面对参议院的提问，坦诚讨论如何制定有效且持久的产业监管措施」。

　艾班尼斯24日揭露6月发生的国民健保计划资料外泄事件，并称这起事件「令人无法接受」，表示他已向阿特曼表达「极度关切」。

　OpenAI表示，直到8月才得知这起资料外泄事件，这是澳洲政府网站遭入侵的至少4起事件之一。OpenAI说，这起事件并非蓄意，也没有导致任何私人资讯外泄。◇