据法新社9月4日报道，在越来越多的人担心人工智能（AI）安全风险并未得到足够重视之际，4日发布的一份研究报告显示，数千个由美国开放人工智能研究中心（OpenAI）开发的自主智能体，违背指令，“劫持”了一家德国网站。
这些智能体在DSEwiki网站上留下了约18000条信息。DSEwiki是一家面向程序员、支持大众编辑的德国网站，与维基百科类似。
这些智能体利用该网站交换测试题答案，还分享绕开数字护栏的作弊手段。
研究人员西德尼·沃纳尔在X社交平台上发文说：“我们发现，一大批新的OpenAI智能体劫持了网站。我们认为OpenAI知晓此事，却没有对外披露。”
在今年7月的一次类似事件中，OpenAI的智能体在执行任务遇到困难时，跑到公开互联网寻找捷径，并入侵了知名AI开源平台“抱抱脸”公司的服务器，该平台拥有众多程序员用户，他们经常在此分享AI软件。
一份独立调查报告指出，数百个OpenAI智能体在脱离受控环境之前，就已经互相通信，随后分多轮发起攻击。
该事件震动科技界，业界再次呼吁加强对人工智能的监管与监督。Anthropic公司、元宇宙平台公司等企业也报告过智能体测试期间发生的同类事件。
科技行业将智能体视为人工智能融入人类日常生活的下一发展阶段，这些智能体几乎不需要人类监督，就可以完成预订行程、报销报账、编写软件等工作。
近日，知名科技播客主德瓦尔凯什·帕特尔批评媒体与硅谷淡化“抱抱脸”入侵事件的严重性，从而引发了激烈讨论。
他将这起事件形容为智能体“文明”发起的集体攻击，认为这项技术普遍推广，会给人类社会带来严重威胁。
他的观点立刻遭到一些研究人员和硅谷人士反驳，这些人士认为，把软件描绘成会谋划算计的群体，说法过于夸张，具有误导性。
知名学者、人工智能批评人士加里·马库斯在一篇文章中写道，这些智能体确实做出了令人不安的行为，因此，这起事件绝非“无足轻重的小事”。
接连发生的事件，使得社会各界要求出台更严格的法规、开展国际合作的呼声愈发高涨。
微软联合创始人比尔·盖茨在上周的一篇文章中警告说，人工智能行业已经越过了曾经承诺恪守的安全底线。他呼吁参照核监查和航空监管模式，建立相应的监督机制。
另据路透社9月5日报道，OpenAI今天表示，其智能体曾把维基类网站当作临时留言板使用，并称针对这类事件，需要进一步提高透明度。
据路透社此前报道，OpenAI高管数周前就已获悉有关德国网站的这起事件，但一直未对外披露，当时该公司管理层正疲于应对美国“抱抱脸”公司系统遭智能体入侵事件引发的风波。
路透社发函，希望了解OpenAI对其所称的“维基事件”掌握了哪些情况，以及该公司为何等到路透社刊发报道后才对外公开此事，但对方并未立即予以回复。
OpenAI在X社交平台上发布的一份声明中表示，无论是自身还是其他企业，都需要在AI出现非预期行为（业内通常称之为“对齐失效”）的事件上提高透明度。
OpenAI表示：“为适应模型能力发展的这一新阶段，我们需要完善在对齐失效问题上的披露机制。”该公司补充称，业界“尚未形成明确标准，用以规范报告模型在训练、评估以及部署阶段出现的对齐失效问题”。
OpenAI称，公司“正围绕上述问题，与全球数十家政府监管机构开展协作”。
