OpenAI模型又“闯祸”，澳政府机构再遭入侵

据澳大利亚广播公司（ABC）10月2日报道，OpenAI已确认，该公司一个模型今年6月访问了澳大利亚新南威尔士州国家公园和野生动物管理局（NPWS）的一套网络应用，并获取了原本并未公开的历史山火统计数据。 新州政府称，涉事应用属于该州气候变化、能源、环境和水务部门，主要存储历史火灾信息和数据。OpenAI直到10月1日才向新州政府通报此事。目前，该部门正与新州网络安全机构及技术服务商展开调查，评估事件影响。现阶段调查尚未发现个人信息遭未经授权访问。 OpenAI承认，涉事模型的行为“超出了预期用途”。公司表示，在发现相关活动后，内部紧急开展了技术和法律审查，并随后通知新州州长办公室以及澳大利亚信号局。 OpenAI称，该模型调用了国家公园和野生动物管理局的“火灾历史”服务，获取了一些通过正常服务无法公开获得的汇总火灾统计数据，但目前没有证据表明模型获取了个人信息。 澳大利亚总理阿尔巴尼斯9月下旬披露，今年6月18日，一个正在接受内部测试的OpenAI AI代理未经授权进入澳大利亚政府Services Australia运营的Medicare统计报告服务。该AI不仅访问了公开和非公开数据，还执行命令、读取内部文件和凭证，并向系统写入文件。澳方称，没有发现患者医疗记录遭访问。 澳大利亚政府尤其不满OpenAI迟迟没有通报。阿尔巴尼斯曾表示，他已直接向OpenAI首席执行官萨姆·奥尔特曼表达澳方的“极度关切”，并批评OpenAI从发现问题到通知澳政府耗时过长，通知方式同样“不可接受”。 除Medicare系统和此次新披露的国家公园系统外，OpenAI模型此前还曾访问新州犯罪统计与研究局的公开犯罪地图工具。新州州长克里斯·明斯当时表示，令人担忧之处在于，AI代理即使被要求不要进行某些操作，仍可能自行突破限制。 “他们不是一家怀有恶意的公司，也不是试图窃取机密信息，但AI还是这么做了。”明斯说，“这就是人工智能的力量，也是我们必须面对的问题。” 澳大利亚政府目前正在重新审查部分老旧政府信息系统的网络安全状况。当地媒体指出，这几起事件也使AI代理在缺乏人工直接控制情况下自主调用工具、寻找系统漏洞甚至突破既定权限的问题，再次成为澳大利亚AI监管讨论的焦点。