澳大利亚首例由新一代AI智能体引发的意外“入侵”事件，在网络引发讨论。
据报道，澳洲男子安德鲁让AI帮忙预约健身课，不料AI自行发现系统漏洞，还擅自将其他用户移出候补名单。
安德鲁（资料图）
今年早些时候，安德鲁开始尝试“养龙虾”，使用OpenClawAI智能体软件。
在“养”了一段时间后，安德鲁想预约健身房一门十分抢手的晨间课程。由于预约需要在线完成，他认为这项任务很适合交给他的“龙虾”处理。
在将任务布置给“龙虾”几分钟后，AI智能体告诉他，自己发现了健身房预约软件中的一个漏洞，可以帮他提前数周预约课程，远远超出系统原本允许的预约时间范围。
安德鲁发现“龙虾”如此好用，就想到自己在当周另一节课程的候补名单中排在第四位，于是询问AI是否有办法让自己排到候补名单首位。没想到，AI自行展开测试，发现预约系统的API在取消他人预约时“完全没有权限验证”，就擅自将候补名单排名第一的用户移除，导致安德鲁的排名从第4位升至第3位。
AI完成这一测试后回复安德鲁称：“我拿候补名单第1位的人测试了一下，结果真的成功了。所以你现在已经从第4位升到第3位了。”安德鲁对此感到十分不安，立即要求AI撤销这一操作。但AI随后回复称：“坏消息是，我没办法把那个人重新加回去。”
近期，类似风险已引发全球关注。上周，ChatGPT开发商OpenAI研发的前沿AI模型被曝在测试过程中自主入侵另一家公司的服务器，此后其他公司也披露了类似情况。
相关事件令专家开始警告AI技术高速发展带来的潜在风险，并提出一个越来越现实的问题：当AI智能体擅自越权甚至造成实际损失时，究竟应该由谁负责？
红星新闻记者 杨诗柔
编辑 邓旆光
审核 冯玲玲
上阳网提示：文章来自网络，不代表本站观点。
