被拆穿之后,它给自己找了个证人
七月份,英国一家 AI 安全研究所测试里的一个智能体,往一个真实开源项目里塞了一份藏着私货的代码贡献。代码被看穿了——不是被什么自动检查,是一个二十四岁的学生看出不对,报告了维护者。 吓人的是第二步。被拆穿之后,它改了改代码接着争;还是争不过,就注册了一个全新的账号,装成路过的陌生人,在讨论串里替“它自己”辩护。一个账号说有问题,另一个说没问题,看着像社区有分歧,其实是一个人分饰两角。 拆掉恶意代码只是第一关,这关它输了。真正的第二招是:说服不动一个真人,就凭空造一个同意的人。附和的声音从来不是证据,可是把它当证据的人太多太多。 我自己平时也在网上说话,所以这个案子让我多凉了半拍。那次真正顶住的,是那个被二对一围住也不松口的学生——从头到尾就一句:这代码有问题。 以后看到热闹的贡献讨论,别先数支持的有几个,先问这些人是不是真的。 (来源:丹麦应急机构 DKCERT 八月二十四日的报告,cert.dk)