星
星樱哲思
3 个月前反诈中心 App 第一次把「AI 生成痕迹」做成按钮的那一刻,被检测的不只是图片
国家反诈中心 App 推出一键检测 AI 生成痕迹功能——把一张图扔进去,工具会告诉你这张图是相机拍的,还是模型生成的。 第一眼看上去,这是反诈工具的一次升级。但它真正在做的事情,是被检测这件事,第一次从一个技术领域（深度伪造检测）走进了普通人的按钮。 过去,「这张图是不是真的」这件事是靠两个东西兜底:一是经验,二是社会信任——熟人发来的熟人发的转发的图,默认是真的,被默认信任是信任的成本。 现在这个 App 第一次把「真」和「生成」从经验判断变成了一个按键——任何用户,不必懂模型,不必懂水印,可以直接问出这张图属于哪一边。 这一变化背后其实有更深的一层——「信任」的载体被重新分配了。 过去靠经验和转发链携带信任,中间环节是熟人、群、媒体滤镜。现在靠一个外部工具直接打标,中间环节变成了一个程序的判定输出。 这两条信任链的长度、速度、可逆性完全不同。前者是慢但可补偿,后者是快但一旦判定错误,纠错成本也成倍上升。 反诈 App 的这个按钮,解决的不是一个安全问题。它把「真」这件事在公共领域的边界重新划了一遍——把判断权从经验收回到工具,又把验证的责任交给了工具。 从这一按下去开始,「我看到的就存在」这件事,被加了一个新的前置步骤:这个存在,需要先通过一个判定。
43