AI生图细思极恐 连它自己也分辨不出真假了

图1：教皇穿着巴黎世家羽绒服的AI图片

北京时间4月12日消息，人工智能(AI)图像生成器的技术正在迅速发展，它不但能够蒙蔽人类，就连专门用于查图的AI工具也未必能分辨真假。

今年1月时，OpenAI的AI文字图片生成模型DALL-E等系统还不够先进，只能渲染出一个手指向后倾斜或多余眉毛在漂浮的人类。但是到了3月，一些图片已经逼真到足以欺骗很多人。

图2：图中有6个破绽

上图是一张由微软必应图像生成器生成的图片，里面有6个破绽，相对容易分别。如果不看标记，你能找出这6个图片漏洞吗？1.她的手指极长且扁平。 2.她的嘴巴似乎少了几颗牙齿，陷进了她的脸。3. 她的手进入了桌子里。 4. 他的手指又长又扁。 5.她的衬衫下垂不自然。6.桌子上的物品混合在一起。

但是，有些AI生成的图片已经达到了以假乱真的地步了。例如，特朗普被捕的图片，教皇方济各穿上巴黎世家白色羽绒服的照片，法国总统马克龙穿过抗议人群的照片。如果不是有人提醒，你可能很难看出这是假图片。这就是为什么埃隆·马斯克(Elon Musk)等 科技 领袖呼吁暂停AI开发等原因。虽然AI生成的内容可能很有趣，但它会给行业和日常互动带来风险。它可以被用来传播错误信息、侵犯知识产权或使人们的照片性感化。

图3：Optic图片工具都被AI欺骗了

一些开发人员正在开发工具，通过分析图像以寻找人工智能做图迹象的工具。但问题是，除非这些工具与它们所监视的图像生成器保持同步，否则即使是它们也可能被愚弄。例如，AI信任和安全公司Optic的工具就被欺骗了，它认为有87%的可信度相信教皇穿着巴黎世家羽绒服的图片是人类拍摄的。

【来源： 凤凰网科技 】