奇客 一键将女性替换到色情视频的 Deepfake 应用

这个网站简单但却醒目。白色背景之下，一个巨大的蓝色按钮邀请访问者上传一张人脸照片。按饼干下方，则是 4 个由 AI 生成、供用户测试的面部选项。网站上的标语大胆宣告：通过 deepfake 技术把人脸添加进成人视频，每个人都可以是色情明星。没错，只需要上传图片、按下按钮，定制化小黄片就此完成。MIT Technology Review 对该网站表示无语，我们则将其代称为Y。这里就不放具体内容或者截屏了，免得继续给该网站引流。这个网站是由 deepfake 研究员 Henry Ajder 所发现并上报的，他一直在跟踪在线合成媒体的演变与兴起趋势。

目前 Y 网站的名气还不是很大，只有小部分用户在积极通过线上论坛为创作者提供反馈。但研究人员担心这类应用的出现会打破早已脆弱不堪的道德底线。从一开始，deepfake（或者叫AI生成式合成媒体）的主要用途就是创建女性色情视频，但当事人往往会因此受到毁灭性的心理伤害。最初推广这项技术的 Reddit 创作者会将女性名人的面孔转换进色情视频。时至今日，研究公司 Sensity AI 估计网上的所有 Deepfake 视频中有 90% 到 95% 属于未经同意的色情内容，其中又有约九成以女性为主角。