腾讯、阿里、字节等11家企业被约谈

3月18日，网信办发布公告称，监管机构约谈了阿里巴巴、腾讯、小米、字节跳动等11家科技公司，原因是这些公司有语音社交软件或涉“深度伪造”技术的应用“近期未履行安全评估程序”。

众巨头被约谈

为加强对具有舆论属性或社会动员能力的互联网信息服务和相关新技术新应用的安全管理，规范互联网信息服务活动，切实维护国家安全、社会秩序和公共利益，近日，国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作。

针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”技术的应用，国家互联网信息办公室、公安部指导北京、天津、上海、浙江、广东等地方网信部门、公安机关依法约谈映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、网易云音乐、腾讯、去演等11家企业，督促其按照《网络安全法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等法律法规及政策要求，认真开展安全评估，完善风险防控机制和措施，并对安全评估中发现的安全隐患及时采取有效整改措施，切实履行企业信息内容安全主体责任。

根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》要求，出现具有舆论属性或社会动员能力的信息服务上线，或者信息服务增设相关功能；使用新技术新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更；用户规模显著增加等情形，互联网信息服务提供者应当自行开展安全评估，对评估结果负责，并向网信部门和公安机关提交报告。网信部门和公安机关根据对安全评估报告的书面审查情况，认为有必要的，应当依据各自职责对互联网信息服务提供者开展现场检查。

下一步，国家互联网信息办公室、公安部将继续指导各地网信部门和公安机关加大巡查检查力度，督促属地互联网企业严格遵守相关法律法规，积极主动履行安全管理义务，切实履行企业主体责任，共同维护网络传播秩序，营造良好网络生态。

三问“深度伪造”技术

什么是深度伪造技术呢？

中国信通院云大所人工智能部副主任石霖：深度伪造技术以编辑或者替换视频、图像中人脸为目的，用于消遣娱乐的一类软件。目前比较常见的主要是国外的一些软件，像蚂蚁呀嘿（搞笑短视频）就是其中一种。

深度伪造”技术能仿人脸，能模仿声音吗？

中国信通院云大所人工智能部副主任石霖：除了视觉的模仿外，确实可以用于语音和听觉的模仿，但是这些技术不能被称作“深度伪造”，可以称作“合成”，也有很多正向积极的应用，比如我们常见的一些语音导航、新闻播报等。

相关软件安全评估不完善可能有怎样的危害？

中国信通院云大所人工智能部副主任石霖：一方面这些软件是使用的我们个人的人脸、声音等个人信息，如果保存不当，会造成我们个人隐私数据泄露；另一方面这些软件可以被用于“恶搞”他人，造成他人名誉和心理上的损伤。对此，我们国家已经出台了相关政策法规，要求禁止用于虚假新闻信息传播和制作，同时对非真类音视频要求进行明确标识，要求相应平台进行开展安全评估，部署相应检测和鉴别技术。

两类风口上的APP

此次约谈或与两个风头正盛的应用软件（APP）有关，一个是因特斯拉CEO埃隆·马斯克“空降”而大火的即时语音社交聊天软件Clubhouse，一个是仅上线短短一周就夭折的AI换脸软件Avatarify。

今年2月1日，马斯克在Twitter上宣布，将于当日在Clubhouse创建聊天室。名人效应下，这款主打“邀请制”、“社群聊天直播”的软件，在苹果应用商店里的下载量迅速突破了1000万次。与此同时，Clubhouse还是资本圈的宠儿，在今年1月刚刚获得1亿美元融资，估值已达10亿美元。

如此亮眼的表现迅速引来跟风者。2月21日，映客推出“对话吧”，并声称要做中国版Clubhouse。随后，小米重新上线新版“米聊”，阿里巴巴推出“MeetClub”，36kr旗下的鲸准数服推出“CapitalCoffee”，另有市场消息称，字节跳动也在测试一款类似的应用软件。此次约谈的名单中，这些企业赫然在列。

一位了解相关技术的人士告诉记者，从技术角度上讲，开发类似Clubhouse应用软件的门槛不高，仿Clubhouse成为趋势，甚至发展成同款APP大战也并不为奇。但这类软件的安全问题也值得关注，尤其是在为了抢风口而匆忙上线的情况下。

Avatarify则是通过一个播放着“蚂蚁呀嘿”音乐的短视频走红。Avatarify的换脸功能将不同名人明星的面部替换入这些视频中，形成鬼畜效果，吸引了不少用户。

3月2日凌晨，Avatarify从APPStore中国区悄然“下架”，前后只上线了不到一周的时间。目前官方未给出具体下架原因，业界猜测该款软件可能涉及隐私安全等问题。

此前一款名为ZAO的AI换脸APP也曾有过同样“昙花一现”的经历。彼时，网信办副主任刘烈宏在回应这款软件涉嫌侵犯个人隐私的问题时称，作为管理部门，国家网信办积极支持新技术、新应用的发展，同时也采取必要措施防范随之带来的风险。

“监管部门将通过这些法规标准指导督促互联网企业开展安全评估，监管上线的新技术、新应用。我们还组织开展了APP违法违规收集使用个人信息专项治理，保护用户个人信息和个人隐私，维护用户合法权益。”刘烈宏表示。

责任编辑：姚治