ZAO引发争议,“AI换脸”技术背后有哪些风险

国家网络办公室报告中心2019.9.9我要分享

有很多方法可以在一夜之间刷屏幕。 AI变脸软件ZAO的开发人员没想到,在大量用户的短视频朋友圈之后的几个小时内,对他们的用户协议和隐私协议的批评很快就消失了。

由于敏感的人脸识别信息和肖像权,ZAO用户协议中的“霸主条款”震惊了大多数用户的神经,即使公司随后迅速修改了协议条款,也很难激怒公众。与普通的照片隐私公开相比,变脸视频软件带来的安全性和隐私风险确实挑战了每个人的实名身份和钱袋子。

换脸软件ZAO隔夜屏幕

“我和胡歌玩过。” “我已经越过了突袭者!” 8月30日晚上,大批网民在社交平台上发布了星空小录像。 “谜”来自变脸软件ZAO。上载个人照片,然后选择要播放的剪辑和替换星标。 ZAO凭借“只需要一张照片,就出演了世界”,迅速获得了数百万的下载量,并在App Store的总电台排名中排名第七,而娱乐应用程序则排名第二,并在一夜之间广受欢迎。

“本月,出租700万租金的服务器今晚已消耗了其中的三分之一。” 8月31日晚上,ZAO官方微博发出了这样的感叹。为了响应大量用户的需求,该软件服务器被粉碎。一时间,“ ZAO崩溃”迅速成为微博上的热门话题,阅读量迅速超过一百万。

该应用程序的开发者是长沙深度融合网络技术。它于2017年9月注册,由海南优卡网络技术有限公司全资拥有。实际控制人是雷小亮和王力。相关信息显示,雷小亮是Mo Mo Company的联合创始人兼游戏业务部门总裁。他负责Mo Mo游戏业务。 Wang Li是Mo Mo Company的联合创始人兼首席运营官,负责Mo Mo的产品和运营。

根据海南的喵网络网络的相关信息,海南喵已的现有股权已全部投资到莫陌的全资子公司北京1602信息技术有限公司。从这个角度来看,喵网络network实际上是Mo Mo的子公司,ZAO也是Mo Mo Company的产品。对此,《北京日报》记者联系了桃木公关部相关人员。截至发稿时,另一方尚未回应。

霸主称“思考恐惧”

ZAO在该应用程序中的排名受欢迎程度有所提高,但用户评分却一路下滑。截至发稿时,该软件在App Store中的评分已降至1.9。原因与软件的用户协议有关。

在用户协议的原始版本中,ZAO规定,一旦发布用户上传的内容,平台默认会获得用户和电影原版主角的肖像授权,ZAO及其关联公司有权在全球范围内“完全免费”。使用,修改和编辑这些内容材料是不可撤销的,永久的,可转让的和可再许可的。

“这被怀疑过度授权了用户的授权,从而使您无形地移交了肖像权。将来,您的脸将完全可以自由使用和更改。”一些法人有公众意见。

中国政法大学知识产权研究中心特聘研究员赵展说:根据合同法的规定,格式条款的提供者免除其责任,加重了另一方的责任,并排除了另一方的主要权利。 format子句是众所周知的overlord子句。无效。 “ ZAO作为提供格式条款的一方,应提醒用户注意免除或限制其自身责任的格式条款。”但是,《北京日报》记者看到,赵无极没有在黑标上做标记。没有其他提示,大多数用户很难发现。

ZAO清楚地意识到互联网上有关其“霸主条款”和“无法删除照片”的纠纷,及时修改条款,并添加了“删除脸部”功能,涉嫌应对用户的隐私泄露,肖像权霸主转移等问题。题。

《北京日报》记者发现,新修订的条款删除了前几条款中的“不可撤消,永久,可转让和可重新许可”,并声称相关内容将严格按照相关法律法规保留在软件中。

滥用AI技术威胁社会保障

ZAO的笔刷屏幕也使人们对技术的关注加深。以前,“ AI Face Change”技术Deepfakes引起了全世界的争议。 “社会将开始怀疑他们看到的每个视频或图像内容。”

七安新产业安全研究中心主任齐志勇说:变脸视频软件带来的真正安全挑战是,当人脸识别技术普及时,传统的人脸识别或生物识别技术应用面临着被人脸识别的风险。破碎。

以前,安全团队将照片转换为眨眼可动的动态照片,以成功实现人脸配准,并反复攻击人脸检测的重要部分。

颜志勇建议:

企业应尽量避免单独使用生物识别技术,而应使用大数据,手动监控和其他手段来辅助数据验证,多方身份验证以识别人脸。个人应尽早将面部识别信息绑定到手机。主动绑定自己会大大降低某人将您的面部识别信息绑定到其他手机的风险。

支付宝安全中心相关人士说:

当前,互联网上有多种变脸软件,但无论多么现实,都不可能突破脸部支付。面部识别后,一些用户还需要输入绑定到该帐户的手机号码进行验证,从而进一步提高了安全性。收款报告投诉

有很多方法可以在一夜之间刷屏幕。 AI变脸软件ZAO的开发人员没想到,在大量用户的短视频朋友圈之后的几个小时内,对他们的用户协议和隐私协议的批评很快就消失了。

由于敏感的人脸识别信息和肖像权,ZAO用户协议中的“霸主条款”震惊了大多数用户的神经,即使公司随后迅速修改了协议条款,也很难激怒公众。与普通的照片隐私公开相比,变脸视频软件带来的安全性和隐私风险确实挑战了每个人的实名身份和钱袋子。

换脸软件ZAO隔夜屏幕

“我和胡歌玩过。” “我已经越过了突袭者!” 8月30日晚上,大批网民在社交平台上发布了星空小录像。 “谜”来自变脸软件ZAO。上载个人照片,然后选择要播放的剪辑和替换星标。 ZAO凭借“只需要一张照片,就出演了世界”,迅速获得了数百万的下载量,并在App Store的总电台排名中排名第七,而娱乐应用程序则排名第二,并在一夜之间广受欢迎。

“这个月,租了700万房租的服务器今晚已经消耗掉了三分之一。”8月31日晚,枣树官方微博发出这样的感叹。软件服务器因应大量用户的需要而崩溃。一时间,“早崩溃”迅速成为微博上的热门话题,阅读量迅速突破百万。

这个应用的开发者是长沙深度融合网络技术公司。公司注册于2017年9月,由海南优卡网络科技全资拥有。实际控制人是雷晓亮和王丽。相关信息显示,雷晓亮是莫默公司联合创始人、游戏事业部总裁。他负责莫莫游戏业务。王丽是钼公司的联合创始人兼首席运营官,负责钼的产品和运营。

根据海南喵网络网的相关信息,海南喵已网目前的股权全部投资于莫莫全资子公司北京1602信息技术有限公司,从这个角度来看,莫莫网实际上是莫莫的子公司。早也是莫默公司的产品。对此,北京日报记者联系了莫莫公关部相关人士。截至记者发稿时,对方尚未作出回应。

霸王术语“思考恐惧”

早在应用程序中的排名人气攀升,但用户评分却一路下滑。截至记者发稿时,该软件在应用商店的评级已降至1.9。原因与软件的用户协议有关。

在用户协议的原始版本中,早就规定,用户上传的内容一经发布,平台就默认获得了用户和电影原主角的肖像授权,而zao及其附属公司有权在全球范围内“完全免费”。使用、修改和编辑这些内容材料,不可撤销、永久、可转让和可分许可。

“这涉嫌过度授权用户的授权,让您无形中交出您的肖像权。未来,你的脸将完全可以自由使用和改变。”一些法律人士公开发表评论。

中国政法大学知识产权研究中心特聘研究员赵展说:根据合同法的规定,格式条款的提供者免除其责任,加重了另一方的责任,并排除了另一方的主要权利。 format子句是众所周知的overlord子句。无效。 “ ZAO作为提供格式条款的一方,应提醒用户注意免除或限制其自身责任的格式条款。”但是,《北京日报》记者看到,赵无极没有在黑标上做标记。没有其他提示,大多数用户很难发现。

ZAO清楚地意识到互联网上有关其“霸主条款”和“无法删除照片”的纠纷,及时修改条款,并添加了“删除脸部”功能,涉嫌应对用户的隐私泄露,肖像权霸主转移等问题。题。

《北京日报》记者发现,新修订的条款删除了前几条款中的“不可撤消,永久,可转让和可重新许可”,并声称相关内容将严格按照相关法律法规保留在软件中。

滥用AI技术威胁社会保障

ZAO的笔刷屏幕也使人们对技术的关注加深。以前,“ AI Face Change”技术Deepfakes引起了全世界的争议。 “社会将开始怀疑他们看到的每个视频或图像内容。”

七安新产业安全研究中心主任齐志勇说:变脸视频软件带来的真正安全挑战是,当人脸识别技术普及时,传统的人脸识别或生物识别技术应用面临着被人脸识别的风险。破碎。

以前,安全团队将照片转换为眨眼可动的动态照片,以成功实现人脸配准,并反复攻击人脸检测的重要部分。

颜志勇建议:

企业应尽量避免单独使用生物识别技术,而应使用大数据,手动监控和其他手段来辅助数据验证,多方身份验证以进行人脸识别。个人应尽早将面部识别信息绑定到手机。主动绑定自己会大大降低某人将您的面部识别信息绑定到其他手机的风险。

支付宝安全中心相关人士说:

当前,互联网上有多种变脸软件,但无论多么现实,都不可能突破脸部支付。面部识别后,一些用户还需要输入绑定到该帐户的手机号码进行验证,从而进一步提高了安全性。

——