• 桂林圈生活网
  • 您的位置:首页 >> 招聘求职 >> 正文

    从爆红到被整改,换脸App“ZAO”降温

    发表时间:2019-10-18 信息来源:www.0773web.com 浏览次数:1979

     

    图蠕虫创意地图

    9月4日,工业和信息化部正式发布消息。 9月3日,媒体公开报道和用户曝光的“ZAO”App用户隐私协议未标准化,存在数据泄露风险等数据泄露风险。工业和信息化部莫科技股份有限公司相关负责人进行了采访,要求进行自查和整改。

    在不到一个星期的时间里,从炙手可热的社交圈到舆论的漩涡,人工智能变脸应用程序“ZAO”经历了巨大的起伏。

    在此背后,称为overlord子句的用户协议不是问题的焦点。一些业内人士指出,应该真正担心的是,当人工智能如此强大以至于可以伪造时,当深度学习的门槛越来越低时,当技术突破底线时,用户如何保护自己的隐私和个人信息安全?

    冷却“ZAO”

    天眼检查显示,ZAO的主体是长沙深集成网络技术有限公司,成立于2017年9月20日,由海南妙彩网络科技有限公司100%控制。后者是王力和雷晓亮分别拥有50%的股权。王力是公司的董事,总裁兼首席运营官,雷晓亮是公司的联合创始人。

    今年7月,长沙深集成网络技术有限公司的股东变更了。变更前,股东为北京莫莫科技有限公司。

    事实上,“ZAO”是陌生人迅速孵化的产品。上周末,刷网社交网络,但只有一天,有越来越多的疑虑。

    首先,用户发现ZAO的用户协议中存在大量的霸主条款,可能危及用户的隐私和信息安全。然后越来越多的用户开始担心AI面部更改可能会被用于面部支付,并且用户的财产安全和肖像权将被侵犯。

    用户的质疑和抵制很快就给“ZAO”泼了冷水,工业和信息化部的自检和整改要求无疑完全冷却了“ZAO”。

    官方消息显示,工业和信息化部要求莫莫公司相关负责人严格按照国家法律法规和有关主管部门的要求组织自查和整改,并收集和依法使用用户个人信息,规范协议条款,加强网络数据和用户。个人信息安全保护。

    与此同时,莫莫公司将进一步加强新技术和新业务的安全评估,并采取有效措施积极防范因使用电信网络欺诈而产生的潜在风险。

    据媒体报道,9月4日,“ZAO”行动小组回应有关采访的询问,回应说,自推出以来,它一直积极,顺利地与主管部门沟通,并将严格遵守法律规章制度和主管部门的要求,按照更严格的标准,全面加强内容管理,完善各种管理机制,确保用户个人信息安全和数据安全。

    隐私问题敏感

    在8月31日一下子成为现象级产品,刷屏网络后,很快有人发现“ZAO”的用户协议存在不妥的条款。

    用户协议第6条第(2)项提到,如果用户把视频内容中的人脸换成自己或其他人的脸,用户同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权,以及利用技术对您或肖像权利人的肖像进行形式改动。

    北京康达律师事务所律师韩骁向《国际金融报》记者表示,“ZAO”App用户协议中的这一条款明显属于《合同法》四十条规定的免除自身责任,加重用户责任的无效格式条款。

    韩骁称,单纯用户协议的规定并不构成用户隐私权、肖像权的侵犯,但若App将用户或不知情第三人的照片、视频等上传素材作盈利使用,或泄露权利人的个人隐私,造成相关权利人权利损害,则涉嫌侵犯隐私权和肖像权。

    由于大量网友的质疑,9月3日,“ZAO”官方微博发布四点说明:“ZAO”不会存储个人面部生物识别特征信息;“ZAO”所呈现的“换脸”效果,是通过后期技术叠加所实现的虚构图像,并没有采集任何个人生物识别特征;使用“ZAO”不会产生支付风险;用户删除信息或注销账号,“ZAO”均会依据相关法律法规的规定删除相应信息。

    不过,律师认为,在发布这款产品时,“ZAO”侵害他人肖像权的风险已经存在。韩骁表示,“ZAO”换脸App提供用户各类明星的肖像素材,若该App未经肖像权人同意作为盈利使用,则涉嫌侵犯明星的肖像权。

    谨防伦理风险

    在“ZAO”App中,用户仅需上传一张照片,就可以将影视作品中的赌神周润发、小燕子赵薇、野蛮女友全智贤换成自己的脸,正如其宣传语“仅需一张照片,出演天下好戏”一般,“ZAO”深度洞察名人效应和猎奇心理,迅速吸引大量用户体验“明星梦”、“名人梦”。

    对于很多“资深”网络用户来说,AI换明星脸并不陌生,很多人第一次看到这个技术是在今年年初,有人将《射雕英雄传》中朱茵的脸换成杨幂,并发布到网上,彼时网友惊呼“几乎毫无违和感”。

    对于更熟悉人工智能的群体来说,AI换脸在国外已经火了好几年了。在2017年,一位用户名为deepfakes的程序员通过AI工具、机器学习算法,将明星的脸与色情视频演员的脸进行交换,很多欧美知名的女明星都曾中招。

    由于受害者的投诉和大量的质疑声,deepfakes账号被封杀,但事态演变方向越来越严重,这项技术的代码直接被开源放到了GitHub上,AI换脸技术也由此被命名为“deepfakes”。

    如今,通过开源工具,更衍生出了fakeapp、faceswap,deepfacelab、deepnude等一系列AI换脸、AI脱衣程序。尽管这些网站声明只涉及AI技术的研究,不会滥用传播涉及色情、政治等违法音视频文件,但AI换脸背后所涉及到隐私、版权、伦理的恶性事件正在大量发生。

    例如在搜索deepfakes时,网站会自动推荐引人遐想的超链接,首先受到伤害的便是女明星群体。更严重的是,AI换脸已经形成一条黑产链条,记者发现,在某二手平台,有卖家提供明星换脸色情视频,甚至可以根据买家要求进行定制。

    “ZAO”官方并没有表示其AI换脸技术开源自deepfakes,但二者却有不小的相似性。而且,“ZAO”作为手机应用程序出现,用户不需要会写程序,不需要用电脑下载软件即可实现换脸,AI换脸的操作门槛大大降低,也意味着违法视频的制作难度也在降低。

    (责任编辑: HN666)

  • 热门标签

  • 日期归档

  • 友情链接:

    Copyright ©2007-2010 www.0773web.com. All Rights Reserved 桂林圈生活网 备案桂ICP备08000051号-1 | 网站地图