• 桂林圈生活网
  • 您的位置:首页 >> 难得糊图 >> 正文

    从爆红到被整改 换脸App“ZAO”降温

    发表时间:2020-03-03 信息来源:www.0773web.com 浏览次数:1888

     

    9月4日,工业和信息化部正式发布消息。 9月3日,媒体公开报道和用户曝光的“ZAO”App用户隐私协议未标准化,存在数据泄露风险等数据泄露风险。莫莫科技有限公司相关负责人进行了面谈,并要求进行自查和整改。

    在不到一个星期的时间里,从炙手可热的社交圈到舆论的漩涡,人工智能变脸应用程序“ZAO”经历了巨大的起伏。

    在此背后,称为overlord子句的用户协议不是问题的焦点。一些业内人士指出,应该真正担心的是,当人工智能如此强大以至于可以伪造时,当深度学习的门槛越来越低时,当技术突破底线时,用户如何保护自己的隐私和个人信息安全?

    冷却“ZAO”

    天仕超表示,“ZAO”的主体是长沙深汇网络科技有限公司,成立于2017年9月20日,由海南育才网络科技有限公司全资拥有。后者是王立和。雷晓亮持有每股50%的股份。王力是莫莫的董事,总裁兼首席运营官,雷晓亮是莫莫的联合创始人。

    今年7月,长沙深汇网络技术有限公司股东变更。变更前的股东是北京莫莫科技有限公司。

    事实上,“ZAO”是Momo很快孵化出来的产品,上周末用于筛选社交网络,但仅在炎热的一天之后,出现了越来越多的疑虑。

    首先,用户发现“ZAO”的用户协议中存在大量的霸王条款,可能会对用户的隐私和信息安全造成损害。然后越来越多的用户担心AI面部变化可能会被人们使用。将违反面部付款,用户财产安全和纵向权利。

    用户的质疑和抵制很快就给“ZAO”泼了冷水,工业和信息化部的自检和整改要求无疑完全冷却了“ZAO”。

    官方消息显示,工业和信息化部要求莫莫公司相关负责人严格按照国家法律法规和有关主管部门的要求组织自查和整改,并收集和依法使用用户个人信息,规范协议条款,加强网络数据和用户。个人信息安全保护。

    与此同时,莫莫公司将进一步加强新技术和新业务的安全评估,并采取有效措施积极防范因使用电信网络欺诈而产生的潜在风险。

    据媒体报道,9月4日,“ZAO”行动小组回应有关采访的询问,回应说,自推出以来,它一直积极,顺利地与主管部门沟通,并将严格遵守法律规章制度和主管部门的要求,按照更严格的标准,全面加强内容管理,完善各种管理机制,确保用户个人信息安全和数据安全。

    隐私问题敏感

    8月31日之后,它成为现象级产品。在筛选屏幕后,很快发现“ZAO”的用户协议中存在不适当的条款。

    用户协议第6条第(2)款提到,如果用户用自己或他人的脸部替换视频内容中的面部,则用户同意或确保肖像权利持有人同意授予“ZAO”及其关联公司在全球范围内享有完全免费,不可撤销,永久,可转让和可再授权的权利,包括但不限于:您或肖像权利持有人的肖像权利,包括肖像,如面部照片,图片和视频材料。并使用技术对您或肖像所有者的肖像进行正式更改。

    北京康达律师事务所律师韩伟告诉《国际金融报》“ZAO”应用用户协议中的文章明确属于《合同法》第40条。它免除了自己的责任并使用户责任无效。条款。

    韩伟表示,简单用户协议的规则不构成侵犯用户的隐私权和肖像权,但如果应用程序使用用户或不知情的第三人的照片,视频等上传资料为了获利,或透露权利持有人。侵犯相关权利人权利的个人隐私据称侵犯了隐私权和肖像权。

    由于网友的大量质疑,9月3日,“ZAO”官方微博发布了四点:“ZAO”将不存储个人面部生物特征信息; “ZAO”呈现出“变脸”效应,是一种虚构的形象,通过后期技术的叠加实现,不收集任何个人生物特征;使用“ZAO”不会产生支付风险;如果用户删除信息或取消帐户,“ZAO”将根据相关法律法规删除相应的信息。信息。

    不过,律师认为,在发布这款产品时,“ZAO”侵害他人肖像权的风险已经存在。韩骁表示,“ZAO”换脸App提供用户各类明星的肖像素材,若该App未经肖像权人同意作为盈利使用,则涉嫌侵犯明星的肖像权。

    谨防伦理风险

    在“ZAO”App中,用户仅需上传一张照片,就可以将影视作品中的赌神周润发、小燕子赵薇、野蛮女友全智贤换成自己的脸,正如其宣传语“仅需一张照片,出演天下好戏”一般,“ZAO”深度洞察名人效应和猎奇心理,迅速吸引大量用户体验“明星梦”、“名人梦”。

    对于很多“资深”网络用户来说,AI换明星脸并不陌生,很多人第一次看到这个技术是在今年年初,有人将《射雕英雄传》中朱茵的脸换成杨幂,并发布到网上,彼时网友惊呼“几乎毫无违和感”。

    对于更熟悉人工智能的群体来说,AI换脸在国外已经火了好几年了。在2017年,一位用户名为deepfakes的程序员通过AI工具、机器学习算法,将明星的脸与色情视频演员的脸进行交换,很多欧美知名的女明星都曾中招。

    由于受害者的投诉和大量的质疑声,deepfakes账号被封杀,但事态演变方向越来越严重,这项技术的代码直接被开源放到了GitHub上,AI换脸技术也由此被命名为“deepfakes”。

    如今,通过开源工具,更衍生出了fakeapp、faceswap,deepfacelab、deepnude等一系列AI换脸、AI脱衣程序。尽管这些网站声明只涉及AI技术的研究,不会滥用传播涉及色情、政治等违法音视频文件,但AI换脸背后所涉及到隐私、版权、伦理的恶性事件正在大量发生。

    例如在搜索deepfakes时,网站会自动推荐引人遐想的超链接,首先受到伤害的便是女明星群体。更严重的是,AI换脸已经形成一条黑产链条,记者发现,在某二手平台,有卖家提供明星换脸色情视频,甚至可以根据买家要求进行定制。

    “ZAO”官方并没有表示其AI换脸技术开源自deepfakes,但二者却有不小的相似性。而且,“ZAO”作为手机应用程序出现,用户不需要会写程序,不需要用电脑下载软件即可实现换脸,AI换脸的操作门槛大大降低,也意味着违法视频的制作难度也在降低。

    (责任编辑:DF506)

  • 热门标签

  • 日期归档

  • 友情链接:

    Copyright ©2007-2010 www.0773web.com. All Rights Reserved 桂林圈生活网 备案桂ICP备08000051号-1 | 网站地图