快好知 kuaihz订阅观点

 

AI换脸两大风险 换脸app停止访问

  上线三天爆红的AI换脸软件“ZAO”的微信分享链接被停止访问了。

  9月1日,记者注意到,打出“仅需一张照片,出演天下好戏”口号的“ZAO”,微信分享链接已停止访问,页面显示“网页存在安全风险,被多人投诉,为维护绿色上网环境,已停止访问”。

  此前,“ZAO”因用户协议涉嫌过度收集用户个人信息,已经引发广泛争议。

  对此,“ZAO”官方微博9月1日已做出回应称:“我们十分理解大家对隐私问题的担忧。你们提的问题都已收到,考虑不周的地方我们会去改,需要一点时间。”

  8月30晚间,打出“仅需一张照片,出演天下好戏”口号的“ZAO”刷屏朋友圈。大量用户使用这款App,上传自拍照片,将自己“变成”影视片段的主角,并将这些“改头换面”过的视频片段,上传微信朋友圈等社交平台,引发“病毒式”传播。

  短短两天之后的9月1日,在苹果应用商店App Store的免费App下载排名中,“ZAO”已经雄踞第一。其火爆程度可见一斑。

  是的,逢脸造戏的Zao真的火了,用户刷屏,服务宕机,风投示好,抄袭蜂拥,但我们不想火上浇油,我们想建议诸位冷静下。

  01

  你的“脸”属于谁?

  与曾经一时风行的其他工具类脸萌、足记一样,Zao的迅速刷屏,是因为其上手很简单。

  下载、注册、上传一张清晰正面照。Zao还会要求用户进行肖像验证。用户需要在摄像头前进行眨眼、扭头、张嘴、低头等三个指示动作,这是为了确保用户上传本人照片,而非恶意使用他人的照片。然后,小伙伴就可以享受AI换脸变魔术了,但你可能没注意,上传到Zao的你的“脸”——肖像权可能已经不再属于你了。

  Zao的《用户协议》很长,忙着换脸的用户估计不会认真看。根据这份协议:用户发布到Zao的内容,必须确认允许Zao及其关联公司,以及Zao的用户在全球内完全免费、不可撤销、永久的使用、修改、编辑等等。

  对于上述协议内容,知识产权律师林华向《独角兽公园》分析,“这里的授权是有必要的,否则用户换脸后也不能在Zao发布了。”

  但他话锋一转说,“但这里要求用户提供的许可没有任何限制,尤其是第6条3项,相当于没有正当理由的直接侵害用户权益,是典型的无效约定。”

  除了用户的肖像有可能被不当使用外,一旦相关信息发生隐私泄露,会给用户带来哪些额外风险?

  有网友提醒说,“有手机号,有面部图像,通过技术合成,犯罪分子可以替你和家人通话。”这样的担忧是杞人忧天吗?在某互联网巨头任职的安全专家告诉《独角兽公园》,不单单Zao,其实很多照片,都可以通过类似Crazy talk这样的应用变为活体,可以解锁不少识别能力不那么高的刷脸应用。“以后到处都是高清摄像头,除非你不出门,否则黑产黑客总有破解的办法。”

  如今,用户私密信息的泄露已经成为常态,每个人都成了“透明人”,很多大公司也掉了底裤。

  也许大多用户觉得多一个Zao无妨。我的一位朋友在朋友圈配资炒股哪家正规吐槽说:“你会把你的银行密码和人分享么?那么指纹呢?为啥你愿意分享你的面部识别特征?保护自己的数字id和隐私,从拒绝随意刷屏做起。”

  02

  视频版权争议

  围绕在Zao身上的另一个争议,是涉嫌侵权。打开“Zao视频”界面,有推荐、合演、名场面、换装、爱豆同台5个子板块, Zao满足了用户和爱豆“贴身同屏”的梦想——和偶像屏内飙戏,来自对大量影视作品人物的换脸。

  但问题在于,上述影视片段,Zao并未宣称获得授权,且用户对电影作品的编辑是否合法,也是争论的焦点。

  针对这一点,北京京师律师事务所律师许浩表示,“如果只是仅供个人娱乐欣赏,将电影中的人物换成自己而不外传,也是法律所允许的。如果不当使用,也未购买作品著作权,可能构成侵犯著作权。”

配资炒股哪家正规  “如果未经影视作品版权人授权歪曲、篡改影视作品,可能构成侵权。此外,未经演员许可,擅自使用了其肖像,可能侵犯肖像权。比如把甲演员的头像放到由乙演员的作品中。即配资炒股哪家正规使其抗辩不是商业用途,属于非营利行为,但在互联网经济模式里,只要有流量就可以带来广告收益等经济效益。”

  “因此,如果肖像权人启动诉讼,可以要求侵权方消除影响,同时要求精神赔偿,虽然目前对于肖像侵权案件的赔偿金额并不高,但是作品要下架,使得该商业模式的潜在法律风险很大。”

  Zao尽管可能还没有直接营利,但是其借此获得乐规模性的用户、流量等,也价值不菲——VC们的蜂拥而至就是例证,所以,如果Zao没有得到合法授权,无法排除侵权风险。

  而不当使用影视素材引发的侵权行为,并不罕见。2006年,未经导演陈凯歌授权的情况下,胡戈在网剧《一个馒头引发的血案》中大量引用电影《无极》的素材,被前者公开斥责,声称要状告胡戈。

  “把本属于别人的知识产权拿过来任意的篡改,任意糟蹋,如果是你的电影,你会有什么样的感受。我觉得这是丧失最基本道德底线的做法。”陈凯歌说。后来这一案件不了了之——Zao会像胡戈一样幸运吗?

  03

  社交的心,工具的命

  Zao在引发的换脸风潮,如病毒般席卷朋友圈的同时,也不禁让人怀疑,这股风究竟能刮多久?追根究底,Zao能在一夜之间引发滔天巨浪,很大程度上依赖社交平台的福利——Zao有一颗社交的心,但很可能是工具的命。

  上次达到同样刷屏效果的是脸萌。这款首发于2013年的拼脸软件,曾经引发了90后的集体刷屏,创造了四天内在iOS和Androd平台累计120万下载量的奇迹。但在刷屏之后,又迅速归于沉寂,昙花一现。

  类似的案例还有足记——2015年,足记以电影大片既视感的图片在半年内刷爆用户朋友圈,横扫十几个国家的摄影排行榜首。在百度指数里,两者的搜索指数、咨询指数都从峰顶跌落到谷底。

  上述工具类App的一夜风行又迅速退场,不外乎几个原因:

  功能单一,最初以极低门槛和有趣的创意满足用户的猎奇心理,但猎奇心理本身又是个易耗品。在经历了大量的同质操作后,用户快速审美疲劳,弃之而去,目前来看,Zao也存在类似风险;无论是今天的Zao,还是当初的脸萌、足记的快速扩散,都要依赖微信之类的社交巨头——用户把其当工具,使用完了分享到了朋友圈。

  归根结底,厉害的其实是微信--上述工具类App都在微信朋友圈完成了火爆刷屏,此起彼伏,风水轮流转,而屹立不倒、稳如磐石的只有微信。

  04

  失控的AI换脸

  其实,Zao配资炒股哪家正规所使用的AI换脸技术并不鲜见。2017年,一位名叫“deepfakes”的用户将自己制作的AI换脸视频发布在了 Reddit 论坛,效果自然,任性的“deepfakes”甚至把色情片的女主角换成了100多位好莱坞明星,神奇女侠的那张小脸就被换到了AV视频的女优身上。

  被换脸的不仅有好莱坞明星,还有硅谷的互联网大佬,以及美国政坛的权势人物。

  6月份,网友就曾利用AI技术,成功换脸Facebook创始人扎克伯格,视频中的人,无论从相貌声音,还是穿着打扮,都跟真的扎克伯格几无二致,可以轻易蒙蔽肉眼。此前,还有人通过剪辑、拼接和慢放等手段,制作了一段美国众议院议长南希·佩洛西的演讲视频。视频中的南希言辞混乱,颠三倒四,宛如深度醉酒。最后,美国国会召开了有史以来第一场有关 DeepFake 类技术的听证会,探讨A配资炒股哪家正规I换脸的正当性。

  对于这些造假的换脸视频到底如何处理?Facebook、Twitter、Instagram的做法是不会删除视频,但会告诉用户,这些视频不是真的;而承诺不作恶的谷歌更为保守,其旗下Youtebe则彻底删除了这些视频。

  类似deepfakes的AI换脸技术,在中国也曾火爆一时。今年年初,一位B站博主肖先生动用“deepfakes”技术,将94版《射雕》中的黄蓉由演员朱茵换成了杨幂,合成结配资炒股哪家正规果十分逼着,毫无违和感。杨幂换朱茵也许真是宅男示好爱豆的游戏,但换脸技术的恶意应用并不罕见。

  在国内,借由AI换脸的黑科技,已经形成了一条完整的色情产业链。100元打包200部换脸情色片,囊括国内一二线女明星,5张照片就可以帮你定制换脸视频,400元就可以购买换脸软件及教程并包教包会,成品情色视频价格从2元1部到30元46部、100元150部和100元200部不等,一般都是打包售卖……

  Zao火了,但围绕着Zao的拷问也如影随形——当普罗米修斯的火种撒向大地,带来的究竟是温暖还是毁灭,无人知晓。

  上游新闻综合自澎湃新闻、钛媒体等



本站资源来自互联网,仅供学习,如有侵权,请通知删除,敬请谅解!
搜索建议:停止  停止词条  风险  风险词条  访问  访问词条  app  app词条  
理财

 买基金该懂的10件事

 在投资理财趋向多元化的时代,是要定存?买基金、股票或投资型保单?还是做期货、选择权?相信困扰不少投资人,尤其是在欧盟国家债信危机如同一颗不定时炸弹下,投资理财...(展开)

理财

 白领过最省钱理财生活, 7妙招已...

 日常生活有很多省钱妙法,不是都做到,若只是做到几个,日积月累下来也会是一笔不小的数目。国内第三方理财机构嘉丰瑞德的理财师认为有必要拿出来分享,这些不降低生活品...(展开)