英国论坛
比来几周,Facebook、Instagram等社交平台上高频弹出一段露骨藐视频…
视频里,一位年老男子身穿露肩低胸蕾丝裙,愁容羞怯,轻咬嘴唇…
只见她一脸暗昧地哈腰蹲下,镜头也转成俯拍…全部画面颇像是色情电影的结尾情节,暗示满满。
诡异的是,视频中的男子和在《哈利波特》中饰演赫敏的演员艾玛·沃特森长得如出一辙,看到广告的网友一度认为演员艾玛献身参演了某部色情电影…
当视频播放到末尾,明白的广告口号泛起,大家才明确过去,这段视频其实只是一款App投放的线上广告。
这款App依靠人工智能的人体图象分解技术,即“深伪技术(deepfake)”,为视频中泛起的配角换脸。
App的注册用户只需求每周领取8美元,就可以将恣意的人像照片上传到运用顺序,交换掉一段视频中指定人的脸。
只需几秒钟,一集体的脸就可以被安到此外一集体的身材上,无论对方是异性同性,是不是赤身裸体、行动出格…
“艾玛哈腰”这一幕也由此降生…
仅仅周日到周一两地利间,这个App就在FB、IG共属平台Meta上一共投放了230多条广告,其中“艾玛脸”独占十二7条之多,简直是刷屏般的存在。其中有80条的鼓吹口号仍是“用任何人换脸,享用AI换脸技术”,似乎是在激励制造色情视频的行动。
除了国民度较高的艾玛·沃特森,欧美娱乐界出名度稍高的女明星都没能逃过这款App的换脸推行,出镜率排第二的女艺人是斯嘉丽·约翰逊,200多条中有74条是她,视频也一样充溢撩拨象征…
此外,这款App虽然明面上阻止用户上传色情含量较高的视频,但它首页提供的数十个视频模板里,自身就包孕少量穿戴袒露的男女舞蹈、摆暗示性pose的视频,有不少是从TikTok上搬运过去的。
可在运用顺序商店的简介里,它的春秋限度被标为“9岁禁”,也就是说,只有9岁以上,就能观看、下载使用这些露骨的成人视频…
而最受质疑的仍是播放这些充溢性暗示广告的Meta平台…
近几年,跟着深伪色情视频在互联网上愈来愈广泛,从明星、政客到万粉网红,乃至是普通人都深受其害,有些人被使用隐衷数年绝不知情,发现时,顶着本人肖像的色情短片曾经被卖遍全网。
而那些深伪色情视频喜好者们,往往还能绝不避忌地留下使人作呕的点评:“我看过视频。艾玛十分喜爱它,斯嘉丽也是如斯,连一声哭泣都没有。”
这些变态喜好者中也不乏大众人物,好比头几天被揭-穿后地下发推致歉的30万粉主播布兰登·尤因…
由于色情视频众多,早在2020年,Meta就曾经公布声明称他们正在增强对投放内容的管控。
好比阻止大少数采取深伪技术的视频,以及严禁在广告中使用成人内容,除了裸体,一切露骨、撩拨的姿态也会被调和掉…
但这次这个App投放的露骨广告竟全数绕过了Meta平台的“严格”审核,大模大样涌入用户眼帘…
而那些在不知情的状况下被用了脸的受益者,即便某天发现了这类行动,也极可能投告无门,由于针对深伪照片视频犯法的法律其实不完美…
在美国,目前只要4个州——纽约、弗吉尼亚、佐治亚和加利福尼亚有专门针对深度捏造的法律,英国也是去年11月才将深度捏造归为刑事犯法…
假如平台也松懈监管,状况只会更为失控。
这次广告投放之所以会遭到强烈关注,仍是由于一名美国网友录屏了“艾玛哈腰”的藐视频,在推特上发文质疑,惹起负评热议…
迫于言论压力,苹果和谷歌修正了App的评级,将其迅速下架,但也只是由于外面存在“可能吓唬、耻辱或挫伤任何人的内容”,公司外部并无专门针对深伪技术内容的管控政策。
Meta那边也撤掉了一切的App广告,但尚无任何文字回应…
看来,在平台监管、法律条文完美以前,“在生疏身材上看到相熟脸”的恶梦,不知还会轮到谁…