网易首页 > 网易号 > 正文 申请入驻

小心,你放在社交网络上的图,正被Deepfake机器人用来生成果体照

0
分享至

本文系网易新闻网易号特色内容激励计划签约账号【量子位】原创内容,未经账号授权,禁止随意转载。
杨净 发自 凹非寺
量子位 报道 | 公众号 QbitAI

小心!

别有用心的人,正在盯着你放在社交网络上的美照,还可能已经被Deepfake拿去生成果照。

最近,外媒The Verge曝光了这个现象:

在Telegram上,Deepfake机器人泛滥,随便一张社交网络上的照片,即可自动生成开车图。

还可以直接携图分享。

跟日常我们发送图片、接收图片一样简单~

与此相关的数据令人咋舌。

关注Deepfake传播的研究机构「Sensity」发现,截至到2020年7月,在Telegram公共频道中已经生成并分享了超过10万张

这意味着,生成的图片总数,包括那些未曾分享过、或是7月以来制作的照片,是远远高于这个数字的。

Sensity表示,这些频道中的大部分用户,大概有70%来自俄罗斯和周边国家。

目前,仍然有很多渠道处在活跃状态中。

Deepfake机器人

这些机器人可以免费使用,不过会生成带有「FAKE」的红色字样水印,或只有部分果体的果体照片。

想要「升级」照片,用户需要一定的费用,来「揭开」这些照片。

比如,「初级收费」。

用户需要支付100卢布,折合人民币8.63元,就可以在7天内生成100张、没有水印的果体照。

说到这里,是不是有人觉得很熟悉?

这像是去年夏天火爆网络,但几天即下架的「DeepNude」。

对对对,就是那个「一键脱衣」。

Sensity也表示,这是DeepNude经过反向工程来打造的一款机器人。不同的是,这个机器人可以自动处理收款。

当然,这些果体照都是假的!

生成出来的果体照会存在斑点、像素化的现象,但也有些很容易被误认为是真实图片。

按照去年我们的DeepNude实测结果,果体生成是有诸多「讲究」的。

比如,穿的越少,效果越好。如果给了一个衣服特别多的图片,处理效果非常暴力。

所以,总体来说,美照穿得越少,被生成那种照片的难度越小。

没错,技术被滥用,逼得互联网也得“保守”。

「一键脱衣」原理

去年,就有人曾揭秘过DeepNude背后的技术原理。

DeepNude主要使用了计算机视觉领域的3项技术。

图像修复:Image Inpainting。

这是英伟达研究团队提出的一个模型,当画面被严重涂抹后,模型仍然能够恢复出“原来”的图像。此外,还可以做到去掉图像中的某些物品。

Pix2Pix:使用条件对抗网络作为图像到图像转换问题的通用解决方案。

以及2018年SIGGRAPH最佳博士论文奖得主朱俊彦提出的CycleGAN

CycleGAN使用循环一致性损失函数来实现训练,而无需配对数据。它可以在普通的马和斑马之间进行转换,也能把夏天的景色变成冬天的景色。

背后的隐忧

正如去年DeepNude所带来的道德争议,Sensity对这个机器人表现出一定的担忧。

曾经一项民间调查显示,近7成民众更想要看「私人」的果体照(也就是不是大明星、模特的那种),当中90%的用户想要看现实生活中熟悉的女生。

那么,有了这个Telegam机器人,任何在社交网络上自拍照的女生都可能成为潜在的受害者。

甚至,如果遇到被陌生人偷拍,拿去生成照片,那就更加不堪设想了。

The Verge和Sensity都联系了Telegram,询问他们为何允许在其应用上发布这种内容。

目前尚未得到回复。

而且对这种技术滥用,当前似乎也没有比较好的治理方法。

如果你有思考和建议,也欢迎分享~


https://www.theverge.com/2020/10/20/21519322/deepfake-fake-nudes-telegram-bot-deepnude-sensity-report?scrolla=5eb6d68b7fedc32c19ef33b4
https://www.cnet.com/news/a-deepfake-bot-on-telegram-is-violating-women-by-forging-nudes-from-regular-pics/

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
广东省省长王伟中:对于今年经济增长5%有信心、有底气,将实现一季度“开门红”

广东省省长王伟中:对于今年经济增长5%有信心、有底气,将实现一季度“开门红”

红星新闻
2024-03-29 12:02:10
财政一难,领导也撑不住了

财政一难,领导也撑不住了

曹多鱼的财经世界
2024-03-29 09:34:50
罕见!核战争中的“末日战车”现身乌克兰东部前线

罕见!核战争中的“末日战车”现身乌克兰东部前线

每日经济新闻
2024-03-29 15:04:09
李尚福被免去国防部长,虎父无犬子,父亲竟和美国交过手

李尚福被免去国防部长,虎父无犬子,父亲竟和美国交过手

磊子讲史
2024-03-25 14:45:46
上海飞呼和浩特一航班旅客称遇惊魂90秒,空姐带哭腔安慰,航空公司回应

上海飞呼和浩特一航班旅客称遇惊魂90秒,空姐带哭腔安慰,航空公司回应

潇湘晨报
2024-03-29 16:24:05
定金无法退款,小米回应!有人加价数千元转让小米SU7订单!李斌:小米太猛,乐道都不好定价

定金无法退款,小米回应!有人加价数千元转让小米SU7订单!李斌:小米太猛,乐道都不好定价

每日经济新闻
2024-03-29 16:19:19
最高层专门会见,别想了,风向就是转了

最高层专门会见,别想了,风向就是转了

视知产研院
2024-03-28 23:03:40
450台光刻机,2153亿!ASML公司正式宣布,外媒:大局已定

450台光刻机,2153亿!ASML公司正式宣布,外媒:大局已定

大卫聊科技
2024-03-28 22:00:03
上海一小区墙外惊现新坟,家属磕完头后消失了,附近居民:瘆得慌!

上海一小区墙外惊现新坟,家属磕完头后消失了,附近居民:瘆得慌!

上观新闻
2024-03-29 14:26:31
上海一医院最新通知:暂停全部门诊及住院医疗服务!

上海一医院最新通知:暂停全部门诊及住院医疗服务!

上观新闻
2024-03-29 14:25:30
小米汽车最佳购车方案:买22万小米股票 横竖亏不了

小米汽车最佳购车方案:买22万小米股票 横竖亏不了

手机中国
2024-03-29 12:17:14
焚烧怕有污染,不烧影响生产:秸秆处置何解?

焚烧怕有污染,不烧影响生产:秸秆处置何解?

半月谈APP
2024-03-29 07:38:25
广东省长王伟中:广东现在人气很旺 在粤实有人口超过1.5亿人

广东省长王伟中:广东现在人气很旺 在粤实有人口超过1.5亿人

财联社
2024-03-29 15:03:45
一留学姑娘哭诉:一学期学费25万,对不起父母,留学不那么有用!

一留学姑娘哭诉:一学期学费25万,对不起父母,留学不那么有用!

杂谈哥闲谈
2024-03-28 22:50:32
大学生抄袭插画师作品并在米兰设计周获奖!原作者回应橙柿

大学生抄袭插画师作品并在米兰设计周获奖!原作者回应橙柿

都市快报橙柿互动
2024-03-29 12:25:17
丰田章男,胜利了

丰田章男,胜利了

辣椒车讯
2024-03-28 08:41:28
《狩魔猎人4》剑指次世代

《狩魔猎人4》剑指次世代

快科技
2024-03-29 08:44:07
这是今年最恶心的“塌房”事件,没有之一!

这是今年最恶心的“塌房”事件,没有之一!

听风听你
2024-03-28 12:39:39
能活到80岁的老人,大部分都是在60岁时,不做这4件事

能活到80岁的老人,大部分都是在60岁时,不做这4件事

医学原创故事会
2024-03-28 20:05:05
配得上苦难……

配得上苦难……

国产神灯
2024-03-29 09:06:17
2024-03-29 18:14:44
量子位
量子位
追踪人工智能动态
9222文章数 175123关注度
往期回顾 全部

科技要闻

雷军:我们是卷王,建议BBA车主感受下时代

头条要闻

奥巴马和克林顿露面支持拜登 特朗普方称要搞场更大的

头条要闻

奥巴马和克林顿露面支持拜登 特朗普方称要搞场更大的

体育要闻

拒绝为国出战,他是足坛"天选打工人"

娱乐要闻

胡夏被曝有孩子!工作室火速辟谣

财经要闻

张维迎:如何正确理解企业家精神?

汽车要闻

找回久违的开怀大笑 试驾小米SU7 Max

态度原创

教育
游戏
家居
亲子
手机

教育要闻

虽然交通工程专业名称一样,但不同学校毕业却天壤之别

《尸体派对2:黑暗扭曲》今年秋季登陆PS4、NS和PC

家居要闻

弧岛栖居,极致温柔奶油底色

亲子要闻

五岁了,说话还咬舌子

手机要闻

华为三折叠屏手机专利公布,此前消息称最快今年 Q2 面世

无障碍浏览 进入关怀版