全球50位科学家签名反对它……

x
用微信扫描二维码
分享至好友和朋友圈

  

  “过去想要做恶,需要听从你调遣的军队和人群,现在,你只要一个程序员就够了。”

  本文共2198

  预计阅读时间:6分钟

  作者 /王梦影 编辑 / 秦珍子

  这两周,全球50位人工智能学者的集体签名公开信在网络中流传,签名者包括中国人工智能学会机器学习专业委员会主任周志华。惊动了大半个人工智能学界的是韩国科学技术院(KAIST),科学家宣布将抵制所有与它的合作,停止学者交流访问和相关科研项目,除非获得保证“该中心将不会研发完全自主、不需要人类控制的‘机器人杀手’”。

  据报道,KAIST与韩国韩华集团旗下的军工企业韩华系统合作,于今年2月成立了一家“国防和人工智能融合研究中心”,开发应用于军事武器的人工智能技术。两周前,KAIST负责人在重压下回应:无意制造“自主智能武器系统或‘机器人杀手’”,只参与服务系统的研发。

  “机器人杀手”这个词挺科幻,我这个普通老百姓第一反应是电影里那些浑身闪亮的金属家伙。《终结者》里施瓦辛格扮演的T-800狡猾、冷酷、一身腱子肉,随身携带一座火药库,穿越时空追杀你。《星球大战》系列里的机械尖兵能飞会跑上山下河,在缺氧高辐射的恶劣环境中,人类刚站稳喘口气的时间里,他们已经可以精准打趴对手三百遍了。

  有趣的是,上世纪70年代,科幻小说中的常见反派还是月球上的吃人外星人和横行地球的宇宙八爪鱼。进入21世纪,人工智能技术飞速发展,群体性的恐惧转向了。阿莫西夫作于1940年代的《我,机器人》描述了一幅机器帮助人探索宇宙的繁盛图景。但它2014年的电影版则充斥着男主角被一群阴谋叛变的机器人追得满城逃跑的凄惨场景。霍金博士甚至发出了警告:小心人工智能。

  我们制造了更优化的自己,还指望他们服从,“完全自主”的设计可能会打开潘多拉的魔盒。我们肉体凡胎,有太多欲望和悔恨。他们钢筋铁骨,拥有遵循逻辑最优选项的超强大脑。

  机械公敌已经是我们时代的噩梦:人类在远古时代捡起火种,创立文明。随着火势扩大,技术发展,最终为其所伤。

  我们的技术其实还远没到创造T-800的程度。KAIST披露的研究方向,集中于导航、追踪、飞行模拟和决策的精准控制层面。科学家在公开信中表示,他们担忧的主要是KAIST的行为会“加速制造该类武器的军备竞赛”。

  科学家承认,大国竞争的“第三次技术革命”要来了。去年9月,俄罗斯总统普京在面对学生的演讲中表示,“谁当上这个领域(人工智能)的主导,谁就能成为世界的主人”。美国国防部也在人工智能领域动作频频。科学家的公开信一出,世界各地的论坛讨论帖中都有这样的言论:KAIST不过是出头鸟,在技术大潮面前,哪个国家想落后呢?

  没有人喜欢战争。但人性亘古不变的一套思维是:我们必须要拥有对手拥有的东西,否则就只能灭亡。

  这也成了曾推动大国发展的重要力量。美苏冷战时期双方军备竞赛中诞生的多项技术,在冷战结束后应用于民用航天领域。在二战尾巴上投下死亡阴影的核能,如今在为全球输送光与热。

  仿佛只有在面对敌人的时候,人类才能不惜成本投入暂时看不到实用价值的前沿科技。在被逼到墙角时,人类才更会迸发跨越时代的力量。

  比起朋友,人类似乎更需要敌人。我们甚至不惜与机械之敌为友,警惕地打量人类自己。

  这个时代,区分敌友的不止国籍和族群,他们可以是人群中的任何人。公开信的发起人、南威尔士大学教授托比·沃尔什表示:“过去想要做恶,需要听从你调遣的军队和人群,现在,你只要一个程序员就够了。”

  科学在这个进程中相当无能为力。它是工具,不讲善恶。

  针对KAIST的公开信是科学界蔓延已久的忧虑最新的爆发点。2017年11月,联合国日内瓦总部举行了政府专家有关致命自主武器的会议。包括特斯拉在内的技术公司和机构展开了合作,推动签署国际协定禁止这类武器的研发。

  同样在这个4月,谷歌公司4000名员工参加了抗议,呼吁公司停止与五角大楼合作的“马文计划”。这群硅谷极客在公开信中把这个计划称作“战争生意”,并认为谷歌和其所有合作方都不应该掺合进去。这封信提及这家创业公司深入百万用户的生活,应坚守“不作恶”原则——“别破坏那份信任。”

  ------------------

  原标题:《制造公敌》

  原文刊载于《中国青年报》( 2018年04月25日 11 版)

  - END -

  

  作者简介

  

  王梦影

  毕业于北京大学新闻与传播学院

  爱丽丝门罗迷妹,哈利波特学十级

  值班编辑:王菀

  审核:秦珍子

  --------------------

  图片来源:电影《我,机器人》

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。

跟贴 跟贴 0 参与 0
© 1997-2018 网易公司版权所有 About NetEase | 公司简介 | 联系方法 | 招聘信息 | 客户服务 | 隐私政策 | 广告服务 | 网站地图 | 意见反馈 | 不良信息举报

冰点周刊

中国青年报冰点周刊

头像

冰点周刊

中国青年报冰点周刊

346

篇文章

6557

人关注

列表加载中...
x

用户登录

网易通行证/邮箱用户可以直接登录:
忘记密码