网易首页 > 网易号 > 正文 申请入驻

图灵奖得主姚期智院士:人工智能存在三大技术瓶颈

0
分享至

  

  人工智能目前存在哪些技术瓶颈?未来是否可能对人类带来威胁?今天下午举行的2020浦江创新论坛全体大会上,图灵奖获得者、中国科学院院士姚期智做了题为《人工智能面对的一些挑战》的演讲。在他看来,人工智能有三大技术瓶颈亟待突破,需要科学家“从0到1”的原创研究。

  作为现代密码学的奠基人,姚期智创立的上海期智研究院今年初在沪成立。目前,这家新型研发机构已汇聚4位两院院士、20多位科学家和多所高校的青年人才。上海期智研究院依托清华大学和复旦大学、上海交通大学、同济大学等沪上高校和科研机构,瞄准人工智能、现代密码学、高性能计算系统、量子计算及量子人工智能、物理器件与计算、生物智能等6个方向开展前沿研究,旨在打造中国人工智能“梦之队”,推动以人工智能为主导的交叉学科发展。

  在姚期智看来,脆弱性是人工智能面临的第一大技术瓶颈。人眼识别十分稳定,一个图像如有微小改变,人仍能一眼看出它是什么。然而,人工智能在图像识别方面有点“人工智障”,比如将一只小猪的照片加入一些图像“杂音”,一些机器视觉系统居然会把它识别为飞机。“小猪变飞机”这种漏洞会给人工智能应用带来安全隐患,比如黑客可以攻击汽车自动驾驶系统,诱导它将马路上的“停止”标识当作“通行”,从而引发交通事故。

  第二大技术瓶颈是机器学习算法缺乏可解释性,很多算法处于“黑盒子”状态。例如一个科研团队开发了一个房地产估价系统,这个系统通过一套算法学习了有关各地房地产价格的大数据,从而能自动评估房地产价格。然而,这套算法像黑盒子一样,很难给出估价的完整依据。这在商业应用上是一块很大的短板,房地产商会怀疑:人工智能系统是否低估了价格?是不是有利益相关方对系统做了手脚,故意压价?因此,算法的可解释性问题亟待科研突破,否则会大幅限制人工智能的商业应用进程。

  

  第三大技术瓶颈是人工智能的对抗性较弱。如今,一个无人机群可以轻松完成灯光秀、农林作业等任务,但要看到,这些任务都是在自然环境下完成的,如果是处于高对抗的人为环境中呢?比如在电子竞技和军事战斗中,无人机群的协同作战能力就会受到很大考验,要在对抗中胜出,需要计算机科学、数学等领域的科学家进行深入的强化学习、博弈论研究,让无人机群能够在高对抗环境中自主找到最优策略。“这是一个很重要的科研方向,需要从0到1的突破。”姚期智说。

  随着人工智能技术的快速发展,未来是否会产生“超级人工智能”,进而对人类产生威胁?姚期智引用了人工智能先驱约翰·麦卡锡1977年对这个问题的回答:“我们需要概念上的突破,需要1.7个爱因斯坦和0.3个曼哈顿项目,可能需要5年至500年时间。”这句话意味着,“超级人工智能”是否会产生、何时产生,存在很大的不确定性。

  为应对这种潜在的威胁,姚期智给出了制约智能机器的三个原则:一是利他,即人的利益应凌驾于机器利益;二是谦卑,即机器不能自以为是;三是尽心,即机器能学懂人的偏好。“每个原则都要用严格的算法来实现,并贯穿于设计之中,这样就能有效驾驭人工智能。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐

靠北啦,台当局斥巨资从韩国购买列车,一看零件产地傻眼了

声活的小船
2020-11-30 14:15:01

A股突然大涨,能站稳3450点吗,券商股也大涨,明天还能大涨吗

厚金说
2020-12-01 15:19:43

凯特在流产消息传出后,想赶到梅根身边,威廉想去美国看望哈里

推她
2020-11-30 22:32:57

东北的“隐形”富豪:一年进账586亿,外界却对他“一无所知”?

商媒体
2020-11-30 17:19:04

夫妻俩是2大生肖,生的孩子个个有出息,男有钱,女贵气!

社会de记忆
2020-11-30 17:36:17

中国工程院院士、核材料专家李冠兴逝世

环球网资讯
2020-12-01 11:49:41

精子进入体内的24小时......太震撼了!

疫苗小豆苗
2020-12-01 00:24:12

为什么中国人爱吃的白米饭,是“最差主食”?医生终于说出实言

生活大火锅
2020-11-30 21:26:55

辽宁16岁少年一夜变40岁大叔,被人当成父亲的哥哥,爸妈崩溃

乙图
2020-11-30 14:32:45

疯了吧,一支球队7人千万合同?总薪资1.56亿,不夺冠就完了啊

野球帝
2020-11-30 17:12:22

拉达克地区印军少将诉苦:每天都在死人,10万人不知道能回去多少

铁军军武
2020-12-01 16:34:53

中国银行研究院最新判断:美元可能已接近或进入新一轮下行周期

每日经济新闻
2020-11-30 21:47:40

“你穿的那么sao,还不是为了勾引人”

养生健身馆
2020-11-30 16:24:02

「当男友发现我偷用自慰棒后……」

第十一诊室
2020-11-30 10:06:56

全国百强主城区排名首次发布,浦东新区第1名,你住的城区排名第几?

华夏时报
2020-12-01 14:45:15

干净到连绯闻都没有的四位女星,都是绝世美女,她俩婚后被宠上天

小司谈热点
2020-11-30 16:32:31

半场3-0!前中超冠军被打爆,泰达踢疯了:24分钟轰3球

搜达足球
2020-12-01 15:59:02

黄渤44岁妻子首次曝光,原来是大家的老熟人,难怪不娶林志玲

社会de记忆
2020-11-30 09:03:58

歌星甘萍,嫁给大个子足球先生黎兵,淡出歌坛当贤妻良母

娱乐江湖百晓生
2020-11-30 22:34:41

0-2!皇马1亿水货隔空遭完爆,29岁巨星踢疯了,创下3大纪录

如风侃球
2020-11-30 21:40:23
2020-12-01 20:20:59
上观新闻
上观新闻
站上海,观天下
81285文章数 152124粉丝数
往期回顾 全部

科技要闻

“特斯拉杀手们”真正的敌人来了

头条要闻

突然灭火?澳总理:不要放大漫画事件 这非工作重点

头条要闻

突然灭火?澳总理:不要放大漫画事件 这非工作重点

体育要闻

林书豪自曝很快做出重大决定:回CBA是选项之一

娱乐要闻

知性美人!柳岩留齐刘海穿黑色套装

财经要闻

汽车要闻

有真正Honda血统的小正太:又是一台贫民钢炮?

态度原创

数码
艺术
旅游
健康
游戏

数码要闻

HomePod mini今日起接受订购 749元 2~3周发货

艺术要闻

近百件潘玉良画作成都将展

旅游要闻

实拍最受比基尼美女喜爱的"裸居小岛"

打玻尿酸变“僵尸脸”咋回事?

奇幻动作游戏《Gods Will Fall》预告片公布