信息茧房的“锅”,算法该不该背?文理科教授热议智能推荐

x
用微信扫描二维码
分享至好友和朋友圈

  摘要:如果我们的生活排斥了偶然性,很多事情都会崩溃——谈恋爱、打游戏,将变得一点乐趣也没有。

  

  “看我想看,听我想听”,智能推荐在大大提升了我们接收信息的速度时,也带来不少弊端,其中以“信息茧房”最为广受争议。人们担心,算法会让自己被困在狭窄的认知结构中成为井底之蛙,也导致一些智能平台以低俗信息迎合用户口味。

  近日,一场“算法推荐与人工智能圆桌论坛”在复旦大学新闻学院举办。来自复旦大学、清华大学、中国传媒大学、中山大学等院校的知名学者,聚焦“信息茧房”、“隐私保护”主题展开对话。据东道主介绍,这是一次真正跨界的研讨会,与会者学科背景多元,包括了新闻传播学、哲学、计算机、法学等多个领域。

  行业的格局正在深受影响

  中山大学传播与设计学院院长张志安教授介绍,目前主流的算法平台有三类:一是搜索平台,如谷歌和百度;二是社交平台,如微博、微信;三是资讯定制平台,如今日头条。这些平台的数据结构不同,算法推荐的效应也不同。他认为,经过中国式庞大用户样本训练过的算法,其智能化程度可以走在全世界的前沿。尽管个体存在差异,但如此巨大的样本数据量,所得出的是人类普遍兴趣需求。

  张志安以西方研究为例,提出如今主流媒体编辑部的编辑在进行人工判断时候,已在考虑算法编辑价值的影响,比如他们会发现更加情感化的标准会影响到用户。而在过去,人工编辑会更多考虑权威性、重要性等因素。“也就是说,算法推荐主导的新闻价值观正在反过来影响主流媒体编辑的判断原则。我们原来熟悉的新闻价值的标准正在被改变,甚至整个行业的格局也深受影响。”因此他提议,算法推荐的优化和治理需要多方参与,探索算法测量指标的优化。

  中国传媒大学新媒体研究院院长赵子忠教授认为,现在的算法水平能解决的问题只是冰山一角。人工给内容打标签、做推送,目前效率还比较低,技术的进展或可提升信息分类和分发的效率。他认为需要思考的一个问题是:我们对信息茧房的担心,究竟是出于什么原因?

  清华大学新闻与传播学院常务副院长陈昌凤的观点则是,“要让算法助益信息海洋中的‘幸存者’”,业界科技公司很少只用一种算法,而是多种不同类型的推荐算法并重,以此避免“茧房效应”。

  “读心”“走心”和“偏心”

  来自复旦大学各院系教授的观点,也是精彩纷呈。新闻学院执行院长张涛甫教授指出:为什么信息茧房现在变成一个问题?恰恰是因为技术的进步把这个问题放大了。

  “世界上最复杂的东西是人心。”他用三个词表达了技术对人心的把握:一是“读心”,算法就是一种“读心”的技术;二是“走心”,它往往需要对用户广泛洞察、比较精准的到达;三是“偏心”,人心本来就叵测,又有高度的偶然性,它针对人心的把握是有局限的。

  张涛甫认为,从这个角度来看,茧房是人的认知宿命。它从来就有,只不过因算法流行,被我们显著地“看见”了。算法所呈现的用户偏好,并不完整、全面。他指出,用算法技术实现架构化的导流、防止市场上的“劣币”效应,应当实现用户和信息之间的链接和匹配,从单向度、失衡的用户重心,转移到兼顾对内容的考虑。在此之前,还有一项重要的工作——在内容层面进行“垃圾分类”,将劣质内容过滤,避免趣味下沉和“劣币驱逐良币”。

  

  未知的需求,能预测吗?

  “根据我以前看过什么,就预设我未来也会看什么,凭什么我现在就不想看点新的东西?”哲学学院徐英瑾教授指出,算法是压缩偶然性的空间,可以追溯人们过去的爱好,却极难预测未知的需求。

  他认为,对于偶然性的容忍,恰恰是人类生活得以可能的一个特点。如果我们的生活排斥了偶然性,很多事情都会崩溃——谈恋爱、打游戏,将变得一点乐趣也没有。因此他提出,未来的算法模型需要引入诸如认知心理学、认知语言学等学科的研究。

  新闻学院孙少晶教授认为,信息茧房实际上与人的认知来源多元性相关。我们在讨论多元性的时候,会涉及评价指标的问题。来自工程学、心理学、传播学等不同学科的评价指标,差异非常大。而算法技术不是铁板一块,不同的算法,指标和角度是不同的。以前学者更多关注单一信息源的影响。现在,每个人的信息源都是多种多样的,整个社会的学习形式在改变。他认为,茧房效应不是一个简单的“是不是”“对不对”问题,而要把语境、信息同算法放在一起讨论。“我们要回归到复合信息消费的环境里去讨论这个问题,需要更多方面的观点的交锋。”他强调。

  只知其然,不知其所以然

  计算机学院教授肖仰华提出,出现信息茧房,本质上是由于现在的推荐算法大多以流量为导向。实际上很多机器学习的技术和模型可以有效捕捉数据中一些隐藏的特征,在优化、人为筛选目标的同时,辅以多样性目标的引导。这其中确实存在一些技术挑战,但他相信,在技术上这是可行、可控的。

  如今很多数据是只知其然、不知其所以然。未来,人工智能的使命是补全数据背后那些复杂的因果链条,更好地服务用户。“只要在网购平台上点了牛肉卷、羊肉卷、菠菜等,它就可能猜测你做火锅,推荐一些火锅调料给你。”他举例说。机器不单知道你在平台上产生的行为,还能够知道你为什么会产生这种行为。在肖仰华看来,这会是未来算法推荐的一大趋势。

  怎样在网络社会信息茧房具有优势的情况下,弱化茧房效应?新闻学院周笑教授认为,可以从5个角度来弱化:一是内容角度,比如谷歌多年前建数字图书馆,聚集全世界的内容;二是用户角度,庞大的用户规模,也能弱化茧房效应;三是暗知识、暗变量,通过环境、协同特征提取;四是立场转化,激发用户主动参与进行内容分类;五是跨学科,从技术、人文多个角度去引导算法,用有限性提升有效性。

  法学院李世刚教授表示,法律规定搜集个人信息必须符合合法、正当和必要三原则。但现实中操作执行却很困难。比如,使用互联网产品时用户是否可以拒绝推送?平台到底会搜集用户哪些信息?是不是用户的所有信息都可以被搜集?因此,未来的行业规范建设任重道远。

特别声明:本文为网易自媒体平台“网易号”作者上传并发布,仅代表该作者观点。网易仅提供信息发布平台。

跟贴 跟贴 14 参与 38
© 1997-2019 网易公司版权所有 About NetEase | 公司简介 | 联系方法 | 招聘信息 | 客户服务 | 隐私政策 | 广告服务 | 网站地图 | 意见反馈 | 不良信息举报

上观新闻

站上海,观天下

头像

上观新闻

站上海,观天下

13247

篇文章

19222

人关注

列表加载中...
请登录后再关注
x

用户登录

网易通行证/邮箱用户可以直接登录:
忘记密码