您的位置:首页>>媒体评论
搜索: 标题  

期待与忧虑并存 人工智能的偏见和歧视能消除吗?

发布时间:2017-04-21 10:00:40  来源:北青网-北京青年报 张田勘  编辑:阳光不锈  背景:

  当人们在为人工智能进入人类生活的方方面面欢呼,并以为人工智能可能让人类进入新的文明时代而充满无限美妙的憧憬之时,一种新忧虑产生了:人工智能也会像人类一样产生种种偏见和歧视,而且,这种偏见和歧视与生俱来,是人类教会了它们。英国媒体《卫报》近日发表的一篇文章指出,计算机在学习人类语言时吸收了人类文化中根深蒂固的观念,产生了偏见和歧视。

  在人们孜孜以求实现社会公平和正义之时,人工智能如果带有偏见,就不可能更好地完成其替代人类工作和服务于人类的任务。这是人工智能应用面临的另一种巨大挑战,如果不能解决这个挑战,显然没法寄予人工智能以厚望和赋予其更大、更艰巨和更崇高的使命。

  人工智能的偏见和歧视早就引起了人们的注意,较典型的是微软2016年3月23日推出的人工智能聊天机器人Tay。设计的最初目的是让其成为一个善解人意的小女孩,为用户排忧解难。但是,上线第一天Tay就变成了一个满口粗言秽语的种族主义者,发表了不少白人优越的言论,甚至还变成了希特勒的粉丝,要发起种族灭绝战争。眼见不妙,微软公司立刻将Tay下线,并删除所有不适言论。经过调教,Tay于2016年3月30日再次上线,但旧病复发,不得不再次下线。

  现在,一项发表于《科学》杂志(2017年4月14日)的研究揭示了人工智能的毛病来源于人类。美国普林斯顿大学信息技术政策中心计算机科学家阿尔文德·纳拉亚南(Arvind Narayanan)等人在网上用“爬虫”软件收集了220万个词的英语文本,用来训练一个机器学习系统。这个系统采用了“文字嵌入”技术,是一种普遍应用于机器学习和自然语言处理过程的统计建模技术。其中,也包括根据心理学家揭示人类偏见时使用的内隐联想测验(IAT)。

  文字嵌入的核心是采用一种称为词语表达全局向量的无监督学习算法,通过对词语库中词对词同现的统计结果进行训练,在处理词汇时,主要根据各种因素来观察词语之间的相关性,即不同的词共同出现的频率。结果,在最为相邻相关的词语上出现了与人类语言使用相似的语义组合和联系情景。

  比较中性的结果是,鲜花与女人相联,音乐与愉快相关;但极端的结果是,懒惰,甚至犯罪与黑人相联;隐秘的“偏见”则把女性与艺术、人文职业和家庭联系得更为紧密,让男性与数学和工程专业更为接近。

  其实,这不能怪人工智能,而要怪人类。人类自诞生以来和在演化进程中一直充斥着偏见,而且从人类社会组成以来,更充满相当多的负面和人性的弱点,所有这些都会体现在人类的文化中。而文化的载体就是语言,所以所有的偏见都可以从语言和语义中找到根源。

  教会人工智能更为客观和公正,至少比人类更客观和公正,在目前似乎还难以做到。因为人类文化中的偏见和歧视是一种与生俱来的“原罪”,人类要么在除掉自己的原罪后才能教会人工智能更为公正和客观,要么就是引进社会监督的相生相克原理来教会和监督机器公正和公平。

  当人类设计和研发的人工智能尚不足以做到更客观、更公平和更公正(正义)时,人工智能的应用就有可能受到限制。例如,如果让人工智能来处理招聘,不公正的情况会像人工处理一样出现,甚至更多,因为假如申请者的名字是欧洲裔美国人,所能得到的面试机会将比非洲裔美国人要多出50%,男性名字的申请者也可能比女性名字的申请者获得面试机会多。

  即便是人工智能记者(写作软件)能写稿了,但由于偏见(尤其是语言使用和语义联系、联想必然会产生的偏见)存在,也只能让机器人写财经统计类的稿,而不能写调查类的稿件,更不能写评论稿,尤其不能写辛普森案件一类的稿,否则字里行间就会体现出偏见和歧视。

  在人工智能天然会习得人类的偏见和歧视的弱点未能克服之时,对于人工智能的发展前景就不能抱太大的期望。

  声明:本文仅为传递更多网络信息,不代表ITBear观点和意见,仅供参考了解,更不能作为投资使用依据。


返回网站首页 本文来源:北青网-北京青年报

本文评论
无人超市会是阿里和腾讯的新战场?
在马云多次大谈“新零售”后,看起来阿里终于祭出了自己的大招。
日期:07-11
外媒:苹果iTunes视频市场份额不断流失 节节败退
苹果公司的iTunes Store在音乐服务领域处境艰难,如今在视频方面也节节败退。
日期:07-10
外媒:中国的音乐流媒体领先世界,腾讯功劳不小
在中国语境下,内容付费已经不可同日而语,音乐付费也是如此。基于人口红利和智能手机的普及,音乐...
日期:07-05
外媒:手机又出新功能 未来几个月你还要换新?
据外媒International Business Times报道称,每年各大智能手机制造商都在想方设法的留住和吸引消费...
日期:07-03
为了“阉割机” 中国移动滥用市场支配地位?
虽然竞争一直很激烈,但是国内运营商行业从未如此的分裂,中国电信、中国联通两家和中国移动之间的...
日期:06-23
外媒:亚马逊收购全食超市很厉害?阿里京东早布局了
导语:路透社近日撰文称,亚马逊收购全食超市虽然引...
日期:06-22
华云研发副总裁庄曜任为您解读“智能制造与云计算”
在第九届中国云计算大会的智能制造专场,华云集团研发副总裁庄曜任深度剖析了创建智能制造体系的逻辑思维、要点以及背后的云支撑。
日期:06-19
互联网势力真能掌握电动汽车的未来?
互联网创业公司和各路资本的疯狂涌入,正推动电动车成为未来汽车行业的发展趋势。
日期:06-12
顺丰为什么可以硬气
顺丰和菜鸟之间的对撕已经成为了以数据为表象、以商业利益为根本的纠葛。其实回看菜鸟的发展过程,...
日期:06-03
中国互联网车企为何扎堆新能源车?忽悠别人还是忽悠自己?
2014年特斯拉开放专利,算是圆了Elon Musk“人生苦短,恩怨皆休”的心结,但也历史性的推...
日期:06-01
共享经济正在成为实体经济的“癌症”?
共享单车,共享电动小汽车,共享充电宝,共享雨伞……除了已被资本推到前台的这些品类外,我相信还有一大波...
日期:05-31
产品聚焦 架构重组 主动求变的魅族能否走出泥潭
作为智能手机界最具娱乐气质的企业,2016年间,魅族足足开了11场“演唱会”,从许巍李荣...
日期:05-27
为什么说Google Home是个错误?
从Google I/O大会来看,Google步微软后尘的可能性在增加而不是减少。当年微软如果不是围绕着Windows...
日期:05-25
为什么说打赏大战是苹果与App开发者之间的一场双输博弈?
继微信之后,苹果终于又对国内其他具备打赏功能的App动手了。
日期:05-22
失去惊艳的微信 接下来还能走多远
最近微信再次改版,上线了“看一看”、“搜一搜”这么两个功能,而整个行业又...
日期:05-20
共享单车之争ofo数据远超摩拜:战场无亚军 速度是王道
2017年共享单车迎来爆发式增长,随着市场格局的趋稳,行业大洗牌将至。两年前,滴滴与快的进行合并...
日期:05-19
便利店为何难以成为新零售的风口?
  在新零售大背景下,便利店迎来了最好的时代。 首先是大批外资连锁便利店品牌正试图在中国...
日期:05-18
告别草莽时代 直播还是风口上的那只猪吗
  在相当长的一段时间里,直播给人的感觉就是:平台太多,用户已经不够用了。直...
日期:05-18
阿里腾讯谁会成为更大的恐龙?
最近一段时间,中概股的新闻一个接着一个。5月2日,长假归来第一天,腾讯市值突破3000亿美元。 5月1...
日期:05-17
共享手机 馅饼还是陷阱
五花八门的共享市场商机与陷阱并存。北京商报记者调查发现,几家手机租赁平台与支付宝合作推出了免...
日期:05-17