您的位置:首页>>媒体评论
搜索: 标题  

为什么说伦理道德是AI面临的最大挑战之一?

发布时间:2017-03-17 09:59:07  来源:网易科技   编辑:阳光不锈  背景:

  3月17日消息,据BBC报道,人工智能(AI)几乎已经无所不在,我们生活的大多数方面都已经被它们渗透,从我们决定看什么书、预定哪个航班、在网上买什么、工作申请是否成功、是否收到银行贷款甚至如何治疗癌症等。所有这些东西,现在都可以利用复杂的软件系统自动确定。随着AI在过去几年取得的令人震惊的进步,它在许多方面都可能帮助我们的生活变得更美好。

undefined

  在过去2年中,AI的崛起已不可阻挡。大量资金被投入到AI初创企业中,许多老牌科技公司(包括亚马逊、微软以及Facebook等巨头)都已经开设新的研究实验室。可以毫不夸张地说,现在软件就意味着AI。有些人预测,AI即将带来巨变,其影响甚至超过互联网。

undefined

  图:人工智能已经在许多实际任务中证明自己的价值,从标记图片到诊断疾病等

  我们已经询问多名技术专家,在这个快速变化的世界,充满无数辉煌机器会对人类产生什么样的影响。值得注意的是,几乎所有人的回答都围绕着伦理道德为中心进行。对于谷歌研究主管、机器学习先驱彼得·诺维格(Peter Norvig)来说,数据驱动的AI技术最近取得许多成功,关键问题是找出如何确保这些新系统能够改善整个社会,而不仅仅是控制它的主体。诺维格表示:“AI已经在许多实际任务中证明自己的价值,从标记图片、理解语言到帮助诊断疾病等。现在面临的挑战是,确保每个人都能从这种技术中受益。”

  最大的问题是,软件的复杂性经常意味着,想要精确地解释AI系统为何做出那样的决定几乎是不可能的。今天的AI主要基于名为机器学习的成功技术,但你无法揭开它的盖子,透视其内部工作场景。为此,我们只能选择相信它。挑战也随之而来,那就是我们需要在许多领域找到新的监控和审核方式,特别是AI正发挥重要作用的领域。

  对于哈佛法学院互联网法律教授乔纳森·斯特兰(Jonathan Zittrain)而言,这其中的一大危险就是,日益复杂的计算机系统可能阻止自己受到必要的审查。他说:“在技术帮助下,我们的系统变得越来越复杂,我很担心人类的自主性被减少。如果我们设置了系统,然后将其忘诸脑后,系统的自我演变带来的后果可能让我们后悔莫及。对此,目前还没有明确的道德层面上的考虑。”

undefined

  图:人工智能将让机器人从事更复杂的工作,比如日本这种购物助理机器人正为顾客服务

  这也是其他技术专家担忧的地方。美国杜克大学下属人类与自主实验室主任米塞·卡明斯(Missy Cummings)质疑道:“我们怎样才能证明这些系统是安全的?”卡明斯曾是美国海军首位女战斗机飞行员,如今是无人机专家。

  AI的确需要监管,但现在我们还不清楚如何对其进行监管。卡明斯说:“目前,我们还没有被普遍接受的方法,也没有测试这些系统的行业标准。对于这些技术来说,实施广泛的监管非常困难。”在快速变化的世界中,监管机构常常发现自己也对此束手无策。在许多关键领域,比如刑事司法系统和医疗领域,许多公司已经使用AI探索做出假释决定或疾病诊断的尝试。但是将决定权交给机器,我们可能会失去控制权,谁能保证机器在每个案例中都能做出正确决定?

  微软研究院首席研究员丹娜·博伊德(Danah Boyd)说,有关价值观的许多严重问题正被写入这些AI系统中,最终谁将为此负责?博伊德称:“监管机构、民间社会以及社会理论学家们日益渴望看到这些技术能保持公正和道德,但这些概念都很模糊。”

  一个充满道德问题的领域就是职场。AI将帮助机器人从事更复杂的工作,并导致更多人类工人被取代。举例来说,中国富士康公司计划利用机器人取代6万名工人。福特在德国科隆的工厂也投入机器人,与人类工人协调工作。

undefined

  图:在许多工厂,人类工人已经开始与机器人共同工作。有些人认为,这可能对人类的心理健康造成巨大影响

  更重要的是,如果越来越多的自动化已经对就业造成巨大影响,这也会对人们的心理健康产生负面影响。生物伦理学家、奥巴马总统前医疗顾问伊齐基尔·伊曼纽尔(Ezekiel Emanuel)表示:“如果你思考下能让人们的生活变得有意义的东西,你会发现三件事:有意义的人际关系、强烈的兴趣以及有意义的工作。其中有意义的工作是定义某人生活的重要因素。在有些地区,当工厂关门时失去工作,可能导致自杀、药物滥用以及抑郁症危险的增加。”

  结果,我们可能需要看到更多的伦理需求。麻省理工学院专供法律和道德的专家凯特·达灵(Kate Darling)认为:“公司正遵循市场激励机制,这不是坏事,但我们不能仅仅依赖于伦理道德来控制它。它有助于监管到位,我们已经在隐私以及新技术领域看到它的存在,我们需要找出应对的方法。”

  达灵指出,许多大牌公司(比如谷歌)已经成立道德委员会,来监督AI的开发和部署。有人认为,这种机制应该被广泛采用。达灵说:“我们不想扼杀创新,但到达某种程度时,我们可能想要创造某种结构。”

  到底谁能入选谷歌道德委员会以及它到底能做什么,这些细节还所知甚少。但在2016年9月份,Facebook、谷歌以及亚马逊成立了联合组织,目标是寻找应对AI带来的安全与隐私威胁的解决方案。OpenAI也是类似的组织,旨在开发和推广能够让所有人受益的开源AI。谷歌的诺维格说:“机器学习技术被公开研究,并通过开放出版物和开源代码传播非常重要,我们可以分享所有奖励。”

  如果我们能够制定行业标准和道德标准,并全面了解AI存在的风险,然后建立以伦理学家、技术专家以及企业领导人为核心的监管机制非常重要。这是利用AI为人类谋福利的最佳方式。斯特兰说:“我们的工作是减少人们对科幻电影中机器人接管世界的担忧,更多关注技术如何能够被用于帮助人类思考和决策,而非完全取代它。”

  声明:本文仅为传递更多网络信息,不代表ITBear观点和意见,仅供参考了解,更不能作为投资使用依据。


返回网站首页 本文来源:网易科技

本文评论
无人超市会是阿里和腾讯的新战场?
在马云多次大谈“新零售”后,看起来阿里终于祭出了自己的大招。
日期:07-11
外媒:苹果iTunes视频市场份额不断流失 节节败退
苹果公司的iTunes Store在音乐服务领域处境艰难,如今在视频方面也节节败退。
日期:07-10
外媒:中国的音乐流媒体领先世界,腾讯功劳不小
在中国语境下,内容付费已经不可同日而语,音乐付费也是如此。基于人口红利和智能手机的普及,音乐...
日期:07-05
外媒:手机又出新功能 未来几个月你还要换新?
据外媒International Business Times报道称,每年各大智能手机制造商都在想方设法的留住和吸引消费...
日期:07-03
为了“阉割机” 中国移动滥用市场支配地位?
虽然竞争一直很激烈,但是国内运营商行业从未如此的分裂,中国电信、中国联通两家和中国移动之间的...
日期:06-23
外媒:亚马逊收购全食超市很厉害?阿里京东早布局了
导语:路透社近日撰文称,亚马逊收购全食超市虽然引...
日期:06-22
华云研发副总裁庄曜任为您解读“智能制造与云计算”
在第九届中国云计算大会的智能制造专场,华云集团研发副总裁庄曜任深度剖析了创建智能制造体系的逻辑思维、要点以及背后的云支撑。
日期:06-19
互联网势力真能掌握电动汽车的未来?
互联网创业公司和各路资本的疯狂涌入,正推动电动车成为未来汽车行业的发展趋势。
日期:06-12
顺丰为什么可以硬气
顺丰和菜鸟之间的对撕已经成为了以数据为表象、以商业利益为根本的纠葛。其实回看菜鸟的发展过程,...
日期:06-03
中国互联网车企为何扎堆新能源车?忽悠别人还是忽悠自己?
2014年特斯拉开放专利,算是圆了Elon Musk“人生苦短,恩怨皆休”的心结,但也历史性的推...
日期:06-01
共享经济正在成为实体经济的“癌症”?
共享单车,共享电动小汽车,共享充电宝,共享雨伞……除了已被资本推到前台的这些品类外,我相信还有一大波...
日期:05-31
产品聚焦 架构重组 主动求变的魅族能否走出泥潭
作为智能手机界最具娱乐气质的企业,2016年间,魅族足足开了11场“演唱会”,从许巍李荣...
日期:05-27
为什么说Google Home是个错误?
从Google I/O大会来看,Google步微软后尘的可能性在增加而不是减少。当年微软如果不是围绕着Windows...
日期:05-25
为什么说打赏大战是苹果与App开发者之间的一场双输博弈?
继微信之后,苹果终于又对国内其他具备打赏功能的App动手了。
日期:05-22
失去惊艳的微信 接下来还能走多远
最近微信再次改版,上线了“看一看”、“搜一搜”这么两个功能,而整个行业又...
日期:05-20
共享单车之争ofo数据远超摩拜:战场无亚军 速度是王道
2017年共享单车迎来爆发式增长,随着市场格局的趋稳,行业大洗牌将至。两年前,滴滴与快的进行合并...
日期:05-19
便利店为何难以成为新零售的风口?
  在新零售大背景下,便利店迎来了最好的时代。 首先是大批外资连锁便利店品牌正试图在中国...
日期:05-18
告别草莽时代 直播还是风口上的那只猪吗
  在相当长的一段时间里,直播给人的感觉就是:平台太多,用户已经不够用了。直...
日期:05-18
阿里腾讯谁会成为更大的恐龙?
最近一段时间,中概股的新闻一个接着一个。5月2日,长假归来第一天,腾讯市值突破3000亿美元。 5月1...
日期:05-17
共享手机 馅饼还是陷阱
五花八门的共享市场商机与陷阱并存。北京商报记者调查发现,几家手机租赁平台与支付宝合作推出了免...
日期:05-17