您的位置:首页>>媒体评论
搜索: 标题  

为什么说伦理道德是AI面临的最大挑战之一?

发布时间:2017-03-17 09:59:07  来源:网易科技   编辑:阳光不锈  背景:

  3月17日消息,据BBC报道,人工智能(AI)几乎已经无所不在,我们生活的大多数方面都已经被它们渗透,从我们决定看什么书、预定哪个航班、在网上买什么、工作申请是否成功、是否收到银行贷款甚至如何治疗癌症等。所有这些东西,现在都可以利用复杂的软件系统自动确定。随着AI在过去几年取得的令人震惊的进步,它在许多方面都可能帮助我们的生活变得更美好。

undefined

  在过去2年中,AI的崛起已不可阻挡。大量资金被投入到AI初创企业中,许多老牌科技公司(包括亚马逊、微软以及Facebook等巨头)都已经开设新的研究实验室。可以毫不夸张地说,现在软件就意味着AI。有些人预测,AI即将带来巨变,其影响甚至超过互联网。

undefined

  图:人工智能已经在许多实际任务中证明自己的价值,从标记图片到诊断疾病等

  我们已经询问多名技术专家,在这个快速变化的世界,充满无数辉煌机器会对人类产生什么样的影响。值得注意的是,几乎所有人的回答都围绕着伦理道德为中心进行。对于谷歌研究主管、机器学习先驱彼得·诺维格(Peter Norvig)来说,数据驱动的AI技术最近取得许多成功,关键问题是找出如何确保这些新系统能够改善整个社会,而不仅仅是控制它的主体。诺维格表示:“AI已经在许多实际任务中证明自己的价值,从标记图片、理解语言到帮助诊断疾病等。现在面临的挑战是,确保每个人都能从这种技术中受益。”

  最大的问题是,软件的复杂性经常意味着,想要精确地解释AI系统为何做出那样的决定几乎是不可能的。今天的AI主要基于名为机器学习的成功技术,但你无法揭开它的盖子,透视其内部工作场景。为此,我们只能选择相信它。挑战也随之而来,那就是我们需要在许多领域找到新的监控和审核方式,特别是AI正发挥重要作用的领域。

  对于哈佛法学院互联网法律教授乔纳森·斯特兰(Jonathan Zittrain)而言,这其中的一大危险就是,日益复杂的计算机系统可能阻止自己受到必要的审查。他说:“在技术帮助下,我们的系统变得越来越复杂,我很担心人类的自主性被减少。如果我们设置了系统,然后将其忘诸脑后,系统的自我演变带来的后果可能让我们后悔莫及。对此,目前还没有明确的道德层面上的考虑。”

undefined

  图:人工智能将让机器人从事更复杂的工作,比如日本这种购物助理机器人正为顾客服务

  这也是其他技术专家担忧的地方。美国杜克大学下属人类与自主实验室主任米塞·卡明斯(Missy Cummings)质疑道:“我们怎样才能证明这些系统是安全的?”卡明斯曾是美国海军首位女战斗机飞行员,如今是无人机专家。

  AI的确需要监管,但现在我们还不清楚如何对其进行监管。卡明斯说:“目前,我们还没有被普遍接受的方法,也没有测试这些系统的行业标准。对于这些技术来说,实施广泛的监管非常困难。”在快速变化的世界中,监管机构常常发现自己也对此束手无策。在许多关键领域,比如刑事司法系统和医疗领域,许多公司已经使用AI探索做出假释决定或疾病诊断的尝试。但是将决定权交给机器,我们可能会失去控制权,谁能保证机器在每个案例中都能做出正确决定?

  微软研究院首席研究员丹娜·博伊德(Danah Boyd)说,有关价值观的许多严重问题正被写入这些AI系统中,最终谁将为此负责?博伊德称:“监管机构、民间社会以及社会理论学家们日益渴望看到这些技术能保持公正和道德,但这些概念都很模糊。”

  一个充满道德问题的领域就是职场。AI将帮助机器人从事更复杂的工作,并导致更多人类工人被取代。举例来说,中国富士康公司计划利用机器人取代6万名工人。福特在德国科隆的工厂也投入机器人,与人类工人协调工作。

undefined

  图:在许多工厂,人类工人已经开始与机器人共同工作。有些人认为,这可能对人类的心理健康造成巨大影响

  更重要的是,如果越来越多的自动化已经对就业造成巨大影响,这也会对人们的心理健康产生负面影响。生物伦理学家、奥巴马总统前医疗顾问伊齐基尔·伊曼纽尔(Ezekiel Emanuel)表示:“如果你思考下能让人们的生活变得有意义的东西,你会发现三件事:有意义的人际关系、强烈的兴趣以及有意义的工作。其中有意义的工作是定义某人生活的重要因素。在有些地区,当工厂关门时失去工作,可能导致自杀、药物滥用以及抑郁症危险的增加。”

  结果,我们可能需要看到更多的伦理需求。麻省理工学院专供法律和道德的专家凯特·达灵(Kate Darling)认为:“公司正遵循市场激励机制,这不是坏事,但我们不能仅仅依赖于伦理道德来控制它。它有助于监管到位,我们已经在隐私以及新技术领域看到它的存在,我们需要找出应对的方法。”

  达灵指出,许多大牌公司(比如谷歌)已经成立道德委员会,来监督AI的开发和部署。有人认为,这种机制应该被广泛采用。达灵说:“我们不想扼杀创新,但到达某种程度时,我们可能想要创造某种结构。”

  到底谁能入选谷歌道德委员会以及它到底能做什么,这些细节还所知甚少。但在2016年9月份,Facebook、谷歌以及亚马逊成立了联合组织,目标是寻找应对AI带来的安全与隐私威胁的解决方案。OpenAI也是类似的组织,旨在开发和推广能够让所有人受益的开源AI。谷歌的诺维格说:“机器学习技术被公开研究,并通过开放出版物和开源代码传播非常重要,我们可以分享所有奖励。”

  如果我们能够制定行业标准和道德标准,并全面了解AI存在的风险,然后建立以伦理学家、技术专家以及企业领导人为核心的监管机制非常重要。这是利用AI为人类谋福利的最佳方式。斯特兰说:“我们的工作是减少人们对科幻电影中机器人接管世界的担忧,更多关注技术如何能够被用于帮助人类思考和决策,而非完全取代它。”




返回网站首页 本文来源:网易科技

本文评论
直播之年,Twitter如何做中国生意
几乎是每一次,Twitter的高管在接受中国记者采访时都会被问及何时入华。他们不厌其烦地向公众表示对...
日期:03-21
为什么说伦理道德是AI面临的最大挑战之一?
3月17日消息,据BBC报道,人工智能(AI)几乎已经无所不在,我们生活的大多数方面都已经被它们渗透,...
日期:03-17
为什么合并不是摩拜ofo单车大战的必要结局?
  共享单车的战争正迈向新阶段。 在被资本快速催熟后,为了回应预期,共享单车企业已经加快...
日期:03-17
当三星谈初心,它在谈什么?
随着智能手机的普及,移动互联的时代已经到来,人们的生活对于智能手机极度依赖的同时,对智能手机...
日期:03-16
ofo加入免押金阵营,免押金会是将来吗?
今日共享单车平台ofo宣布与蚂蚁金服旗下芝麻信用达成战略合作。双方表示,凡ofo上海用户,只要芝麻...
日期:03-16
为什么说iPhone很难放弃指纹转用面部识别
传闻称苹果将在今年秋天发布的“iPhone 8”中整合面部扫描摄像头,这引发了面部识别技术将会取代Touch ID指纹...
日期:03-16
无人驾驶汽车的“智商”还不如马车?
人工智能领域的火热,促使很多传统技术升级,比如说无人驾驶——这个需要结合传统工程学...
日期:03-16
共享单车天王山之战 ofo优势明显摩拜难掩颓势
共享单车出现之初便因其便捷、经济的特质迅速兴起,引得各路玩家纷纷入局。黄、橙、蓝、绿等多种色...
日期:03-15
锤子手机凭啥秒天秒地秒空气?
“从设计上,春天发布的新机会把历史上所有的锤子手机秒成渣”,罗永浩说。
日期:03-14
共享单车/汽车问题频生,外媒:考验中国城市管理
外媒称,共享单车解决了中国大城市的出行问题,引发了人们的使用热情,但也出现了各种新的难题。
日期:03-13
VR,风口上的猪掉下来了吗?
3月初,有报道称,VR硬件公司完美幻境资金链断裂,创始人赵博跑路,投资人都联系不上他。
日期:03-13
从供应链的角度谈谈,我们真的能抵制韩货吗?
导语:如果真的要全面抵制韩货,我们是否有能力填补在韩国手机供应链中的空缺呢?
日期:03-13
入选教材成为中国出海范本,OnePlus凭什么获得青睐?
近期,在名为《大学信息技术基础》的书籍当中,有这么一款中国手机品牌入选其中。这个品牌既不是熟悉的互联网手机小米,也不是被称为国人骄傲的华为手机,而是名为OnePlus的手机品牌。
日期:03-10
共享单车行业之问:蜂拥企业将往何处去?
2016年下半年以来,共享单车走进大街小巷。除了占据主流地位的ofo和摩拜,小鸣单车、优拜、骑呗、永...
日期:03-10
手机创新何时不再“纸上谈兵”?
如果说过去一年手机行业是围绕着深耕线下渠道和广告营销而展开,今年透过CES和MWC这两个风向标再来...
日期:03-10
微软将展示新服务器操作系统 要打破英特尔地位?
据美国《华尔街日报》3月8日报道,据知情人士透露,当地时间7日,微软将展示新版服务器操作系统,该...
日期:03-09
媒体:为何说联想应该放弃模块化手机的思路
联想集团董事长兼CEO杨元庆在2017MWC(世界移动通信大会)上接受媒体采访时表示,联想移动缺乏深耕细...
日期:03-08
拼完融资 共享单车还能走多远
共享单车的春天悄然来临。3月5日,交通部部长李小鹏首次亮相十二届全国人大五次会议开幕会的“部长通道”,...
日期:03-06
打起价格战的共享单车,会一直免费下去吗?
继不断入驻城市的摇旗呐喊之后,共享单车大战的硝烟,又弥漫到了免费的头上。
日期:03-06
为何乐视屡遭内容滑铁卢,小米却逆袭成内容之王?
刚开年,乐视体育会员的球迷就遭遇了今年最大的失望。2月28日,亚足联官方宣布,解除与乐视体育为期...
日期:03-03