您的位置:首页>>互联网
搜索: 标题  

AI 之间有一场“搏击赛”,邪恶 AI 能否被战胜?

发布时间:2017-08-10 16:55:51  来源:36氪    编辑:贺飞  背景:

  近日,马斯克与扎克伯格就 “AI 会不会终结人类文明”的话题吵了起来,对 AI 是恶是善业界有不同的声音,那么如果 AI 是邪恶的话,未来我们该如何应对呢?未来五个月,在数据科学竞赛平台Kaggle上将进行一场比赛,比赛将使研究人员的算法相互混淆,试图混淆和欺骗对方,希望这场争斗能够帮助我们深入了解如何加强机器学习系统,防止未来的攻击。

  怀俄明大学助理教授Jeff Clune表示:“通过欺骗深层神经网络和设计不能被欺骗的深层神经网络,来加速研究的进程,这是一个绝妙的点子。”

  比赛由三个部分组成。 第一个挑战是只是尝试混淆机器学习系统,使其无法正常工作。第二个挑战将涉及到试图强制系统错误地分类某些东西。第三个挑战将涉及发展最强大的防御。比赛结果将在今年晚些时候的AI大会上公布。

  机器学习,特别是深度学习,正在迅速成为许多行业不可或缺的工具。 该技术涉及将数据输送到特殊类型的计算机程序中,指定特定结果,并使机器开发算法来实现结果。深度学习通过调整数字模拟的神经元构建的巨大的互连网络,来做到这一点。

  长久以来,机器学习系统一直可以被欺骗。 例如,垃圾邮件发送者可以通过识别过垃圾邮件滤器的算法来规避邮件过滤。

  近年来,研究人员已经表明,即使最聪明的算法有时也会以令人难以置信的方式被误导。 例如,具有接近人类水平的识别图像深度算法可能被看似抽象或随机图像所迷惑。

  本次大赛的组织方,Google Brain的研究员Ian Goodfellow表示:“对抗性的机器学习比常规机器学习更难研究 - 很难说你的攻击强度很强或者你的防御力是否真的很弱。”

  随着机器学习的普及,这种攻击可能被用于获利或纯粹的恶作剧。例如,黑客可能逃避安全措施,以安装恶意软件。

  Goodfellow表示:“计算机安全绝对是在转向机器学习。 “坏人将使用机器学习来自动化攻击,我们将使用机器学习来进行防御”。

  在理论上,犯罪分子也可能让声音和脸部识别系统瘫痪,甚至张贴海报来欺骗自动驾驶汽车的视觉系统,导致系统崩溃。

  Kaggle已经成为算法开发的宝贵繁荣之地,也是有才华的数据科学家的温床。 该公司于3月份被Google收购,现在已成为Google Cloud平台的一部分。 Goodfellow和另一位Google Brain研究员Alexey Kurakin在收购之前就提出了这次大赛的想法。

  Kaggle的联合创始人兼CTO Benjamin Hamner表示,他希望比赛能引起人们的关注。 “随着机器学习的使用越来越广泛,从对抗学习中了解问题和风险变得越来越重要,”他说。

  公开竞赛的好处超过了任何宣传新型攻击的风险,他补充说:“我们认为,这项研究最好是建立公开的,而不是闭门会议。”

  声明:本文仅为传递更多网络信息,不代表ITBear观点和意见,仅供参考了解,更不能作为投资使用依据。


返回网站首页 本文来源:36氪

本文评论
再次搞起!小米再战空调10亿赌约怎能不提
犹记得,2013年中国经济年度人物的颁奖典礼期间,格力的董小姐与小米的雷军立下了10亿赌约,从此你来我往,江湖再也不寂寞。
日期:08-10
谁说英文不好就看不懂国外资讯 “无障碍”看世界就用搜狗英文搜索
近日,一条非洲小朋友念中文“打油诗”的小视频在社交平台疯传,“英文搜索,就用搜狗,中文英文,转换自由……”,在萌翻了众多网友的同时,也让大家认识了搜狗英文搜索这一跨语言搜索的“利器”。
日期:08-08
当我们恐惧人工智能时,我们到底在恐惧什么?
即便是业内诸多科技大佬、企业家等不断重申人工智能并不会给人类发展带来威胁与灾难,并让人们相信A...
日期:08-08
AI谋杀同声传译究竟还有多远?
1919年,在审判德国的巴黎和会上,英法两国代表在1000多人的见证下首次借助同声传译完成了紧张的谈...
日期:08-08
少儿编程火热资本相继入局,但AI不应成为噱头
七八月份的天气,不是酷暑难耐,就是多雨,总之是不太舒服。但对于孩子们来说,正值一年中最为期盼...
日期:08-07
颠覆与创新!人工智能+医疗将成AI关键突破口?
研究人员正在探索计算精神病学的新领域,该领域利用人工智能、虚拟现实和深度学习等技术来诊断和治...
日期:08-07
网络诈骗新形势显现 腾讯安全反诈骗实验室呼吁为用户减损
为进一步开展防范打击网络诈骗工作,集合行业力量探索更为有效的治理措施和协同方案,8月2日,由工...
日期:08-02
Beats 携手同程旅游打造暑期出行计划
2017年7月25日,Beats by Dr. Dre和同程旅游打造的“暑期出行记”活动正式上线,粉丝们可...
日期:07-28
达达涂鸦墙成798地标 同城速递直击消费者痛点
在这个信息爆炸的世界里,“忘事”成为快节奏生活的都市白领们普遍的症候。7月27日,在北...
日期:07-28
最美通知书到手后,再来GET李彦宏的“二字秘籍”在AI时代快快快快快人一步
近日,招生季落幕,各大高校录取通知书陆续出炉。
日期:07-27
黑科技+回忆杀,QQ空间发布12周年互动广告
2017年6月6日,QQ空间在12周岁生日之际宣布杨洋成为品牌代言人并开通认证空间,截至目前,杨洋的认...
日期:07-24
热成狗!快来围观不一般的的降暑神器
“蒸熟烤焦”是自个身体最深切的体会,网友恶搞称,出门请根据口味自带椒盐、孜然、辣椒、麻椒等调味料啊。
日期:07-24
2017CJ在即,完美世界展台模特、ShowGirl先睹为快
2017年7月27日至30日,第十五届ChinaJoy即将召开,在上海新国际博览中心举办,业界人士齐聚一堂,共...
日期:07-24
走向泛化的AI,离真正意义上的“人工智能”还有多远?
曾几何时,AI(人工智能)成为了诸多企业的口头禅,不管这个企业身处什么产业,是什么样的企业,好像...
日期:07-24
又晚一步?苹果终于推出了人工智能研究博客
在多年的沉默后,苹果终于开始在AI领域缓慢发声:去年12月发布了它的第一篇AI公共研究论文;今年6月...
日期:07-20
“无人时代”来临? 我们离百年孤独还远吗
亚马逊的无人机、京东的无人仓、阿里的无人超市,百度的无人驾驶,西门子的无人工厂…&hellip...
日期:07-20
Uber全球大撤退:一场围剿与反围剿的生死战
7月13日,步中国市场的后尘,Uber宣布与俄罗斯搜索巨头Yandex成立由后者控股的合资公司,以整合...
日期:07-20
因为太个性,QQ企鹅在QQJOY现场被群撸!
7月18日,迎来了腾讯QQJOY X次元盛典的第二天活动,活动现场不乏高颜值、超级萌的coser大神,但吸引...
日期:07-18
2017人工智能将带来四大变革 你都知道吗?
据美国媒体7月16日报道,2017年人工智能将带来四大变革:聊天机器人、医疗服务、生物特征识别软件和...
日期:07-17