OpenAI与DeepMind强强联手，设法阻止人工智能"召唤恶魔"

　　【仟亿科技讯 7月10日消息】担心超级智能机器可能会威胁人类，这并不是什么新鲜事，但近期这个想法已经很难避免了。由于人工智能领域的突飞猛进，以及比尔盖茨等人表示对超级智能未来的担忧，已经让人们对超智慧软件展开了噩梦般的设想。

　　近期，在人工智能热潮中，两家全球权威研究中心正试图探讨智能机器可能存在的威胁。谷歌旗下的人工围棋冠军公司DeepMind，以及由特斯拉CEO埃隆·马斯克资助的非营利性实验室OpenAI，已经联手致力在这个问题上取得实际性的进展。他们认为，尽管这个问题已经制造了太多的头条新闻，但是却没有多少实用的想法：你怎么能制造出不对人类产生威胁的智能软件呢？“如果你担心一些不好的事情可能会发生，那我们能做的很好的事情就是研究当今人工智能系统中出现问题的地方，”DarioAmodei表示，他是OpenAI公司致力于人工智能安全团队中的一员。“有些人称人类会在50年内受到来自机器人的威胁，但是和你听说的相比，这一切似乎并没有那么可怕”。去年夏天，OpenAI和DeepMind达成共识，呼吁研究在短期人工智能存在的安全隐患。

　　这两家机构就机器学习系统发表了一篇新研究文章，称机器学习是机器通过人类的指示来学习一项新任务，而不是努力找出它自己的学习方法，因此这一切是不可预测的。Amodei表示项目研究表明，现在人们可以采取一些实际的措施，让机器学习系统无法产生令人不快的结果。（在2014年在麻省理工学院的一次露面中，Amodei认为人工智能能“召唤恶魔”）

　　DeepMind的研究人员对此并没有发表评论，但JonathanFildes的发言人在一封电子邮件中写道，该公司希望持续的合作可以激励其他人不断努力减少机器学习系统发生错误行为的概率。“在人工智能安全领域，我们应该呼吁尽可能多的研究机构组织置身进来”他写道。

　　OpenAI和DeepMind的第一个问题是，由所谓的“强化学习”驱动的软件并不总是按照主人的要求去做，有时还会作弊。这项技术目前在人工智能领域大热，它让软件通过试验不同的行为并坚持那些能很大化虚拟奖励或分数的行为，来识别一项任务，就像数学激励一样的代码。它对实现AlphaGo在棋类游戏中战胜人类冠军起到至关重要的作用，并且可以让机器人很好的操纵物体。

　　但是，让能制定数学激励机制，或者具有奖励功能的系统去完成正确的事情却十分不容易。对于有很多步骤的复杂任务，这通常让人难以想象。比如，尝试用数学方法定义一个整理房间的评分系统，即使是看似简单的结果也会让人惊讶。例如，当OpenAI设置了一个增强学习代理来玩帆船赛车游戏coastrunner时，它的创造者们很惊讶的发现通过绕圈开车来获得分数的方法，而不是完成任务。

　　DeepMind和OpenAI的解决方案是，让强化学习软件从人类培训师获得反馈，并通过他们的反馈输入来定义其虚拟奖励系统。他们雇佣了承包商，通过一个界面来给人工智能代理提供反馈。该界面反复询问人工智能代理两个短片中哪一个最接近他们的理想行为。

　　这个简单的模拟机器人名为“Hopper”，它尝试学习做不同的动作，在接受了来自人工智能教练的900个虚拟反馈后，学会了做后空翻。有了成千上万的反馈，一个版本的系统学会了玩像Pong这样的Atari游戏，并在驾驶比赛中战胜了一名人类选手。目前，这种方法还需要大量人类监督，以实现复杂的任务，但Amodei说，其实结果已经暗示了这可能是一种非常强大的方法，可以让人工智能系统实现人类想要的一切。

　　人们对Hopper做出反馈不超过一个小时，然而一位OpenAI的研究人员花了两个小时制作了一个奖励功能，结果却不尽如人意。Amodei说：“这看起来超级尴尬。”“通过人类训练实现的后空翻会很好一些，因为得到的结果是符合人类审美的。”你可以看到，像打扫房屋这样的复杂任务，比起单独使用代码，可以更容易地准确地指定一些人的反馈。

　　让人工智能系统能够领会人类的目标和动机，已成为制造既安全又智能的机器的主要主题。例如，加州大学伯克利分校人类与人工智能中心的研究人员正在尝试让自动驾驶汽车或家庭助理等机器人接受人们的建议或指导。“目标不应该来自你为机器人写的东西;它们应该来自于与人类合作的过程，”AncaDragan说。她希望这个想法能够超越DeepMind和OpenAI的研究。2015年，谷歌匆忙调整了自己的照片识别服务，因为它将黑人的照片错误的识别为大猩猩。Amodei说，从长期的角度来说，在未来的几年里，致力于制造现有的、适度的智能机器学习系统，与人类的目标更一致，也可能为我们的未来与超级智能的未来打下基础。他说：“有朝一日，我们将面对非常强大的人工智能系统，我们可以让它们与人类自如的展开互动。”如果这件事真的发生了，也许第一个打开电子眼的超级智能机器会用同理心来凝视我们。

文章转载自：网易智能，转载目的在于传递很多信息，并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题，请在30日内与本网联系，我们将在第一时间删除内容！

 本站关键词：大连网站建设、大连网站制作、大连网站设计

评论加载中... 内容： 评论者： 验证码：