天极传媒:
天极网
比特网
IT专家网
52PK游戏网
极客修
全国分站

北京上海广州深港南京福建沈阳成都杭州西安长春重庆大庆合肥惠州青岛郑州泰州厦门淄博天津无锡哈尔滨

产品
  • 网页
  • 产品
  • 图片
  • 报价
  • 下载
全高清投影机 净化器 4K电视曲面电视小家电滚筒洗衣机
您现在的位置: 天极网 > 云计算>新闻>AI具有杀手本能?将人类价值观注入AI

AI具有“杀手本能”?将人类价值观注入AI可能吗?

天极网云计算频道 2018. 04. 08 作者:嘉文 责编:嘉文
我要吐槽

责任编辑

  自我保护是每个人都有的本能。现在想象一下,一个AI不能处理任何的情绪,但却具有与人类一样的本能,并且认为自己可以超越其他人!近日,谷歌旗下的DeepMind公司研究人员通过他们的AI发现了这一重大进展。

  谷歌收购DeepMind是为了推动人工智能的科学使命。它一直在开发可以学习解决任何复杂问题的程序,而无需人为干预。DeepMind研究人员最近进行了一系列测试,以了解AI在面对某些社交困境时会如何反应。测试试验主要的想法是找出他们是合作还是竞争。

  对于这项研究,DeepMind分别在两款游戏上测试了AI:一款水果采集游戏和一款名为Wolfpack的狩猎游戏。这些是基本的二维简单游戏,它们使用称为“代理人”的AI角色。

  通过使用博弈论,研究人员发现人工智能有可能在感觉它会失败时采取“积极的态度”行事。但是,当人工智能“代理人”获得了更多的利益时,他们将作为一个团队一起工作。

  AI的杀手本能

  在第一个水果收集电脑游戏中,研究人员负责两个AI代理(红色和蓝色),尽可能多地收集虚拟苹果(绿色像素)。在聚会游戏中,系统通过深度强化学习来收集苹果。当一名AI代理收集一个苹果时,它会被奖励一个’1’,苹果会从游戏的地图中消失。这两个人工智能“代理人”都可以选择连续两次给对手打上激光炸弹,暂时将他们从游戏中移除,从而使攻击者有更多时间收集苹果。

  通过这项测试,研究人员发现AI的两个版本根据可用苹果的数量表现不同。只要苹果园有足够的苹果供人们使用,那就没有任何问题。但只要苹果变得稀缺,人工智能“代理人”就变得有可能在游戏中互相推炸弹,为自己收集稀缺的苹果。

  经过4000万次测试后,研究人员得出结论:人工智能“代理人”在资源稀缺时变得“高度激进”,并导致“代理人”更多的“标记”行为,这意味着具有实施更复杂策略的能力的代理,试图标记其他代理人更频繁,即表现得不那么合作。

  “直觉上来说,这场比赛中的叛变政策是一种侵略性的政策,即涉及经常试图标记对手玩家将其从游戏中移除的策略。“研究人员在他们的论文中写道,这样的政策是由于”有机会在消灭其他玩家之后获得所有的苹果“的结果来驱动的。该文件还指出:“在苹果数量多的环境中出现较不积极的策略,不太可能采取激进的行动。”

  这两场比赛解释什么?

  “在Wolfpack狩猎游戏中,学习叛逃孤狼策略比学习合作狩猎策略要容易得多。这是因为前者不需要采取行动来限制捕获半径内的伙伴。在比赛中,情况相反。合作政策比较容易学习,因为他们只需要关注苹果,而不必依赖对手玩家的行为。“

  然而,最优效率的合作政策可能仍需要这种协调,以防止两个玩家同时在同一个苹果上移动的情况。合作和叛逃需要两场比赛的不同级别的协调。Wolfpack的合作策略需要比其背叛策略更大的协调。收集的叛逃策略需要更多的协调(成功瞄准敌手)。“DeepMind的研究人员在报告中解释道。

  Wolfpack AI游戏传达了一个明确的信息:AI的潜在好处是巨大的。人工智能的这种进步无疑可以使人类受益,因为在某些情况下,公司可以成为获得更大成功的关键。它也可能促进可以制定决策和实际应用的系统。

  AI的侵略性意味着什么?

  正如斯蒂芬霍金教授说过的那样,“我们无法预测当人工智能放大我们自己的想法时,我们会面临什么。也许有了这个新技术革命的工具,我们将能够消除上一次工业化对自然界造成的一些损害。当然,我们的目标是最终消除疾病和贫困。“我们生活的每一个方面都将发生转变。总之,创造人工智能的成功可能是我们文明史上最大的事件。“

  另一方面,机器学习系统使用的数据也有一些挑战。WEF的论文强调,即使机器学习算法是在良好的数据集上训练的,它们的设计或部署也可以通过选择错误的模型等方式对歧视进行编码; 建立具有无意识歧视特征的模式; 缺乏人的监督和参与; 不可预知和不可思议的系统; 或者由于未经检查导致故意歧视。

  随着人工智能和机器学习的日益进步,可能它越来越较少依赖人力的监督和拥有较低的透明度。更重要的是,人们被置于一个循环中,可能会有很多因素容易意外地被忽略。然而,需要保持警惕的是,我们需要在我们的机器中建立人类价值观,因为我们拥有它们、主导它们,像“敬畏,勇敢,真诚”这样的东西虽然可能难以被数字化。但是,无论如何,我们必须找到方法将人类的价值观注入我们的AI,这样才能确保科技真正地为我们所用。

作者:嘉文责任编辑:嘉文)
请关注天极网天极新媒体 最酷科技资讯
扫码赢大奖
评论
* 网友发言均非本站立场,本站不在评论栏推荐任何网店、经销商,谨防上当受骗!
办公软件IT新闻整机