金沙城线上娱乐平台

拥有人类教师可以防止致命的人工智能错误

作者:言瓶睇    发布时间:2017-10-01 15:44:01    

Ennio Leanza / Epa / REX / Shutterstock作者:Matt Reynolds人工智能需要我们的帮助最好的AI正在迅速掌握从阅读唇读到玩视频游戏的技巧,但只能通过反复失败来学习随着机器人占据医疗保健和驾驶等领域,错误可能导致死亡,这已不再是一种可接受的方法幸运的是,一项新的研究表明,如果有正确的人为疏忽,就有可能抛弃失败为了尝试在没有出错的情况下训练AI,牛津大学的Owain Evans和他的同事们开始使用简单的二维乒乓球视频游戏Pong通常情况下,一个乒乓球运动员会让球飞过它的球拍几百次,然后才意识到这不是一个提高分数的好方法但在埃文斯的设置中,人类会介入以避免这种情况发生另一个AI看着人类介入游戏观察了4.5个小时后,它能够模仿人类监督者并防止Pong-playing AI在未来发生严重错误埃文斯的研究表明,在适当的情况下,可以训练AI,以便在不经历严重失败的情况下学习任务同样的方法也适用于训练AI来玩太空入侵者而不会犯任何重大错误(arxiv.org/abs/1707.05173) “如果人们一直关注Facebook的算法,它可能不会给我们带来虚假新闻”一点点的人为监督不仅对玩电脑游戏的AI有用埃文斯说,如果更多人类密切关注Facebook的新闻推荐算法,它可能不会给我们带来假新闻然而,让人在循环中并不总能阻止AI出错当埃文斯尝试使用与Road Runner相同的方法时,AI监督员无法阻止游戏AI所犯的每一个大错误更复杂的Atari游戏需要多年的人工监督才能让代理人能够在不犯错误的情况下进行游戏即使是受过人工监督训练的系统也永远不会绝对安全埃文斯说,很难知道这些系统在人工智能尚未接受过培训的情况下的表现如何最好的AI可能会被一个邋human的人类训练师带入歧途 “这只是和人类一样好,”埃文斯说罗德岛普罗维登斯布朗大学的大卫亚伯说,如果我们要信任家庭和医院的机器人,那么我们就需要对他们的安全做出一些保证如果人工智能训练有素,在训练初期刻意犯错,可能会有更多的改进,

 

Copyright © 网站地图