海纳百川
登录 | 登录并检查站内短信 | 个人设置 网站首页 |  论坛首页 |  博客 |  搜索 |  收藏夹 |  帮助 |  团队  | 注册  | RSS
主题: AI令人恐惧的自我学习能力--Ent evo
回复主题   printer-friendly view    海纳百川首页 -> 驴鸣镇
阅读上一个主题 :: 阅读下一个主题  
作者 AI令人恐惧的自我学习能力--Ent evo   
NABC60






加入时间: 2008/04/24
文章: 2899

经验值: 136626
文章标题: AI令人恐惧的自我学习能力--Ent evo (326 reads)      时间: 2017-10-20 周五, 上午10:57
作者：NABC60 在 驴鸣镇 发贴, 来自 http://www.hjclub.org

AI令人恐惧的自我学习能力
2017年10月20日
作者: Ent_evo

Nature今天的新论文里，谷歌旗下人工智能公司Deepmind推出了一款新版的围棋AI，命名为“阿法狗•零”。这个AI当然意料之中地干掉了它的所有前辈，elo等级分抵达了5000的水平，超越了所有人类棋手——但最重要的是，它没看过任何人类棋谱。训练开始的时候，它只会随机走子，看到的全部信息就只有棋盘和黑白棋子；而40天的训练结束后，它掌握的旷世下法，完完全全是自己摸索出来的。

这个事情很吓人，但是是以一种很隐蔽的方式。

当年国际象棋世界冠军卡斯帕罗夫输给深蓝的时候，他一开始的反应是认定深蓝作弊了，觉得在深蓝的棋步里看见了“只有人类才有的火花”。深蓝当然并没有作弊，但是他这么感觉倒也不是完全没道理：深蓝这个AI，完全是人类一手带大的。它是人类把顶尖棋手直接总结出来的大量经验判断，加上海量的历史名局数据库，再加上它自己的高速运算模拟，三者一起才战胜的卡斯帕罗夫。在各种意义上，它都还是一个主动模仿人类下法的AI。

人们沿着这个路线努力试图攻克围棋，但十多年来没有真正成功。直到前年年底，Deepmind使用两个神经网络结合的办法，才第一次真正战胜了人类职业选手。那个路线抛弃了人类经验判断，不再试图去教它“这种局面好，那种局面坏”，而是直接扔给它3000万个人类历史棋局让它自己看，再让它自我对弈提升。其结局你们都知道了，它在2016年3月4：1战胜了李世乭，其升级版阿法狗•Master又在2017年5月3：0战胜了柯洁。

这对人类骄傲感当然是个很大的打击。当时大家就都在讨论：抛弃人类经验是不是AI进步的必由之路呢？人类围棋棋手积攒了这么多年的历史是好事儿还是坏事儿呢？阿法狗毕竟还看了3000万人类棋局，这些棋局对AI围棋水平到底是什么影响呢？

现在有答案了。阿法狗•零根本就不需要这些东西。人类经验是好是坏，对AI而言无关。完全无关。

我个人觉得，这是所有AI末世中最令人恐惧的一个场景。

每个棋手都知道，输棋并不可怕，反而是成长的必经之路。就算你一辈子都打不赢那个宿命的对手，你也在成长，帮助对手成长，让所有人对棋的理解又迈出了微小的一步。国际象棋被AI横扫已经二十年了，世界大赛依然在顺利举行。一个无法动摇的第一或许会让第二无比痛苦吧，但是我们剩下的这些人反正平常也输习惯了，拿不到第一并不会否认掉我们存在的意义。

但如果那个第一根本不需要你，根本不在乎你，你做的任何事情都对它的追求没有影响，你失去了和它的世界的一切关联呢？

这件事情其实已经发生过一次。欧洲人曾经认为自己是世界的中心，万事万物围绕自己的罪恶和救赎而展开；结果发现，人类只是宇宙里的一粒微尘，这世界上几乎所有的东西甚至都不会被我们影响到，更别说在乎我们了。这个思想冲击，至今还没有完全消散。

那么如果这个事情不再停留在思想层面，如果AI拿走了人类和现实的关联，让人类发现自己甚至已经无法影响自己的历史进程了呢？

我不太担心AI会毁灭人类；总的来说它们没有特别充分的理由这么做。我也对今天的围棋界抱有信心，他们一定能寻找到新的意义来源。但是，随着AI证明自己在越来越多的领域不再需要人，一定会有人反过来无法接受自己不再被需要的事实。当一切创造都被接管的时候，如果你还要坚持做什么的话，大概剩下的也只有

毁灭了吧。

人类和AI的战争大概不是AI决定毁灭人类，而是那些不愿变成局外的人类去打响第一枪。悲观看来，这将是人类对历史的最后影响。

作者：NABC60 在 驴鸣镇 发贴, 来自 http://www.hjclub.org
返回顶端
阅读会员资料 NABC60离线  发送站内短信
显示文章:     
回复主题   printer-friendly view    海纳百川首页 -> 驴鸣镇 所有的时间均为 北京时间


 
论坛转跳:   
您不能在本论坛发表新主题
您不能在本论坛回复主题
您不能在本论坛编辑自己的文章
您不能在本论坛删除自己的文章
您不能在本论坛发表投票
您不能在这个论坛添加附件
您可以在这个论坛下载文件


based on phpbb, All rights reserved.
[ Page generation time: 0.138338 seconds ] :: [ 26 queries excuted ] :: [ GZIP compression enabled ]