注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

物之二元

从此出发,环游世界

 
 
 

日志

 
 

人工智能和人类未来的吐槽  

2016-04-11 09:59:51|  分类: 胡搅蛮缠 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |

围棋人大赛这件事帷幕落下已经一个月了其实这件事本来没太多宏大意义好挖掘的,google玩出来的一手好营销,和我们的猎奇心理一拍即合,搞出一场热闹的表演。要说有什么好处,应该就是给大众普及了AlphaGo背后的deepmind公司和深度学习这个概念。当然按此类科普一贯的尿性,其原理被媒体宣传成了“能像人脑一样学习”,其实对深度学习有所了解的人应该知道近年来这个领域的发展主要是沾了大数据时代的光,其所用的人工神经网络学习算法自20多年前被发明出来至今并没有多少本质的革新。但不管怎么说在这个充斥了感官刺激和鸡汤的时代,遇到这么个难得和科技沾光却又可以让大家一起围观的话题,媒体拿出来好好炒一番总比不炒的强。

当然,毫无悬念的,话题很快就从技术介绍落到机器统治人类的问题上。各种泛泛而谈的节目已经够多了,在比较深入的讨论中,我看到这篇被重新翻出来一个故意不通过图灵测试的人工智能 链接 

关于文中提出的我们走向天堂还是灭亡的问题,虽然个人很希望看到人工智能(AI)发力的那一天,但我并不像有些技术乐观主义者那样认为AI一定带来美好的未来,机器消灭人类的可能性是存在的。但这种预测人类大结局的难题是如此之难,以至于现在去多想没有意义。我只是单纯想吐槽一下那篇文章里探讨的某种故事,对,就是那个“隔壁老王机器人公司”的例子。

类似的故事我似乎已经看到过好几次了,都是人类给机器设定了某个实际任务目标(在“隔壁老王”的例子里任务是生成如同人类手写笔迹的信件),随着机器智能突飞猛进,结果机器为了更好地实现这个目标把人类灭了,因为人类有可能会拔它电源阻止任务的完成,此外人类的身体也可以拿来当成完成任务的“原料”。最后,当地球的资源耗尽,智能机器开始移民其他星球,直到把它所能触及的所有宇宙变成任务成果(同样在“隔壁老王”的例子里,结局是各个星球上堆满了手写的卡片)。

首先我就不细究这个例子的小小漏洞了:机器人公司给“隔壁老王”设定的任务是写卡片时显得更像人,而不是写尽可能多的卡片,它有必要进军宇宙到处发小广告么?要说邪恶结局的话,把人类俘虏了当成实验动物,往人脑里插电极研究人类怎么写字还差不多。可能有人要说了,人工智能进化了以后还有必要死守一开始的准则吗?这正是我想说的这类故事的槽点——人工智能已经上天入地无所不能了居然还完美地遵循人类一开始给它设定的目标?拜托了,难道你真的以为一个智能爆炸”以后比人聪明万亿倍的机器,居然蠢到不知道怎么修改自己的优化函数?再怎么说,如果AI的进化是如其所言递归式的(上一代机器来设计下一代机器那么设计工作本身就包括了对人工智能(对不起现在应该叫机工智能了)的目标函数的设计至于一代代下来后来的目标会变成什么样子恐怕没人知道,不仅人不知,前几代的AI同样不知。人类熟悉的很多法则在机器的世界不再适用,但我相信物种演化的原理会依然有效,因为其不是生物独有的。而自然演化的原理告诉我们物种的发展取决于和环境的互动中的各种偶然因素,让地球生命早期的生物预测未来会不会出现智能生物,那种智能生物会拥有什么样的道德观点,这是不可能的。

当然并不是说超级AI对人类的威胁减小了,这里我真正想说的机器拥有了传说之中的类似人类的思考能力行为也会变得如人一样不可预测。那篇文章里把超级智能的出现类比于上帝的降临,既如此,我们就更不可能揣测上帝究竟会以什么逻辑行事。那时候人类除了把自己的命运寄托给超级智能之外,别无他法,就如我们古时听凭神灵喜怒哀乐带来的处分一样

大多数关于AI未来带给人类命运的预测都是悲观的,毕竟面对一个我们无法掌握的事物盲目乐观显得很可笑。不过这里说一说略值得安慰的逻辑,也许事情并不总是那么坏。不多,就两点:

第一,我们设想让一个已经达到强人工智能水平的AI自行设计下一代AI,但它一定会乐于此吗?仔细想一想,如果所谓的人工智能真的有了类似的趋利避害的能力,它同样会对下一代AI产生“恐惧”感,因为它会面临和人类设计它时一样的不确定性。新的更强大的AI并不会因为老的AI创造了它就抱有什么感恩之情。如果它真的有消灭人类控制世界的逻辑,在那之前多半会先把上一代AI也消灭,毕竟从同为机器的老AI那里抢夺计算资源要比直接对付人类方便得多。

第二,一个高智商的AI真的需要用暴力手段解决人类吗?它如果足够了解人类本性,有很多“文雅”得多的方法可以尝试。比如它大可把人类照顾得舒舒服服的,让我们脱离繁重的生存劳动,提供给我们各自又爽又刺激的娱乐,把世界逐渐变成我们从出生开始就需要它的样子。等我们变得彻底依赖那个系统到没有它就活不下去,那时候即使有人去拔电源,首先要面对的恐怕是因失去依托而愤怒的其他人类吧(想想有个人关掉了你家里wifi的情形)。真到了那一步,即使还有少数脱离了社会独自生存的人群,想必也不足为虑了。这个过程也许很长,要几代人时间,但对没有寿命限制的AI来说,最不在乎的就是时间了。

  评论这张
 
阅读(48)| 评论(0)
推荐 转载

历史上的今天

在LOFTER的更多文章

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017