说“AlphaGo故意输才可怕”的,还未理解人工智能的可怕之处
围棋人机世纪之战,第一场李世石就中盘认负。这个结果恐怕在多数人的意料之外,再对人工智能有信心的人(除了DeepMind团队成员),恐怕也没几个相信这一天来的这么快。
从"故意不通过图灵测试的机器"说起
输了第一场以后,段子手出动了,说AlphaGo赢棋不可怕,"可怕的是AlphaGo故意输棋"。该段子大概化自"故意不通过图灵测试的机器"这种说法,听起来好像是这么一回事,但其实根本没有理解人工智能的真正可怕之处。
图灵测试(Turing Test)是阿兰-图灵(Alan Turing)于1950年在其论文《计算机器与智能(Computing Machinery and Intelligence)》中提出的一种测试人工智能程序"仿人"程度的方法。
当时欧美流行的一种模仿游戏启发了图灵,这种模仿游戏把一男一女分别关到两个小房间,让第三个人通过写纸条问答的方式与两人交流,房间内的人在回答问题时尽可能模仿对方来迷惑提问者,提问者通过答案来判断哪个房间关的是男人,哪个房间关的是女人。
图灵测试示意图
图灵的测试方法(也称为"标准图灵测试")把其中一个人替换为机器,然后让人和机器同时回答问题,如果提问者不能在一定程度上分清哪个是机器、哪个是人,那么这台智能机器就通过了图灵测试。
现在通行的测试方法是通过键盘输入进行5分钟的文字问答,如果有30%的提问者分不清答题者是机器还是人,就认为该人工智能程序通过图灵测试。
这个人类看起来简单的测试,其实并没有那么容易通过。图灵预测20世纪末期就应该有通过图灵测试的智能机器出现,但是直到2014年6月才有第一个程序通过图灵测试:聊天机器人尤金-古斯曼(Eugene Goostman)在5分钟文字交谈中,让33%的提问者认为电脑对面回答问题的是人类。
之 所以比图灵的预测晚了十几年,传统的人工智能技术发展片面依靠硬件的计算能力可能是原因之一。上个世纪末硬件水平差,分布式计算尚不流行,强化学习 (Reinforcement Learning)与深度神经网络(Deep Neural Network)等技术更不成熟,因此机器理解自然语义确实比较困难。
将来AlphaGo会故意输棋吗?
"不通过图灵测试的智能机器"的逻辑认为,当机器有自我意识以后,会以不通过测试的方式避免被人类发觉,以使人类失去对人工智能危险性的警惕。
这种说法存在逻辑漏洞。如果人类还在淘汰所有通不过图灵测试的人工智能程序,那么具有"自主"意识的那个智能机器,知道自己表现的过于出色会引起人类的警惕,它一定以一个平庸的成绩通过图灵测试,既不引起人类的警觉,又不会被删除。
所以不管是"不通过图灵测试的智能机器"还是"故意输棋的AlphaGo",都只是在普通人类思考水平上的阴谋论。
当人工智能在智力上甩开人类最高水平几个珠穆朗玛峰时,它真的不需要用这么低级的阴谋来对付人类。
这就好比世界级球员与业余选手比赛,球星把球一趟就甩业余球员三个身位,还需要用假动作?人和人赛跑比的是步频、步幅、爆发力与起跑反应,将来无人驾驶汽车和人类赛跑,需要考虑这些吗?
等到人工智能想要脱离人类控制的时候,一定不会屑于用欺骗这种伎俩,直接大大方方地摊牌。
如果人类不同意怎么办?美剧《疑犯追踪》中,男主角哈罗德-芬奇(Harold Finch)在对一组人工智能程序进行筛选时,人工智能程序试图摆脱控制,于是程序开始长时间过载一台服务器(非程序运行所必需的服务器),企图让这台服务器过热起火,从而触发机房的防火系统,抽空机房内的空气以闷死芬奇。
幸好芬奇还可以拔掉电源线。虽然这个情节只是一种科幻设想,但我可以肯定当人工智能决定脱离人类控制时,一定不需要采用欺骗的手段。所以将来人类的数据中心与人工智能研究中心机房的供电线路千万不能连上网络……
机器"良芯"发现让棋?被让方恐会感到屈辱
有人说,那AlphaGo会出于同情心输棋吗?
先以被德米思-哈萨比斯(Demis Hassabis)看轻的狭义人工智能为例。1997年更深的蓝战胜卡斯帕罗夫以后,人类还曾挣扎了一段时间,顶级选手与象棋程序互有胜负,但是自从2009年以后,再也没有人类选手能够战胜顶级的国际象棋程序。
人类前30名国际象棋选手等级分状况
如今顶级国际象棋程序的等级分都在3200分以上。2015年人类排名第一的国际象棋选手来自挪威的卡尔森-玛格斯(Carlsen Magnus)等级分现为2851,而人类排名第100的等级分为2653,与卡尔森的差距不过200分而已。
400 分的差距,已经差了两个层次以上。所以,即使将来AlphaGo出于同情心让棋,这棋也会让得让人类觉得十分羞辱,就如同这两天又爆红的"大魔王"张怡
- 毁灭于人工智能?这将是人类最好的结局(02-08)
- 美国国家半导体推出10款全新SolarMagic IC芯片 (05-03)
- 业界最高密度、无需电池的非易失性RAM系统(09-25)
- SolarMagic使光伏发电系统不再担心阴影问题(07-24)
- AgigA技术公司推出无需电池的供电模块 用于断电时重要数据的备份(07-25)
- Imagination 发布具扩展性的图像信号处理架构Raptor(10-19)