图灵测试，测的到底是什么?(2)

　　但问题还不仅限于图灵测试，按照这个实验，一台电脑和塞尔一样，都是只能识别弯弯扭扭的“符号”，对这些汉字符号的意义一无所知。这也正是计算机程序的问题，不管它是硅基的还是塞尔基的。这等于是说有理解力的强AI根本不可能出现!

　　这个思想实验看起来一目了然，完美符合直觉，而且很迎合了不少人的愿望——证明人类心智是独一无二的天赐产物，人类造不出赝品来。不过话说在前头，我(遵循丹尼尔·丹内特等人的观点)认为它是错的。

　　其实塞尔当初在伯克利讲座上首次提出这个实验的时候，就有听众反对说，锁在屋子里的人可能不懂他在处理什么东西，但他只是整个系统的一部分啊，他还有规则书，有演算纸笔，有一堆汉字的数据库，凭什么一定要他理解、而不能让整个系统理解?

　　塞尔的回答是：

　　“这个想法认为虽然一个人不懂汉语，不知怎么的他和他的那一堆纸联合起来就能懂汉语。如果一个人不是已经深陷意识形态之中，那他怎么会认为这想法可信，还真有点难以想象啊。”

　　也许吧，但是，真的只有“一堆纸”?

　　直觉泵的旋钮

　　这种思想实验——用丹内特的话说叫“直觉泵”——有个共同的问题。它的确给出了一个直觉的结论，但是这结论是来自一个完整的详尽的思想实验，而不像普通的逻辑推理那样来自具体而明确的几个前提。如果这个实验的某个细节，某个你觉得无足轻重的细节，欺骗了你的直觉呢?

　　最有名的直觉泵大概是有轨电车问题(Trolley Problem)，1967年由英国哲学家费丽帕·弗特提出。铁轨上有五个小孩在玩，停用的岔轨上有一个小孩在玩，你要把车转移到岔轨上压死一个孩子救下五个吗?这是一个非常典型的关于道德问题的直觉泵。但是千万不要以为这实验就能完整地代表你的道德立场——如果我换一个条件，那个岔轨没有停用，也在正常 运行，只是这趟车正好不往那走呢?如果我再换一个条件，根本就没有岔轨，那个小孩就在你身边玩，你把他推下去就能让车停下救另外五个小孩呢?如果那一个小孩是你的亲人呢?如果根本没有小孩、只有你自己决定是否要自己跳下去呢?

　　有轨电车问题已经成为了一个大领域，有无数的变体。

　　图片来源：Workman Publishing

　　对待直觉泵，这正是丹内特的建议：研究它的细节，看看每个细节如果发生了改变会不会影响到最后产出的那个直觉。用他的话说，是“转动直觉泵的旋钮”。

　　回到中文屋子。塞尔说，他在手动模拟一个程序的运行——但是他没有说他是在哪一个层级上模拟。如果外面的人输入了一串中文，比如“你好啊”，屋子里的人在做什么?他是在做机器码(将寄存器23945的内容加到寄存器93756上)?是在做源码(定义常数p，令p=100)?是在做伪代码(将句子拆分为名词、动词、代词和修饰词，判断其是否为一个问题)?有没有注释可看?如果他在顶层，那么他会不会对自己在做什么有所理解?如果他只是底层的一个计算器，那他之上的繁复层级真的可以用“一堆纸”来轻描淡写地概括吗?

　　设想这样一个问题：写下一个英文大写字母D，把它逆时针旋转90度，然后把它放在一个英文大写字母J的上面。请问这让你想到了什么样的天气?

　　一个顶层的塞尔(或者干脆就是一个懂中文的塞尔)的脑海中会浮现出D躺在J上的这个形状。一个底层的塞尔当然对此一无所知，但是他身为计算器所驱动 的那个中文屋子要怎么回答这个问题?如果这个中文屋真的通过了图灵测试，它当然不会被这道题难倒——但是解这道题的唯一办法，就是照着它的指示，把D躺 倒，放在J上，对比记忆库，判断出这个形状最接近于雨伞，根据雨伞联想到雨天。这是底层的塞尔所不知道但中文屋作为一个整体必须在它的“内存”中做的事 情。而这件事情和一个懂中文的塞尔解题时的所思所想又有何区别呢?

　　但是，如果简单地用“一堆纸”这个人畜无害的词，轻描淡写地描述中文屋，你的直觉就被误导了。如果一个中文屋真的完美通过了图灵测试，真的和人无法 区分，它在和裁判对话时的“思维”状态必须是和真人高度类似的。假如图灵测试的裁判决定用苏格拉底式方法(反诘法)教授对方量子物理学，那么一个底层的做算术的塞尔 当然不会因此学会量子物理——但是中文屋却会(别忘了，它通过了图灵测试——它能在智力行为上表现得和人无法区分)。这就像是给中文屋安装了一个新程序， 能执行简单的量子物理计算和模拟。在这种情况下，你还凭什么说，因为底层的人没有理解，所以这间屋子也不能理解呢?

原文转自：http://www.testwo.com/article/620