在《人工智能:何为“智”?》中,我介绍了我对“智能”的工作定义是“在知识和资源相对不足的条件下的适应能力”。按照这个定义构建的系统可以被置于很多不同的环境中,而其智能使得它能够逐渐通过学习获得在该领域解决问题的能力。照这种观点看,“智能”不是“解决具体问题的能力”,而是“获得解决具体问题的能力的能力”,因此是一种通用的“元能力”(meta-ability)。
我对于“能力”和“元能力”的区别的最早认识来自于小时候读到的一个寓言故事。故事的框架很老套:两兄弟遇到一个白胡子老神仙,他们选择了不同的法宝,因此走上了不同的人生道路。这个故事的特别之处是其中的法宝是两双手套,一双是白色的,另一双是黄色的。带上黄手套就可以直接拥有各种技艺,而带上白手套就可以很快学会各种技艺。后面的情节大家都能猜到:选了黄手套的马上变身为成功人士,而选了白手套的仍需四处学徒。有一天两个法宝同时失效了,这时前成功人士立刻被打回原形,而那位前学徒工却仍身怀长技。这个故事的出处我已经找不到了(如果哪位读者知道请告诉我),两双手套的颜色也可能被我搞反了,但故事中的教益却对我影响深远,且不仅仅是“不要贪图急功近利”这么简单。
在我看来,“能力”可以被分解成“技能”和“智能”两个方面。一种“技能”指解决某类问题的专门化能力,而“智能”指那种获得和提高各种技能的能力。如果把系统的总技能看成时间的函数,那么智能就是这个函数的导数。系统在某一时刻的技能等于其“本能”(先天技能)部分和智能所贡献的部分的叠加。这两个部分的关系在人类和计算机系统中非常不同。因为人类的本能差别较小,同龄人的技能差别可以近似地反映智能差别,这就是“智商”定义的基础。相反,计算机系统的技能既可以来自本能,也可以来自智能。当一个计算机系统完全靠人编的程序解决问题,而不根据自己的经验对其行为进行任何调整时,它仍可能拥有很高的技能,但完全没有智能。而另一方面,一个高智能系统如果不依赖于预先编好的应用程序,在开始运行时可能并没有多高的技能。
根据上述分析,把人类智商测试直接用于人工智能是错误的,因为计算机系统在一个时刻的“智能值”和“技能值”之间没有相关性,而前者必须通过后者的变化来衡量。智能的具体衡量标准和方法仍是AGI领域中的一个热点课题,但无论如何,这种衡量不能以一套固定的考题来进行,因为那样一来,一定会有人去编制一些在这种考试中表现出色,但此外一无所能的系统。这绝不是正确的导向 — 图灵测试已经因此而遭到“鼓励欺骗”的指责了。
“机器学习”还远远不够
把智能理解为学习能力远非新想法。心理学家如皮亚杰已经明确地指出智能是一种高级适应能力,图灵认为思维机器要通过学习实现其功能,而“机器学习”从一开始就是AI的一个子领域。在这种情况下,为什么上述想法不能在主流AI中发展呢?这是因为像“智能”一样,对“学习”这个概念也有许多种不同的理解,而我的理解和主流AI的很不一样。
如上所述,我认为“学习”是一个通用的元能力,而且是智能的必要条件,但在目前的AI研究中,“学习”一般是被看做是诸多认知能力之一,是起锦上添花作用的,因而AI系统不一定都有学习能力。即使在机器学习的研究中,“学习”也是一般被看做达到一个确定的输入输出关系的手段。这种学习系统的技能在“训练”阶段的确随时间增长,但达到某个水平后学习就停止了,而此后系统进入“工作”阶段。与此相反,在我的设计中,系统没有截然分开的“训练”阶段和“工作”阶段,学习是终生的,无处不在的,尽管在系统的“幼年期”和“成年期”学习和工作的比例有量的区别。最后,目前各种机器学习算法虽然有一定的通用性,但离AGI的要求还相差很远。
“错把技能当智能”是一个目前普遍存在的问题。对于只关心某个具体应用的人来说,到底一个计算机系统的某项功能是程序员设计好的还是系统自己学的,其间的差别大概并不重要,但如果关注点是系统的发展潜力和适用范围,这里的差别可就大了。
以我的研究为例,“知识相对不足”意味着系统必须不断学习新知识以应对新问题,而“资源相对不足”意味着系统必须不断调整策略以满足时间约束,而这种运行环境是不在现有AI研究(包括各种学习算法)的视野之内的。更大的差别体现在对阶段性结果的评价上。由于我的工作不是基于现有主流AI所接受的理论(主要是数理逻辑、概率统计、计算理论)之上的,而且尚未有具体应用成果,这种工作在他们看来就没什么价值。反过来,在我看来主流AI做的基本是“人工技能”,也不是我所感兴趣的。虽然其他AGI研究者和我的观点不完全一样,他们同样对主流AI的现有规范不满,而对AGI的研究目标和评价标准有更强的认同感。
目前介绍AI技术热点的报道很多,但其中的问题也不少,尤其是常常把这些技术做直观理解和外推,因而赋予它们很多它们本来不具有的性质。我在《赛先生》上写这个专栏的初衷是以我自己的研究为线索,逐步、系统、深入地分析AI、AGI和认知科学中的一些理论问题,澄清一些核心概念,并简单地介绍一个完整的智能理论。之所以牵扯到认知科学,是因为包括我在内的一些AGI研究者的目的不仅仅是要造思维机器,而且希望循此途径认清智能、认知、思维、心灵、意识等现象的本质和一般规律,这就不可避免地涉及到心理学、语言学、哲学等相关学科,而所谓“认知科学”正是指这些学科的交叉区域。我知道有很多读者的兴趣是在“人工智能是否会威胁人类”之类的话题上,但目前的这类讨论大量充斥着概念错误,所以在涉及这些话题之前,我们还是需要先把基本概念搞清楚。(文章来源:赛先生微信公众号 作者:王培 美国天普大学计算机与信息科学系)