不仅是工程学！人类认知偏差导致的12个AI研究盲区

大数据文摘出品

编译：狗小白、张秋玥、Aileen

人类天生存在许多认知偏差，而这对科学进步危害巨大。科学研究倾向于偏好既有研究方法，进而导致许多研究体系中的内在特性被忽略。

因此，研究者很可能不幸花费毕生追索错误无意义的方向。回顾历史，科学长河中充斥着许多后人证明为错误因而毫无价值的研究。

Sabine Hossenfelder在她粒子物理学领域中写过这认知偏差。她在《迷失在数学中(Lost In Math)》一书中探索了一群世上最具天赋的科学家们所具有的认知偏差。

她表示，这些科学家们虽具有优秀的认知能力，但在不懈追求美的道路上，理论物理学家们也走进了科学的误区，物理学在过去的四十来年内没出现任何重大突破。她认为，科学的客观性已屈服于采取具有美学意义的方法论。

这篇文章中，我会探索在人工智能(或强人工智能AGI)领域探索过程中存在的类似偏差。

可能存在的偏差之一即是贝叶斯定理的滥用。贝叶斯定理的产生启发自奥卡姆剃刀定律：“需要假设条件最少的理论解释最可能是正确的理论。”

因而，许多科学家们忠于他们的职业，并信仰“所有的事情都应该尽可能简单，但又不过分简单”的理念。

以上的确是人类理解世界的优秀法则，但也正是Hossenfelder所反对的美学主义。科学研究的重大突破往往依赖于科学家们某个瞬间的第六感，但这些假设不应导致对预感的武断应用。在此引用Richard Feynman的一句：“无论你的理论多么美妙，你又有多么聪明，但如果与实验结果相佐，你的理论就是错的。”

在此我想谈一谈大部分(强)人工智能研究者总是忽视的12个事实：

1. 直觉

认知心理学家们早已确定，人类认知的运作依赖于两种独立的认知方式，这就是双过程理论。直觉思维与理性意识互为竞争又相互协作，支持着人类认知。老式的人工智能的失败可追溯至当时对人类认知主要基于理性认知系统的理念，虽然诸多证据表明并非如此。直觉认知系统才是驱动所有人类认知的本质发动机，人类认知普遍采用“分期推断”。

2. 睡眠

大自然要求睡眠占人类生命中一个不小的部分。缺觉会导致认知障碍，最终可能致死。至少有实证证据表明，睡眠对认知发展具有重要意义。但不幸的是，很多研究者忽视了人类“待机状态下的”认知发展。而事实上，人类掌握抽象概念的能力很可能是在睡眠过程中成长的。

3. 不全面的呈现

很久以来，科学家们都试图找到内部心理的生成呈现出外部世界的存在，因此，老式的人工智能建立符号模型来倒映外部世界的语义。深度学习训练网络学习对世界的内部呈现，这个内部呈现在一个连续的高维空间反应出观察结果的语义。这个空间则允许诸如理性、相似性比较之类的操作。

这有两个问题：第一个问题是内部呈现抛出了更深层的问题，绘制外部真实世界的内部呈现仍需要一些用以理解内部呈现的东西。第二个问题是，我们其实只关注我们观察到的世界里的其中一小部分。认知盲区是存在的，不像机器那样能够留下图片般的呈现，我们只关注很小一部分的图景，其它部分靠想象。James Gibson在他生态认知的理论中描述了另一种基于可供性的呈现，也即大脑仅仅捕获环境中可能存在的而非环境真实的反映。

4. 灵敏度

我们是如何仅靠触摸来分辨一个物体的?我们是如何靠摸就能辨认出棕色袋子里的苹果?很明显，感知并不仅靠现实世界的一张快照，而是由多角度的快照组合成一个前后一致的统一。人类拥有异乎寻常的灵巧的手，也许正因此我们才有了高级认知能力。我们对世界有更好的呈现，也许是因为我们与世界的参与度更高，且能够更好地分辨不相干信息。但在如今的研究中，却很少涉及认知方面的探索，以及一体化机制。

5. 有限的理性