编译｜吴婷婷
编审｜王新凯
出品｜学术头条
想象一下，当你推倒多米诺骨牌时，第一张牌倒下，而后每一块牌迅速产生反应，直至最后一块牌。实际上，这种连锁反应不局限于物理界，而是广泛存在于各个科学领域。
而今天，科学家们都在讨论一个全新的、会产生连锁反应的领域——AI。许多人提出，AI 的智力就像多米诺骨牌一样，一旦打开某个开关，它就会不断地自我补充，形成 AI “智力爆炸”，甚至最终可能超越人类智力。
近日，世界知名的人工智能专家、前加州大学教授 Lance B. Eliot 博士在福布斯杂志发表文章，详细讨论了 AI “智力爆炸” 这一问题。
01
你说的 “AI” 不是 “真正的 AI”
一些科学家认为，某一天，AI 有可能会发生 “智力爆炸”，并且宣称，这可能发生在 2050 年至 2100 年之间。但没人知道具体的答案。
事实上，目前已存在的 AI 系统，还无法与人类智力相提并论。当前基于计算机的 AI 可以做一些相当棘手和令人印象深刻的事情，但这充其量只能称作是 “狭义的 AI”--- 它只能在有限的范围或领域中工作，而且缺乏与人打交道的常识性推理能力。*
而真正的 AI，通常被称为 AGI（Artificial General Intelligence），可以毫无悬念地通过图灵测试。
但目前，世界上还没有一个 AGI。
有人认为，只有人类才可能展示出最高水平的智力，因此，AI 智力无论经过多少演变发展，都不可能达到高于人类的水平。因此，AI 经过智力爆炸后，将达到与人类智力完全等同的程度，而后便停滞不前。
但相反，也有另一种观点认为，AI 智力的爆炸式增长将会超越人类智力，并停留在所谓的超级智能左右的水平上。
超智能水平究竟有多高？我们对此暂时毫无了解。
但有人坚信，尽管超智能会超出人类的智力水平，但它本身也将具有一个界限或最终优势。同时，AI 智力爆炸可能是一个永无止境的连锁反应——AI 可能会不断地发展，引发超级 AI，再引发超级超级 AI...... 总之，变得越来越聪明，直到永远。
02
AI 智力爆炸，于人类是利还是弊？
我们不得不注意的一个问题是：超级 AI 可以思考出、做到、看到或说出哪些我们普通人所不能做到的？
Eliot 教授给出的答案是，超级智能大概可以解决癌症，世界饥饿，解释宇宙是如何开始的，并且从本质上可以回答人类仅有的敷衍智力尚未解决的、所有棘手的开放性问题。
令人悲伤的是，人类的普通智力甚至可能不足以识别出超级智能所能想到的东西，因此到那时，人类在 AI 眼中可能如同小小蝼蚁，超智能 AI 要么容忍我们的存在，要么帮助我们存活下去。
它可能试图将我们推向智能阶梯，或者决定让我们成为 “宠物”，可能会教给我们新的智慧，也可能会认为我们不值得它为此烦恼而放弃我们。
但另一方面，这是否意味着我们根本不需要任何其他新发明，因为以某种方式拥超智能有 AI 就可以满足我们的所有需求？
想象一下，有时候与真正聪明的人在一起时，我们的智力会得到提高，因为与对方的交互作用可能使我们沉迷、吸收或以某种方式放大自己的智力。因此，假如我们实现了 AI 超智能，则可能导致我们作为一个物种的自身智能的增加，这似乎也是合理的。
03
AI 自动驾驶汽车与智力爆炸
不得不说，目前的人工智能产业的一大领域就是自动驾驶汽车。但实际上，目前的无人驾驶汽车技术水平还未达到较高水平。
真正的自动驾驶汽车是指 AI 完全自行驾驶汽车，并且在驾驶过程中不需要任何人工协助。这些无人驾驶车辆被认为处于 4 级和 5 级水平。
而要求驾驶员共同分担驾驶工作的汽车，应该被称为半自动驾驶（semi-autonomous），处于 2 级或 3 级水平，通常包含各种自动附加组件 ADAS（Advanced Driver-Assistance Systems)。
现在，4 级无人驾驶汽车正在通过非常狭窄和经过选择的公共道路进行试验，来尝试增加其吸引力，尽管是否应该允许进行这种试验仍存在争议（因为反对者指出，人在这些试验中充当小白鼠，是生死攸关的事）。
在文章中，Eliot 教授提出了 AI 自动驾驶汽车和 AI 智力爆炸的三个方面：
（1）AI 自动驾驶汽车的兴起是否会对 AI 智力爆炸的连锁反应起促进作用？
（2）如果 AI 自动驾驶汽车本身不属于 AI 智力爆炸的一部分，那么 AI 自动驾驶汽车是否还会得到研究与发展，并最终促进 AI 智力爆炸？
（3）我们设计的 AI 自动驾驶汽车是否会在 AI 智力爆炸产生 AI 超智能后，成为废弃无用的技术？
一种观点认为，今天正在设计的 AI 自动驾驶汽车似乎不太可能产生 AI 智力爆炸。现有的系统要达到超智能水平，似乎还远远不够。这就引发了另一场关于是否要实现真正的无人驾驶汽车的讨论，毕竟，有了超智能 AI 后，现在无人驾驶汽车似乎仅仅是个玩具。
总而言之，智力爆炸的概念无疑能让我们的思绪飘扬。
想一想，如果无人驾驶汽车突然的 AI 驾驶系统突然引发智力爆炸，它们可能决定不再当我们的汽车驾驶员，而是成为人类生存和未来的驾驶员。这无疑会让人们陷入担忧。
原文链接：
https://www.forbes.com/sites/lanceeliot/2020/08/23/the-ai-intelligence-explosion-might-happen-this-way-including-for-ai-self-driving-cars/amp/
未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）云脑研究计划，构建互联网（城市）云脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。
如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
