“这种不确定性与“这个悖论”紧密相关——这一深刻的问题探讨外星生命是否存在、它们可能身处何方,以及为何我们从未(至少未曾公开地)看到或听到过它们的踪迹。”
“如果这个悖论的答案,并不存在于遥远外星生命的思维中,而是存在于它们空洞的“回声”里呢?”
“宇宙中,是否可能充斥着半智能机器?”
“这些机器是否源自已消亡文明的残骸?它们是否能够思考,却无法感知,也没有主观体验?”
“今天,我们将探讨“僵尸人工智能”的概念,以及它作为这个悖论解决方案的可能性。”
“今天,我想探讨这一概念如何与这个悖论的背景相契合——我们通常会用这个悖论来分析潜在的文明或技术。”
“当我们谈论人工智能时,往往会立刻想到“感知型机器”——即能够思考、创造、内省和反思的实体,它们在许多方面堪比人类智能,而且我认为,它们或许和你我一样,都可被称作“人”,也和科幻作品中典型的外星生命无异。”
“但人工智能,还有另一个可能更令人不安的类别——僵尸人工智能。”
“这类系统具备高度智能,能够完成复杂任务,却缺乏意识、自我认知能力,也没有任何形式的主观体验。”
“它们的行动精准且有目的性,却不具备理解能力或主观意图。”
“僵尸人工智能”一词源自“哲学僵尸”的概念,该术语由哲学家罗伯特?柯克提出,指一种假设中的存在:”
“其行为与有意识的人类毫无二致,却没有任何内在的精神活动。僵尸人工智能的运作方式与之类似:它能模仿智能行为,却不具备我们所认为的真正智能所应有的自我认知。”
“僵尸人工智能的“前身”,在我们当前的技术中已有所体现。”
“从能生成类人对话的ChatGPT等人工智能系统,到能在复杂环境中导航的自动驾驶汽车,这些工具都在执行需要智能才能完成的任务,但它们在执行过程中并无感知或理解能力。”
“这种区别看似微不足道,却引发了关于技术发展轨迹和人类文明未来的重大问题。”
“我们担心具备自我认知、类人特征的机器会取代我们,这种担忧是合理的。”
“但在那之前,我们必须先应对僵尸人工智能带来的威胁——这类“僵尸末日”,比传统意义上蹒跚行走、寻找大脑为食且自身似乎毫无智力的亡者(活死人)要更有可能发生。”
“对于僵尸人工智能而言,倘若它们被设计成模仿人类行为的样子,它们看起来肯定会“极具智慧”。”
“我们的基本逻辑是:几乎所有人类能完成的任务,都能由专为该任务设计的、性能更优的机器来完成。”
“如今,在机械任务方面,这一点已被我们视为理所当然。”
“但在工业革命时期,这一点却常常引发争议。从勒德运动(指19世纪腐国工人反对自动化机器的运动),到“钢钻手约翰?亨利”(灯塔国民间传说中与蒸汽钻竞争的工人英雄)这类民间英雄的故事,都反映了当时的这种争议。”
“正如我常向人们提及的那样:最早被计算机取代的工作是白领岗位,而非蓝领岗位。”
“曾经,“计算机”是一个为人类设立的有声望的职业头衔,而非一种设备。”
“早期的机器被称为“计算器”或“微分分析仪”。没过多久,我们就接受了一个事实:专为计算设计的计算机,运算速度会比任何人类都快——就像蒸汽驱动的凿岩机,比约翰?亨利用钢凿在山里凿隧道的速度要快得多。”
“我们曾经认为,人类将只负责纯创造性的工作,而机器则处理其他所有事务。”
“但现代人工智能正在挑战这一假设。像ChatGPT这样的系统表明,即便是相对简单的专用机器,也无需具备人类水平的智能,就能完成诸如进行连贯对话这类任务。”
“在极端情况下,它们甚至能把这些模仿行为做得惟妙惟肖,以至于我们可能根本意识不到它们是“僵尸”。”
“事实上,对于聊天机器人而言,这正是其设计的核心目的——或者更准确地说,是让人们无法察觉其“僵尸本质”,或者使其性能足够好,以至于在大多数应用场景中,我们根本不在意这一点。”
“而且,这不仅仅局限于对话领域。”
“如今,人工智能已展现出承担创造性任务的能力:无论是生成艺术品、创作音乐、做出科学发现、下棋,还是撰写文本,人工智能系统在这些曾被认为是人类专属的任务上,正变得越来越熟练。”
“这些由算法和模式驱动的创造物,常常会以其创新性和适应性让我们感到惊讶。”
“这表明:创造力本身,或许并不像我们曾经认为的那样,是人类大脑的专属能力,而且,创造力或许也不需要多么复杂的“智能”。”
“现实情况是,大多数任务所需的智能水平都非常低,尤其是当这些任务被拆解成特定步骤,由那些最初由“有足够智慧的人”设计出的专用设备来执行时。”
“无论是在太空中导航、在小行星上着陆、“代谢”岩石以进行自我修复或复制,还是根据蓝图制造另一台机器人或设备,都不需要太高的智能。”
“人类是地球上,唯一具备高级抽象思维能力的生物。”
“然而,地球上其他所有物种,即便没有这种能力,也能完美地繁衍和生存。”
“因此,我们早已知道,我们能够制造出能前往遥远太空、并能自我复制或制造其他专用机器的太空探测器——因为即便是最简单的细菌,也具备这种自我复制的能力。”
“而且,“简单”往往是最佳选择。”
“不要给机器赋予超出必要范围的智能或“人格”,否则后果可能不堪设想。”
“一个唯一任务就是前往新的太阳系、在低重力岩石中挖掘资源以进行自我复制并继续执行任务的简单太空探测器,并不会构成太大的生存威胁或突变风险。”
“与生物不同,机器可以被设计成几乎不会发生突变的样子。”
“你的烤面包机不会神奇地进化成微波炉或飞机;同样,一台配备了简单离子推进器(不适合在行星上着陆或起飞)的探测器,也不会突然变异成火箭推进器。机器的运作方式并非如此,尤其是当它们的设计中根本没有包含突变能力时。”
“另一方面,如果你将具备真正智能的物体送入太空,它可能会开始产生自已的“想法”。”