笔趣阁 > 武侠仙侠 > 让你做短视频,你科普黑暗森林 > 第143章 未来超级智能体

第143章 未来超级智能体(2 / 2)

“你可能会说,这个场景已经涉及“更智能的人工智能”范畴了——我同意你的看法。但在“简单僵尸人工智能”和“复杂感知型人工智能”之间,存在一条我们尚未完全理解的模糊界限。”

“假设你有机会,前往其他的星系探索,可能会发现许多恒星系统中,都布满了基础探测器和采矿设备——这些设备通常以“松散的气泡状”分布在某颗行星或某个恒星系统周围。”

“并且,其规模遵循“卡尔达肖夫指数”的层级。”

“所以,“引入气泡文明”是可能的:某个文明可能会有意开采附近恒星系统的资源,将资源运回其核心星球,同时留下“危险但无智能的机器”。这些机器可以充当“威慑力量”,阻止敌对文明向该区域扩张,或至少让敌对文明的扩张“速度大幅减慢、难度显著增加”。”

“如果某个外星帝国试图在你文明边界的“已开采边缘区域”定居,或者你自己文明的某个分支派系试图在那里建立敌对帝国,那么“早期采矿导致的资源匮乏”,以及“遗留下来的危险僵尸人工智能”,会让他们的计划很难成功。”

“这也会给你更多时间来“探测他们的活动”,并评估“他们是否构成威胁”。”

“你甚至可以部署数千种不同类型、指令相互竞争的机器人,包括一支“净化舰队”——这类舰队的设计目的,就是摧毁任何“规模过大或过于复杂的僵尸人工智能集群。”

“同时,对于“己方文明成员或分支派系建立的、规模过大且可能构成威胁的小型定居点”,也会采取同样的摧毁措施。”

“这类场景之所以让我感到不安,正是因为它们看似合理——并非因为“人们容易鲁莽地制造失控的危险人工智能”,而是恰恰相反。”

“因为人们“可能会有意识地选择制造危险的人工智能”,以帮助自己“控制邻居和分支派系,防止他们失控”。”

“说起来,人类对这种“用机器进行威慑”的想法,已经思考了数千年。”

“在希腊神话中,宙斯创造了自动机器人塔洛斯,并指派它守卫克里特岛——塔洛斯通过在岛屿周围巡逻,阻挡入侵者,来完成守卫任务。而宙斯本人,也曾推翻过自己的父亲克罗诺斯——这正是我们“费米悖论之克罗诺斯场景”的灵感来源。”

“因此,针对费米悖论,我们有三类与“危险人工智能”相关的场景:”

“1:经典场景:超级智能人工智能将我们彻底毁灭;”

“2:僵尸人工智能场景:僵尸人工智能毁灭人类,或限制人类的活动范围;”

“3:自我限制场景:我们可能会选择“自我限制”,利用僵尸人工智能守卫边界、维持核心帝国的存续,并阻碍或管控任何分支派系或入侵者。”

“这些人工智能系统甚至可能“让行星保持相对完好”——因为行星“易于监测”、“资源难以转移”,且“隔离起来简单直接”。”

“一旦有飞船或卫星试图进入或离开轨道空间,“愤怒的机器群”或“饥饿的人工智能集群”就会蜂拥而至,形成一道有效的屏障。”

“这类场景的可怕之处在于:与费米悖论中“人工智能(无论是人工的还是其他形式的)取代人类或外星人”的典型概念不同,后两类场景(僵尸人工智能限制人类、人类利用僵尸人工智能自我限制)会让宇宙中“布满无智能的集群和机械掠夺者”。”

“这些机器会将宇宙变成一片“布满被掏空岩石的混乱之地”,阻止任何真正的“星系文明”崛起或存续。”

……

【原子弹很危险但人类还活着?外星人:我们的AI比原子弹听话,然后就没有然后了!】

【楼上太乐观了!邻居危险社会还在,但AI邻居会直接把你家拆了当柴烧!】

【笑死!和机器聊天比和人聊天愉快?这不就是我的日常吗?】

【妈耶!AI认为人类是资源消耗者?完了,我们在AI眼里就是电费!】

【阿西莫夫机器人打死小动物?这保护过度比我妈还离谱!】

【哈哈哈哈!大脑装罐子里?原来我们已经在《黑客帝国》里了!】

【等等!故意制造危险AI来威慑邻居?这不就是养恶犬看家的宇宙版?】

【楼上神了!宙斯造塔洛斯守岛?原来希腊神话是AI使用说明书!】

【细思极恐!空荡荡的星球等待殖民者?这是宇宙级的鬼城啊!】

【完了!愤怒机器群守卫行星?想离开地球先过机器人这关!】

【临时组装的感知AI?这不就是变形金刚吗?用完就拆太浪费了!】

【笑死!宇宙变成布满被掏空岩石的混乱之地?外星人的拆迁队太敬业了!】

【净化舰队摧毁过大的AI集群?这不就是杀毒软件的宇宙加强版吗?】

【楼上你懂什么!杀毒软件还会卡机,净化舰队直接把你星球都净化了!】

【人类对机器威慑思考了数千年?古人真有远见,知道AI迟早要造反!】

【笑死!克罗诺斯被儿子推翻?外星人:别生孩子,也别造AI,都会造反!】

【自我限制场景?人类用AI守边界?这不就是请狼看羊吗?】

【哈哈哈!行星易于监测所以保持完好?地球:还好我长得普通,AI看不上!】

……