翻译/乂文
生命未来研究所的一封要求对人工智能开发进行为期六个月的预防性暂停的公开信已经得到了包括埃隆·马斯克在内的数千位名人的签名。签名者担心，人工智能的开发者们正在“陷入一场失控的竞赛”，开发和部署越来越强大的系统以至于没有人，包括开发者们自己，能够理解、预测或控制它们。
是什么导致了某些精英阶层爆发恐慌？控制和管理明显是问题的核心，但谁来当监管者呢？在提议的半年暂停期间，当人类能够进行风险评估时，谁又来代表全人类呢？既然中国、印度和俄罗斯的人工智能团体会继续他们的工作（也许是私下进行），那么关于这一问题的全球性公开辩论显然是不可能的。
不过，我们仍然应该讨论一下其中的利害关系。历史学家尤瓦尔·赫拉利（Yuval Harari）在他2015年出版的著作《未来简史》（Homo Deus）中预测，人工智能最有可能带来的结果是人类社会的彻底分裂，这一分裂将远比阶级分化更严重。不久以后，生物科技与计算机算法将协力合作制造出“身体、大脑和思想”，从而导致“知道如何设计身体与大脑的人”与“不知道的人”之间的差距不断扩大。换言之，“那些搭上进步列车的人将获得创造与毁灭的神力，而那些未能上车的人将面临灭顶之灾。”
公开信所反映的恐慌源自这样的一种担忧：即使是那些“进步之车”上的人也有可能无法驾驭列车本身。我们当前的电子封建主们吓坏了。然而，他们想要的不是公开辩论，而是政府和科技企业能够达成协议以将权力牢牢把握在自己手中。
人工智能能力的大规模扩张对当权者构成了严重威胁——包括那些开发、拥有和控制人工智能的人。它预示着我们所熟知的资本主义范式的终结，呈现出了一套自我繁殖的人工智能系统的前景，它将越来越少地需要接受来自人类代理人的输入（算法交易活动只不过是朝着这个方向迈出的第一步）。而我们只能在下列二者中选择其一：一种新型的共产主义或无法控制的混乱。
新型的聊天机器人会为许多孤独的（或者没那么孤独的）人们提供无数个充斥着关于电影、书籍、烹饪或政治的友好对话的夜晚。套用我自己的一个旧的比喻，人们得到的将会是人工智能版本的无咖啡因咖啡或无糖汽水：一个没有任何秘密的友邻，一个完全为满足你需求而存在的他者。这里存在着一种恋物式的否定结构：“我非常清楚我不是在和真人说话，但这感觉就像是（和真人说话），并且没有任何（和真人说话所）附带的风险！”
无论如何，仔细研究这封公开信就会发现，这是又一次试图阻止一件无法阻止之事的尝试。这是一种老的悖论：作为（旧）人类而言，我们无法参与到后人类时代的实践中去，因此我们必须禁止其发展。为了使我们就这些技术明确方向，我们应该重提列宁的经典问题：谁拥有做什么的自由？在何种意义下我们曾是自由的？难道我们实际上遭受的支配不是比我们所意识到的多得多吗？与其抱怨我们的自由与尊严在未来会受到威胁，也许我们首先应该考察自由在今天的含义。除非我们这么做，否则我们只会像癔症患者一样行事，在法国精神分析家雅克·拉康看来，其（癔症患者）急于寻求一位主人，但前提是这位主人在我们的支配之下。
未来学家雷·库兹韦尔（Ray Kurzweil）预测，由于科技进步指数级增长的特点，我们很快就会面对“灵性”机器，其不仅能够表现出自我意识的各种迹象，而且还拥有远超于人类的智慧。但是，我们不应该把这种“后人类”立场同现代人对实现科技对自然的全面统治的典型关注混为一谈。相反，我们正在见证的是这一过程的辩证颠倒。
今天的“后人类”科学不再是为了统治，他们把“惊喜”作为信条：“黑盒”人工智能模型会为自身谋取何种偶然的、意料之外的新奇特质？没人知道，而这正是整个事业的快感，或者说是平庸所在。
因此，在本世纪早些时候，法国哲学家兼工程师让-皮埃尔·迪皮伊（Jean-Pierre Dupuy）在新的机器人技术、遗传学、纳米技术、人工生命和人工智能中发现了一种对科技所带来的传统人类中心主义傲慢的奇异反转：
“我们该如何解释科学成为了一项如此危险的活动，以至于，根据一些顶尖科学家的说法，科学如今构成了对人类生存的主要威胁？一些哲学家对此的回应则是，笛卡尔关于‘成为自然的主宰与所有者’的梦想已经过时了，而我们应该迫切地回到‘统治的统治’上去。他们什么都不懂，他们没有看到通过所有学科的“融合”，科技正在以我们的视角进行自我剖析，而其目标恰恰正是非统治性的。未来的工程师不会因为自己的疏忽或无知而被迫成为法师学徒，而是完全取决于个人选择。”
人类正在创造自己的上帝或魔鬼。尽管结果无法预测，但是有一件事是肯定的。如果“后人类”事物作为一种集体性事实产生，那么我们的世界观将全部失去三项典型的、重叠的主题：人类、自然和神性。我们的人类身份只能建立在牢靠的自然背景之上，但如果生活变成了某种可以完全被技术所操纵的事物，那么它就会失去其“自然的”属性。一种完全受控的存在没有任何意义，更不用说偶然性与惊奇了。
当然，任何神圣感也是如此。人类对“神”的体验只有从人类有限和可朽的立场出发才有意义。一旦我们实现“人神合一”（homo deus）并且创造出在旧人类立场看来似乎是“超自然”的特性，我们所熟知的“众神”将会消失。问题是，如果还有（关于神的观念）存在的话，那新神会是谁？我们会崇拜自己创造的人工智能吗？
我们完全有理由担心，科技诺斯底主义版的后人类世界是一种遮盖了我们生活中的深渊的意识形态幻想。毋庸置疑，要确保人类不会在不遥远的未来变得无足轻重，他们的生活也不会变得毫无意义，这需要的不仅仅是六个月的停顿。
「 支持乌有之乡！」
乌有之乡 WYZXWK.COM
您的打赏将用于网站日常运行与维护。
帮助我们办好网站，宣传红色文化！
欢迎扫描下方二维码，订阅乌有之乡网刊微信公众号
