原文請看這裡，英文版  ---> https://aeon.co/essays/why-is-the-language-of-transhumanists-and-religion-so-similar

__________________________________________________________________

展望 AI 的未来会让我们深思：当我们不再是唯一的创造者、唯一的思想者、唯一能够改变自己命运的有意识生命时，我们作为一个人的目的和意义是什么。

01

那个年轻人站起来的时候， 我的胃揪了一下。

之前在茶歇的时候， 我远远地观察过他，而且注意到在他别在翻领的代表证上， 潦草地写着“神学家”这几个字，那草率的字迹让人觉得他是在最后一刻才被临时邀请加进会议的。

此时他清了清嗓子，向台上的嘉宾提问，他想知道当人们在编写 AI 智能体的时候，会选择将怎样的道德准则编码到这些程序中。

“例如，自慰违反了我的宗教信条，”他说，“所以我不确定， 我们怎么决定哪些道德比较重要？”

这群由哲学家、 技术人员、 超人类主义者、 AI 爱好者所组成的观众爆发出一阵大笑。他们中的许多人都比较熟悉所谓的价值校准问题——一个棘手的哲学问题， 即如何保证 AI 智能体的目标与人类的价值观兼容。但是把宗教方面的思考带入这场辩论在他们看来很可笑。

“我们当然不希望AI去做一名恐怖分子”， 一名嘉宾稍后回应说。“但无论我们希望写入什么样的价值观， 这都应该与宗教无关。

类似的事情也发生在纽约， 当时我正对一名头发灰白的计算机学家进行自我介绍，当提到我是剑桥大学法拉第科学与宗教研究所的研究员时，他立刻回应说“这两件事情根本不应该扯到一起”，他说，“宗教界对AI的反应， 如同他们对可再生能源的看法一样， 根本不重要。”。直到最近，许多川普的福音派支持者让我意识到，这位科学家的论断有误。这些川普的支持者观点鲜明：可再生能源，气候变化是在故意分散我们的注意力，上帝的旨意是让地球及其全部资源都归我们任意使用。

然而吊诡的是，如此一个反教权的 AI 社区却大量使用和宗教相关的语言，包括对这个社区的媒体报道也是如此：未来将出现 AI 的“神谕”和技术的“布道者”，还有大量对“天使”、 “上帝” 、“末日天启”等词汇的滥用。

Google 的工程总监雷·库兹韦尔（Ray Kurzweil），经常被媒体当作一个“先知”来报道。他一会儿是超级智能（在智慧的任何方面远远超越人类的机械智能物种）时代的预言家，一会儿又成了一个末日预言家（由于他对人类可怕前景的声明），或者一个奇点（人类和机器融合，并开始永生的时间点）的占卜术士。

在技术圈中，人们公开引用这样的比喻和隐喻， 好像这种比喻已经完全世俗化，与宗教无关，好像理性反对的只是传统意义上的宗教。信众们相信这样一个超人类的未来会实现，那时生而为人所存在的局限将被彻底克服。 在这种信念的驱使下，他们通过预言和末日叙事来理解他们正着手奋斗的事业。