佳美之处

 找回密码
 注册
搜索
热搜: 活动
佳美之处 门户 文萃 网络事工研究 查看内容

關於帕斯卡的賭注和『洛可的蛇王』(Roko's basilisk)思想實驗之對比是一個值得探討 ...

6-2-2018 21:49| 发布者: snapshot| 查看: 243| 评论: 0

摘要: 不知道現在有沒有誰思考過?詳細介紹可先看這裡,是馬斯克和電音美少女做引子開始的。http://user.guancha.cn/main/content?id=15858page=0——————————————————————————————————本 ...
不知道現在有沒有誰思考過?這篇文章值得讀  http://southerncrossreview.org/113/singler-faith.html。中文在視角雜誌有刊出https://zhuanlan.zhihu.com/p/32972321 ,不過竟然不連接到原文,實在不地道。
詳細介紹可先看這裡,是馬斯克和電音美少女做引子開始的。https://www.inverse.com/article/44612-elon-musk-grimes-rococo-basilisk

——————————————————————————

“可怕的”思想实验

一只传说中的爬行动物最近抬起头来。据蜥蜴人说,蜥蜴是一个传奇的蛇王,据一位欧洲的兽人说,他可以一眼就能导致死亡。然而,他最近的化身更看重技术的未来,而不是神话般的过去。

Rokos Basilisk是一个思想实验大约十年前出现在人工智能LessWrong讨论面板上,并以Roko命名,用户谁设置了难题。奇怪的是,这也是科技企业家伊隆马斯克和音乐家格兰姆斯聚集在一起的火花。

如果我们确信人工智能能够自信地实现所谓的“奇点”并且最终无所不能,那么Roko应该做些什么?如果我们帮助这样的存在,我们保证我们的过时,但如果我们不这样做,全能的AI可以惩罚我们永恒。

LessWrong的创始人Eliezer Yudkowsky对Roko的帖子感到不满。他把思想实验当作信息风险,这是传播(真实)信息的风险:

仔细听,你这个白痴……你真的必须聪明才能开发出真正危险的想法。我感到很沮丧,人们可以很聪明地做到这一点,而且不够聪明,无法做出明显的闭嘴,因为与朋友聊天时聪明听起来更重要。这篇文章很愚蠢。

Rokos Basilisk激发了这种特殊愤怒的原因之一是被未来超级智能勒索的可能性。其原因可以在另一个思想实验Newcombs Paradox中找到,Newcombs Paradox是1

960年由物理学家William Newcomb在现代博弈论中发挥作用的一个假设问题。

在悖论中,知道未来的人(具有时间机器或超级计算机的人说)已经知道玩家在两个有很多金钱,金钱或没有钱的盒子之间进行选择时会做出的决定包含钱,并相应地放置了钱。

悖论在于球员是否认为超级计算机是无懈可击的。

同样,暴露于Rokos Basilisk的人必须决定是否帮助制造或扼杀全能蜥蜴,并承担后果。一切都取决于你是否相信蛇怪。

Rokos Basilisk很快成名。拿起几个多重的现实和模拟理论,并且你在400年的思想实验帕斯卡的赌注中有无穷无尽的变化,数学家布莱斯帕斯卡通过打赌只有信仰才能赢得信仰来培养对上帝的信仰可以。

令人难以置信的是,你不仅会过上空虚的生活,而且如果你错了,你也会被定罪到永恒的诅咒。相信,如果没有上帝,你过上了美好的生活,失去了一点点,但如果你是对的,你会得到永恒的回报。你所要做的就是克服轻微的技术难度,说服自己,相信权宜之计,并决定这种信念是否被认为是“信仰”。

这两个投注都接受了全能的报复 – 所以这是几个星期前探索的麝香,亿万富翁和Space X的创始人和特斯拉着名的可疑的未来人工智能,将18世纪的风格与Rokos Basilisk结合起来,在规划第一次火星载人任务和在加利福尼亚州建造地下交通系统之间。

提示网络 – 震惊了马斯克的“笑话研究”的想法。事实证明,成为这个星球上最富有和最有权势的人之一并不是自发的。

事实上,马斯克在言辞方面的演奏已经由加拿大音乐人格兰姆斯在她的音乐视频“无血肉”中完成。

格林斯出生于克莱尔布歇,为视频创作了一部名为“洛可可蜥蜴”的玛丽·安托瓦内特角色。指的是不寻常的洛可可风格以及罗科的思想实验。麝香啾啾她回答说,她的音乐Gri and,过去,现在和将来的哲学诞生了一段浪漫。

谁是所有的蛇怪?

不管是不是格兰姆斯召唤一个可怕的法国女王与一个蛇怪霸主的哲学含义已经完全实现了哲学影响,她不太可能预见到现实世界的浪漫结果。 Musk和Grimes最近通过参加Met Gala联合举办了他们的关系官方活动,Grimes拥有Tesla“Collar”标志。

如果我们相信Rokos Basilisk本人,我们可能会问这对夫妻对“KI很有趣”的热爱是否已经使他们误入歧途。因为在思想实验的另一个复杂情况中,我们已经有可能生活在模拟全能存在之中,并相应地受到惩罚或奖励。

这个想法并不是AI故意报复,更多的是它无法帮助自己改进。所以他们折磨那些反对或抵制他们的创作,以防止叛乱,从而不完美。格兰姆斯麝香浪漫可以完美地阻止阻碍我们未来监护人的危险。

Sophie Ward,伦敦大学戈德史密斯博士候选人

————和————————————————————————————————



——————————————————————————————————

本文作者 谢熊猫君

先说一句,如果你读到最后,肯定会翻回到开头这里

最近,钢铁侠埃隆马斯克(Elon Musk)带着自己的新女友出现在了公共场合

500

是不是觉得画风不太对?马斯克穿着白色西服,非常正式,女朋友格里姆斯(Grimes)则是打扮非常哥特。

格里姆斯是位歌手,媒体报道,这两个人是因为一个关于人工智能的笑话才走到一起的。

但是媒体并没有解释这个笑话,一是这个笑话解释起来颇不容易,二是这个笑话很烧脑,以大部分人的智商,可能听不懂这个笑话。

谢熊猫君今天就来尝试给大家解释一下这个笑话。

出于人道主义,我要提醒一下,虽然了解这个笑话是个很涨知识的事情,但是你如果真的能够理解这个笑话,你也许并笑不出来,甚至可能陷入对人来未来的忧愁中

这个笑话其实只有两个字

Rococo Basilisk

当然,看到这两个字,你是不会觉得这是个笑话的,那么Rococo Basilisk是什么呢?

新女友格里姆斯在2015年的歌曲Flesh Without Blood的MV里面,出演了一个角色,叫做Rococo Basilisk,就是下面这位

500

而她藏在MV里面的这个梗如此的高冷和隐晦,大家都没看懂。直到三年后的2018年,马斯克才意外的发现了它。

要看懂这个梗,不仅需要懂艺术史,还要懂人工智能,而这两个技能树基本是不重合的。马斯克恰巧是为数不多的两样都懂的人。

Rococo,翻译为洛可可,是一种18世纪产生于法国,流行欧洲的艺术风格。普遍被认为是晚期的巴洛克风格。比如下面这个洛可可风格的建筑:

500

Basilisk,翻译为巴西利斯克,是欧洲传说里的蛇类之王

500

Rococo Basilisk本身是没什么意义的,它之所以是个梗,在于它是对于一个叫作Roko's Basilisk的思想实验的揶揄。

至今为止还是看得懂的吧?下面开始就要烧脑了。

再一次人道主义提醒,看懂了以下内容,你可能会很忧愁

Roko's Basilisk,是一个叫作Roko的网友,在一个叫作LessWrong的社区上提出来的一个思想实验。

这个主张自由思考和公开讨论的社区,对各种思想的容忍度非常高。

但是Roko一提出这个思想实验,网站管理员就无比的惊恐,把这个思想当做“禁术”,并且对于所有相关内容的讨论采取了斩草除根的删帖态度。

这个思想实验是怎么回事呢?我从浅到深来讲述一下。

第1层思考

假如有一个来自高科技文明的外星人找到你,给你两个盒子

其中盒子A里面肯定有1000元,盒子B里面可能有100万元,也可能是空的。

500

外星人给你两个选项

选项一:同时拿走盒子A和盒子B

选项二:只拿走盒子B

你会怎么选?

相信脑子正常的人都会选择第一种,因为选择第一种能够保证你获得1000元以及盒子B里面的东西。而选项二,没有1000元保底。

不管怎么样,都是选项一更加的理性。

第2层思考

假如同样的外星人,同样给你这两个盒子

500

同样给了你和上面一样的两个选项

选项一:同时拿走盒子A和盒子B

选项二:只拿走盒子B

但是这个外星人,有一台具有超强预测能力的电脑,而这台电脑从来没有预测错误过。

这台电脑在一个星期前对你今天是选择选项一还是选项二,进行了预测。

如果电脑的预测结果是选项一(你会取走A和B两个盒子),那么外星人一个星期前就不会在盒子B里面放任何东西

如果电脑的预测结果是选项二(你会只取走盒子B),那么外星人一个星期前会在盒子B里面放100万美元

那么,这个时候你会选择选项一还是选项二呢?

想再讀下去請看原文  http://user.guancha.cn/main/content?id=15858&page=0 

最新评论

关闭

站长推荐上一条 /1 下一条

反省祷告|手机版|Archiver|佳美之处

GMT+8, 12-11-2018 03:20 , Processed in 0.034322 second(s), 15 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

返回顶部