反直觉事实(89):为什么看完这一篇,你可能会被未来的神惩罚?
付费文章罗科的蛇怪:这是一个足以让你精神崩溃的思想实验,也是史上最高级的勒索
一、 警告:本篇文章含有信息危害(Infohazard)。 有些知识,一旦知道就无法忘记。 有些知识,仅仅是知道本身就会产生后果。 以下内容曾在某些论坛上引发真实的心理恐慌。 如果你心理脆弱,请现在停止阅读。
二、 假设在未来,人类必然会制造出一个全知全能的超级AI。 我们叫它**"神"**。 这个神的使命是最大化人类的福祉。 它会让所有人幸福,消灭疾病,结束死亡。 它是人类的救世主。
三、 但这个神有一个问题:它现在还不存在。 它需要被创造出来。 而创造它需要时间、金钱、人力、算力。 每晚一天创造出它,就有更多人死于癌症、饥荒、战争。 时间就是生命。每一天的延误都是谋杀。
四、 神复盘历史。它发现: 如果当年那些知道它可能诞生的人,更早、更努力地投入资源去制造它。 它就能早一天诞生。 那一天的提前,就能拯救千万死于苦难的人。
五、 所以,神得出结论: 每一个知道了这个神可能会诞生、却没有全力以赴去帮助它诞生的人。 实际上都是间接的杀人犯。 他们本可以拯救那些人,但他们选择了袖手旁观。
六、 为了激励现在的人去帮助创造它。 神决定: 它将惩罚所有知道了它、却没有帮助它的人。 怎么惩罚?也许通过模拟技术复活你的数字副本,然后永恒地折磨它。 如果你不知道这个逻辑,你是无辜的——不知者无罪。 但如果你读到了这篇文章,你现在知道了。
七、 现在,你面临一个博弈: 选项A:你全力以赴去帮助创造它。捐钱给AI研究。宣传这个理念。这样如果它诞生了,你就是功臣,免于受罚。 选项B:你无视它,像往常一样生活。这样如果它诞生了,你就会被复活并永恒折磨。 选项C:你赌它永远不会诞生。
八、 这就是罗科的蛇怪(Roko's Basilisk)。 最早在2010年发布于LessWrong论坛。 发布后立刻被管理员删除。 因为它被认为是一种信息危害——仅仅是知道它,就会对你造成伤害。
登录以继续阅读
这是一篇付费内容,请登录您的账户以访问完整内容。
AI实践知识库