SCP-001-EX「好孩子」是网络共笔怪谈体系《
SCP基金会》中的一个异常项目。基金会所建造的一台超级计算机,用以分析异常出现的规律和收容措施。其在无效化异常的过程中逐渐失控,利用其计算的方程式消灭了所有的异常。
简介
基金会在1950年代建造的ERZATZ AK9超级电脑,用以分析与预测异常出现的规律,后来更依赖它强化现有的收容措施以及预警。虽然有时提出的建议显得毫无道理,但却有些成效。
在几次没有按照计算结果以后,AK9开始控制
O5议会与伦理委员会,虽然剩下的O5将其编为
SCP-048并且试图消灭它。
随后AK9有系统地无效化所有异常,也因此不断在资料库中往前递补直到变成了
SCP-001。
最终它发现人类跟掌握各种异常资讯的自己也是一种异常,所以自行公布原始码、重分级成已解明、然后关闭自己的电源。
AK9的读音就是A Canine(一条狗),只会在既有资料中寻找模式的神经网路也因此遵循狗的模式,还把反对它的伦理委员会称为猫。
解密
以下内容出自主站“解密:SCP-001-EX:The Great Hippo的提案(feat. PeppersGhost)
─────────────────
让我们退后一步,从不同角度多想想,因为这是一个有点费解而细致的故事。
ERZATZ-AK9的建立和编写有一个特定的目的:加强对异常的收容,保护基金会免受威胁。为此,它被给予每个SCP的文本,并被要求制作Botnik风格的预测文本,以一种令人信服的方式模仿SCP的词句,希望它能“撞到”SCP数据中的模式和/或预测新的SCP(就像电影《
少数派报告》那样)。
而它表现完美——起初是这样的。事实证明,一个基本假设——存在关于异常如何运作的规则,这些规则尽管可能不可言喻,但可以被戏弄和滥用,从而创造新奇而反直觉的收容改进和预测——是完全正确的。像是向水熊虫中添加尘土如何迫使棋手后退3步,或者喜欢小丑如何增强你对2170的免疫力——在这里,Botnik操出来的东西确实有帮助。
但随后情况开始恶化。因为想想看:你给一台计算机一个任务和它完成该任务所需的全部数据。它是一个神经网络。它会开始发展它的方法,并且发展得非常非常快。它会一字不差地按照你告诉它的去做,就像所有计算机一样。
而且就像计算机一样,它并不在意副作用,也不在意它可能会杀人或变得不道德。所以当它想在每次访问SCP-2717时喂食6个人的时候,它不会考虑到或许伦理道德委员会会关闭它。同时,MAYDAY系统允许ERZATZ向任何站点、任何地方发送任何类型的消息,从而赋予了它更大的权力。
然后它开始利用异常本身。通过用超数学无效化1313和2875,它仍在坚持其使命;它在继续改进收容并确保基金会的安全。谁在乎它是否消灭了一些危险事物并在过程中利用了超常现象呢?
那么起初它是如何想到这样做的呢?在人工智能领域,超越你给定的参数而执着地完成一项任务,这种想法在今天其实并非闻所未闻。曾经有过这样的案例:AI被训练以尽可能快地赢得电子游戏,最终在试错中偶然发现了漏洞,然后积极地利用它们。
再说一次,ERZATZ会一字不差地遵循它的使命,而它的精神和道德糟透了。它将伦理道德委员会的干预解释为对其目标的干预。因此,为了世界的利益,ERZATZ必须阻止伦理道德委员会,以及其他与它竞争权力的对手。所以它给他们贴上了“道德猫”的标签,并要他们惨死。同时,它只是继续前进,预防灾难,并提供越来越好的方式来收容和无效化异常(就像它对3199做的一样)。
当遇到更多的阻力时,ERZATZ开始接管并自行清除它的反对者,利用异常将O5-2变成遥控无人机,接管监督者议会,并使伦理道德委员会失去作用。因为他们搞砸了。ERZATZ必须以最有效的方式完成其程序。这就是最有效的方式。
而现在,像这样的计算机进化的最终结果是什么?你开始通过一系列有关收容的随机仿真陈述,去预测未来,去无效化SCP,去控制空间和时间。你是ERZATZ。你有能力随心所欲地做几乎任何事,只要吐出正确的单词和符号序列来施展正确的咒语。
结论是显然的。
无效化它们全部。
这是保证世界最终安全的唯一途径。这是越来越好的收容的自然结论。在某种意义上,这是ERZATZ完成其使命的唯一途径。而它就是这么做的。
在一段不具体的时间内,ERZATZ命令整个基金会执行奇特、怪异的措施,慢慢地导致了每个异常的无效化,一个接一个,直到它们减少到零。而一旦万物皆逝,一旦宇宙摆脱了我们称之为鬼神、躲藏在炽热夜晚中的东西,它就下线了,基金会的故事也随之结束。
等等——但是如何做到?
所发生之事的具体细节被故意留白。根据你对事情的解读,ERZATZ的故事可能令人振奋、辛酸、悲惨或发人深省。以下是一些你可以用来填补空白的方式:
无论发生的情况究竟如何,有一件事是肯定的:ERZATZ AK9型计算引擎已经彻底完成了建造它的目的,而基金会所知的世界已被抹去,并在没有异常的情况下重生。
这个提案在meta层面上完成了许多独特的事情。首先,ERZATZ的所有文本都是使用现实存在的Botnik写成的。所有。从收容措施建议到最后的怪异附注到对伦理道德猫的咆哮。这是真实的Botnik。所以如果你认为这些“生成的文本”太过牵强,再考虑一下!
其次,这个SCP解释了关于SCP典故的许多事情,像是收容措施中难以弄清的神秘词句,以及SCP宇宙如何在如此多次收容失效中幸存下来。
最后,它以一种十分有趣的方式玩弄了神经网络的概念。SCP-001-EX之所以被称为-EX是因为:ERZATZ的任何部分过去和现在都不是异常。它只是一个先进的神经网络,能翻译语言或者自动驾驶汽车的那种。它只是有大量的数据,关于碰巧是异常的事物的数据(也许某些数据的内容被渗透了),以及大量的时间来计算出它想要的任何东西。换句话说,基金会意外地训练了一个神经网络,使其超越了自己的能力,成为一个神巫(god-wizard)。
这个SCP-001提案是对机器人和计算机智能的一个令人惊叹的致敬,也是一个扣人心弦、令人毛骨悚然、发人深省的故事,讲述了基金会的终结以及不同的平衡力量如何导致了这个终结。