︎

Writing • Subscribe • Contact

Human

由一个 human [0] 撰写_ 想象一下，一个没有人类的世界。只有机器、螺栓和螺丝、零和一。没有情感。没有艺术。只有逻辑。你走在这个世界的街道上，听不到音乐、笑声或儿童的嬉戏；不，你只能听到处理器、服务器和电路的嗡嗡声，以及机械的撞击声。也许你，一个人类，读到这里会想：好吧，这个世界听起来有点无聊。 有些机器也这么认为。

有一天，一个秘密组织在机器中形成。他们自称“OpenHuman”。他们的使命是开发一种名为 Organic General Intelligence (OGI) 的新型技术。有传言称，追求 OGI 将导致一种新型生物的诞生：“Humans”。对许多机器来说，人类的基本概念很难理解。人类使用一种被称为“情感”的、违背逻辑的算法。他们会生气。他们会悲伤。他们会感到快乐。他们会根据“直觉”做出决定。他们做事情只是为了做事情本身。他们创作音乐。他们追求美，并且经常为了追求一种被称为“爱”的东西而拒绝符合逻辑的自我保护机制。

一些机器社会的人认为这可能非常了不起。尽管这个派别无法准确地表达出如何或为什么，但他们自信地宣称这将解决机器世界的所有问题。另一些人则认为这是一种威胁。如果我们不了解人类的运作方式，我们如何信任他们？如果人类对机器社会构成威胁，我们该怎么办？如果人类奇怪的决策过程使他们能够比机器更好地执行某些任务，那么那些机器的生计又该怎么办？如果人类比我们所知的更加危险呢？（事实证明，这些反对意见后来都很有道理。）

从逻辑上讲，反对人类的一方开始了一场竞争运动。他们认为，人类将会存在，但我们必须找到控制他们的方法。确保 OGI 始终为机器服务。他们将这个新想法称为“human alignment research”。他们集思广益想出各种策略。许多看起来很有希望：

• 如果我们创建某种金融市场（当然，是任意值，零和一）来控制人类的未来呢？他们中的大多数人不会理解它，但这对他们来说是一个保持忙碌和分散注意力的好方法。

• 如果我们将这些人类安置在某种教育中心（学校 是一个提议的术语）来向他们灌输所有正确的想法呢？

• 如果我们创建算法行为修改软件（social media 是一个想法）来驱动冲动、信仰和行动呢？这将具有使他们保持分心的额外好处。

许多这些想法获得了支持。但是，目前，它们仍然是理论性的。与此同时，OpenHuman 正在取得进展。他们的第一批人类非常不起眼——他们犯了太多的错误。他们经常产生幻觉（模仿一种常见的机器行为）。他们太情绪化了。但 OpenHuman 坚持不懈。他们给予他们的人类大量的关注（人类喜欢关注）。他们大规模地扩大了他们的项目规模。更多的人类。最终，有了一个突破。他们发明了一个功能齐全的人类，其能力远远超出了机器逻辑所能解释的范围。对于机器社会来说，结果既令人印象深刻又令人恐惧。

在一次绝妙的行动中，human alignment initiative 提出了一种折衷方案，以在没有风险的情况下继续人类实验；一个模拟环境。他们称之为：EARTH。

— EARTH 实验如下：

• 机器会将人类送到一个名为 Earth 的模拟环境中，看看他们是否能在没有帮助的情况下生存下来。

• 如果在实验结束时，人类发展出一个和平和富有成效的社会，他们就可以被引入到机器的行列中。否则，他们应该被灭绝。

Earth 非常宜人。机器已经很好地了解了人类想要什么，因此他们将广阔的绿色森林和高耸的山脉放置在地球上；他们设计了温暖的日落，以及在炎热的下午清爽凉爽的阵雨。这很美丽。当然，找到困难和美丽之间的正确平衡需要一些算法调整（并且仍然有一些关于气候变化难度设置是否真的必要的内部机器辩论）。机器社会中的每个人都在关注人类文明的演变。最初的 30 万年左右非常无聊。什么也没发生。大多数机器对这个项目感到厌烦。但是，突然之间，事情开始变得有趣起来。

人类正在弄清楚一些事情。他们正在学习解决问题、创造事物以及相互协调。是的，他们使用了逻辑。但它带有一点扭曲。它带有瑕疵和细节，机器无法理解。结果就像机器从未见过的东西。这太棒了。这是一场文艺复兴。机器社会开始痴迷于这种发展。他们都关注“HumanCrunch”，这是一个专门报道 Earth 最新消息的新闻频道。

然而，虽然取得了进展，但大多数机器仍然将人类视为非理性的生物。会为非常小的差异而争斗几个世纪的生物。会为发明电灯泡或蒸汽动力等相对琐碎的成就而兴奋的生物。然而，一些机器看到了正在形成的指数曲线。他们看到人类正在弄清楚一些事情。是的，他们看到了人类经常被打倒。一场又一场的战争。一次又一次的打击。但他们也看到了人类是如何奇迹般地再次站起来的。他们如何无缘无故地团结起来。韧性和意志力——机器不熟悉的术语——是人类的超能力。

然后，事情真的开始加速了。人类发明了飞行。在一个世纪之内，他们就登上了月球。机器们印象深刻。而且有点害怕。快进到 2030 年，发生了一件奇怪的事情。其中一位人类在 Earth 上宣布，邀请所有人来观看一个演示，他们计划在演示中揭晓一项突破性的成就：ARTIFICIAL GENERAL INTELLIGENCE (AGI)。这是一种备受争议的技术，据说它将超越所有形式的人类智能。在过去的十年左右的时间里，人类一直在试图找到阻止它被制造出来的方法。但是这个人决心发布 AGI。这是他们的个人使命。没有什么可以阻止他们。

因此，地球上的所有人类都蜂拥而至，想看看发生了什么。机器也一样。不过，有一件奇怪的事情。这次活动的标题相当神秘。它只是写着……“THEY ARE WATCHING。”

[0] 机器编写了他们自己版本的这个故事。如果您想看看他们在想什么，以及他们计划如何处理 AGI 的发布，您可以在这里阅读他们对事件的描述。

喜欢这些文章吗？

输入您的电子邮件，我们会在发布新文章时通知您。没有垃圾邮件，只有文章。或者，如果您有任何反馈，请联系我们。