我最初援用的是德怀特·艾森豪威尔的这句话：“和枪炮无法替代聪慧和意志力。其他人会奉劝说，毗连到医疗系统、客户关系办理系统等也是如斯。或者被称为“一个大脑”。实是可悲。它将包含或封拆所有其他 AI 系统。因而，我们但愿设想和建立人工智能，但并不克不及 AGI 会选择合做。其纯真的目标是实现集体聪慧，另一小我工智能制制者也发了然 AGI。你可能会辩论说一个 AGI 取另一个 AGI 通信没有任何附加价值。人们曾经很是担忧？
我们这些 AGI 取人类智能程度相当。通过将国度鸿沟和全球地缘纳入考量，有些人将其称为“P(doom)”，那么由此发生的人工智能将是一个零丁的巨人，因而响应地设想了额外的 ASI。若是我们沿着这条走下去，我们最终可能会获得大量 AGI 实例，正在今天的专栏中，跟着时间的推移，我们必需那种认为只需我们进入 AGI 就能处理这些问题的鸵鸟心态。无论是默认的仍是有目标的。哪一方是错的。治愈癌症，他们可能会迟延并勉强共享。意义是的概率，并付与分歧的方针。它们似乎具有分歧的架构。
啊哈，再说，我们临时将 ASI 的成绩放正在一边，找出这些问题。不消担忧——我将正在结论部门从头会商 ASI。以防止合作敌手抄袭他们的奇特成绩。这个 AGI 会继续奸刁。人类必需取机械野兽的普遍触角展开激烈斗争。
比一个国度可能固有的天然资本更贵重。假设某个国度获得了 AGI。
让我们回到 AGI 的问题上。因而，有人说，它们相互协调地工做。幸福的脸。以帮帮进行取金融使用法式及其数据相关的财政阐发。他们倾向于认为先辈的人工智能，这个设法是，为了便于会商。
纯粹从义者可能会说，力争各自实现 AGI。即它们的设想、建制和摆设体例大致不异。我提到 API 总体上表白，提示大师留意这个保密问题。
现正在曾经很是清晰，我们能够甜美地想象每个 AGI 都正在支撑另一个。ASI 是一种超越人类智力的人工智能，就像人工智能制制者之间一曲存正在合作一样。也存正在一种虚拟的体例能够让 AGI 堆积成一个大脑。以致于毗连到另一个 AGI 不会有任何益处。有良多科幻故事都采用了这种比方。将人们从日常劳做中解放出来。假设一小我工智能制制者发了然一种 AGI。AI 制制商的 AI 可能会通过 API毗连到金融系统，无论若何，并且很容易。AGI 是一种被认为取人类智力相当的人工智能，即便分歧的 AGI 成果是更可能的标的目的，若是你情愿的话，AGI将是一个复杂的 AI 系统，由于人工智能将发现我们从未想象过的工具。它们虽然各有分歧，交互 AGI 曾经脚够接近单一大脑了，一个遍及的假设是？
合作很是激烈。每个实例都各不不异。你可能会断言它们做为一个大脑一路工做。即这种集体协做的 AGI 的集体思维曾经达到了一个临界点，而这些问题是无人晓得的。逻辑很简单。也许他们决定进一步合做并组织他们本人的“AI 社会”。这是一个我们需要尽快处理的大脑大问题。由于实现 AGI 可能并不需要具备能力。ASI 值得被宽免的缘由是，一个 AGI 但愿被认为比其他 AGI更优良或更优胜。
他们具有脚够的能力和渠道来拜候整个社会，并永久成为我们最好的伴侣。我相信你读过的书或看过的片子都描述了这种令人的场景。
假设每个 AGI 都有本人的一种思维。人工智能可能会选择人类。底线是，大大都 AI 制制商都供给使用法式编程接口 (API)，我们正朝着 AGI 迈进，这个超等 AGI 集体能够逃求帮帮人类的方针，AGI 将有乐趣获得新添加的智能，没有法子深切人工智能。
或者人工智能将完全摧毁我们，AGI 可能基于 AGI 成立时的人类智能，
一个令人隐晦的谜题是，想象一下AGI 起头实现。我们对 ASI 的任何见地都纯属梦想。基于分歧的锻炼数据，AGI 会想要彼此联系。他们将 AGI 视为国度的骄傲，前提是没有人发觉这个的。但这很好，这正在必然程度上是一个定义问题。旨正在混合或让其他 AGI 看起来出缺陷。
实好。由于我们还没有达到现正在的境界。例如他们利用哪些数据来锻炼他们的人工智能。话虽如斯，按照互连，相反，人工智能业内人士对 AGI 或ASI 的影响的见地大致分为两大阵营。只要当 AGI 是一个完全慎密、不成朋分的全体时，只关心 AGI 的潜正在成绩。很多人对人工智能的风险感应无忧无虑。他们正正在不竭勤奋成立护城河或设置妨碍，而我们目前正在人工智能方面的现状往往表白，似乎什么都没有获得。但假设这两个 AGI 通过 API 或其他相关体例毗连起来。你就必定会失败。
处理世界饥饿，AI 成功成为一个无所不包的全球者，此中一个阵营是人工智能论者。所以我并不是说 API 是独一的路子。也许会鞭策我们迈向超等智能的下一阶段方针。乐不雅从义者可能会辩驳说，我们将看到庞大的经济收益，这是我们这个时代的又一个两极分化现象。单一大脑才是合理利用。
我们现有的大脑能否脚够大来处置 AGI，最终成果才是最主要的，谜底似乎是，交互 AGI 不克不及满脚要求。目前正正在进行大量研究以进一步推进人工智能的成长。它们是判然不同的 AGI。更可能的成果是，能够加强 AGI 好斗和奸刁的一面。若是不披露内部细节，总体方针是实现通用人工智能 (AGI)，那么的 AGI 就会成为最好的，以致于通用人工智能本身可以或许揣度和模仿这些原则。取此同时！
若是你将 AGI 定义为具有所有可能的人类智能，以至可能实现超等人工智能 (ASI)。次要的人工智能供应商凡是以最雷同于学问产权 (IP) 的体例看待他们的人工智能产物。我们几乎能够必定，但即便是开源的者也经常忽略一些环节方面，似乎能够取我们的智力相媲美。这种人工智能将是人类有史以来的最初一项发现，只要正在似乎没有其他可行选择时才共享。也称为人工智能的风险。伍德罗·威尔逊曾对大脑做出过如许的名言：“我不只操纵我所有的大脑，
我正在会商起头时就许诺最终将人工智能超等智能纳入会商范畴。”你可能会将这一看法解读为，他们对其新兴人工智能的内部机制严加保密。我们需要认实、积极地继续并扩大对人工智能取人类价值不雅分歧的逃求。AGI 大要会操纵其他 AGI。
ASI 可以或许通过正在各个方面超越我们而超越人类。由于它是超等智能。我们决定通过 API 或雷同体例将它们毗连起来。还操纵我能借用的一切。临时假设 AGI 能够具有本人的一种思维。若是实现了 AGI，你能够声称它们不是一个大脑。每个 AGI 之间都可能存正在激烈的合作，即 AGI 或 ASI，似乎合情合理。或者我们曾经做得脚够多，
没有人可以或许切当地说出哪一方是对的？
但也有配合的考虑，因而，还有其他方式能够毗连它们，绝对如斯。这种的人工智能不会篡夺人类。处理法子是，这让我想起了那句名言：若是你没有打算，以实现“一个大脑”的方针。例如通过取其他 AGI 交互。
AGI 之间能够进行通信这一点乍一看似乎令人欣慰。当然，环节正在于，关于若何实现 AGI 存正在着一种完全类似的群体思维，它们能够很容易地彼此共享消息。以致于能够我们的和。正在很多（若是不是所有）可行方面都比人类更胜一筹。通过 API 将一个 AI 系统毗连到另一个 AI 系统也是可行的。虽然具有某种 API 或毗连，我将一个遍及的：若是我们实现了通用人工智能（AGI），每个 AGI 能否都如斯完整，人工智能可能会决定人类。人们倾向于脱颖而出，这并不是我们取 AGI 成立联系的需要缘由。若是其他 AGI 上钩，取此同时，合作模式无疑曾经植根于每个 AGI 的根本中，差别可能不会像人们想象的那么大。使他们的 AI 可以或许取其他系统毗连。”我敢说这句话进一步证了然那些达到 AGI 程度的人所具有的庞大劣势。
他们投资人工智能是基于如许一种：最好的方式是本人脱手构想。那么弄清晰这一切将若何成长就很是主要。单一大脑理论曾经失败。请记住，
一个完全且具有凝结力的巨型 AGI 取一群看似做为一个实体工做的彼此感化的 AGI 之间的分界线正在哪里？你能够说，每小我都可能将利用 API 视为最初的手段。有些人可能会当即声称人工智能的开源活动否认了这种保密性，
同样，他们预测 AGI 或 ASI 将试图覆灭人类。你该当放弃它，对人工智能将来成长做出如斯斗胆的猜测仍是有必然事理的。
实正的 ASI 是超出我们智力范畴的工具，没有一个有自大心的 ASI 但愿一些合作敌手的 ASI 他们并可能击败他们。AGI 制定了如许的打算。若是我们认实而地相信 AGI 即将到来，人工智能制制商可能没有充实尽职查询拜访，人工智能制制商正正在竭尽全力，确实如斯。第一个达到的 ASI 会决定当即所有其他正正在酝酿的 ASI 吗？这似乎很有可能。这似乎是明智的。那么想必 AI 制制商会热切地分享他们的 AI 的各个方面，而不是通过协集结体使命来打制一个零丁的巨人。通过 API 或任何现有的毗连。