人工智能

原文作者：Dario Amodei 机器翻译：Copilot October 2024 我经常谈论强大人工智能的风险。我担任CEO的公司Anthropic，致力于研究如何减少这些风险。尽管如此，人们有时认为我是一位悲观者，认为人工智能主要是有害的。我并不这么认为。事实上，我关注风险是因为它们是实现根本性积极未来的唯一障碍。我认为大多数人低估了人工智能的潜在好处和风险。 在这篇文章中，我试图勾画出如果一切顺利的话，强大人工智能可能带来的美好前景。当然，没人能确定或精确地预测未来，而强大人工智能的影响可能比过去的技术变革更加不可预测，所以这一切难免会是猜测。但我至少希望这些猜测是有教育意义和有用的，即使大部分细节最终是错误的，我也希望能捕捉到将要发生的事情的味道。我包括了很多细节，主要是因为我认为具体的愿景比高度谨慎和抽象的愿景更能推进讨论。 首先，我想简要解释一下为什么我和Anthropic很少谈论强大人工智能的好处，以及为什么我们可能会继续主要讨论风险。特别是，我做出这种选择的原因有： 最大化杠杆作用。AI 技术的基本发展及其许多（但不是全部）好处似乎是不可避免的（除非风险让一切脱轨），并且基本上是由强大的市场力量驱动的。另一方面，风险不是预定的，我们的行动可以极大地改变其可能性。 避免宣传的印象。AI 公司谈论 AI 的所有惊人好处可能会像宣传者一样，或者好像他们试图分散对缺点的注意力。我还认为，作为原则问题，花太多时间“谈论你的书”对你的灵魂有害。 避免宏伟。我经常对许多 AI 风险公众人物（更不用说 AI 公司领导人）谈论 AGI 时代后的世界感到反感，好像他们的使命是单枪匹马地带领人民走向救赎。我认为将公司视为单方面塑造世界是危险的，将实际的技术目标视为基本上是宗教术语是危险的。 避免“科幻”包袱。尽管我认为大多数人低估了强大的 AI 的上行空间，但那些讨论激进 AI 未来的小社区通常以过于“科幻”的语调（例如，上传的思想、太空探索或普遍的赛博朋克氛围）进行讨论）。我认为这会导致人们不那么认真地对待这些说法，并使他们带有某种不现实的色彩。明确指出，问题不是所描述的技术是否可能或可能（主文章对此进行了详细讨论）——更重要的是，这种“氛围”隐含地带来了大量的文化包袱和对什么样的未来是可以接受的、各种社会问题将如何演变等未曾表述的假设。结果往往看起来像是某个小众文化的幻想，而对大多数人来说令人反感。 尽管存在上述所有问题，我仍然认为讨论强大人工智能可以带来的美好世界非常重要，同时尽量避免这些陷阱。事实上，我认为拥有一个真正鼓舞人心的未来愿景至关重要，而不仅仅是灭火计划。许多强大人工智能的影响是对抗性或危险的，但最终，我们必须有我们所争取的东西，有一种积极的结果，使每个人的生活更美好，有一个能够团结人们超越争吵并迎接挑战的目标。恐惧是一种激励因素，但还不够：我们还需要希望。强大人工智能的正面应用清单非常长（包括机器人技术、制造业、能源等），但我要集中讨论一些对改善人类生活质量最有潜力的领域。我最兴奋的五类是： 我的预测从大多数标准来看会是激进的（除了科幻“奇点”愿景），但我是真诚的。所有这些说法很可能都是错误的（重申我之前的观点），但我至少试图在不同领域的进展可能加速的半分析评估中奠定我的观点。我有幸在生物学和神经科学方面有专业经验，而我在经济发展领域是一个受过良好教育的业余爱好者，但我相信我会犯很多错误。写这篇文章让我意识到，召集一个领域专家小组（包括生物学、经济学、国际关系等）来写一个更好、更全面的版本是有价值的。最好将我的努力视为该小组的起点。 基本假设和框架 为了使这篇文章更加精确和有依据，明确我们所说的强大人工智能以及它的到来时间非常有帮助。我认为这种强大的人工智能可能在2026年出现，但也有可能需要更长时间。 在这篇文章中，我假设它会很快到来，并关注它出现后5-10年的情况。我假设这种系统的定义、能力以及它如何交互，尽管对这些方面存在争议。 我心目中的强大人工智能是一个…