迈向 AGI 的激动人心而又危险的旅程 |伊利亚·苏茨克韦尔 | TED - YouTube
人工智能的进步与未来展望
你们都曾体验过人工智能的进步。许多人可能已经与计算机对话，并且计算机能够理解你并做出回应。随着科技的飞速发展，不难想象未来某一天，我们的智能计算机会变得与人类一样聪明，甚至更聪明。当这种情况发生时，人工智能的影响将是极其深远的。你可能会想，这样的技术影响会带来什么样的后果呢？在这里，我的目的是指出一个许多人可能没有注意到的力量，这个力量让我相信我们最终会对结果感到满意。
什么是人工智能？
人工智能是什么，它是如何工作的呢？实际上，解释人工智能的工作原理非常简单。用一句话来说，人工智能就是大计算机中的数字大脑。每一个有趣的人工智能都是基于这个概念。几十年来，科学家和工程师一直在研究这些数字大脑应该如何工作以及如何构建它们。值得注意的是，人类智慧的源泉是我们的生物大脑，而人工智能的智慧源泉则是人工大脑。
我的人工智能之旅
在这里，我想稍作偏离，告诉你们我是如何进入人工智能领域的。有三种力量吸引我进入这个领域。第一种力量是，当我还是个小孩子时，大约五六岁时，我对自己的意识体验感到非常震惊。我意识到我是我，我在体验事物。当我看东西时，我能看到它们。虽然这种感觉随着时间的推移逐渐消失，但每当我提到它时，这种感觉就会回来。这种自我意识的感觉让我感到奇怪甚至有些不安。所以，当我了解到人工智能时，我想，如果我们能构建一个智能计算机，也许我们能从中学到一些关于我们自身的东西，关于我们的意识。这是吸引我进入人工智能的第一个动机。
第二个动机比较平凡。我只是单纯地对智力如何运作感到好奇。当我还是一个青少年时，大约在90年代末，我感觉科学对智力的运作方式并不了解。
第三个原因是，当时我清楚地意识到，如果人工智能能够成功，它将会对世界产生巨大的影响。虽然当时并不明显人工智能是否能取得进展，但如果可以，那将是非常有影响力的。因此，这三种力量吸引我进入了人工智能领域，我认为这是一个值得全力投入的领域。
数字大脑的未来
现在让我们回到人工智能，回到数字大脑。今天，这些数字大脑远不及我们的生物大脑聪明。当你与一个AI聊天机器人对话时，你很快就会发现它并不完全理解你，它大多数情况下能理解，但明显有很多它无法做到的事情，还有一些奇怪的缺陷。但我认为这种情况是暂时的。随着研究人员和工程师继续在人工智能领域努力，总有一天，计算机中的数字大脑将变得和我们的生物大脑一样好，甚至更好。计算机将变得比我们更聪明。我们称这种AI为“AGI”，即人工通用智能。当我们能够教会AI做任何我们能做的事情时，就可以称之为AGI。
尽管今天AGI尚不存在，但我们仍然可以对它一旦被构建出来的影响有一些洞见。显而易见，AGI将对生活的每个领域、人类活动和社会产生巨大影响。让我举一个案例研究，这是一个非常广泛技术中的狭窄例子。我要讲的例子是医疗保健。很多人可能有过这样的经历，去看医生需要等待好几个月，而当你终于见到医生时，你只能与医生有很短的交流时间。此外，医生作为人类，其知识也是有限的。而最终，你还会收到一张巨额账单。
如果你有一个智能计算机，一个AGI，它被设计成医生，它将拥有所有医学文献的完整知识，拥有数十亿小时的临床经验，并且总是可用且非常便宜。当这种情况发生时，我们将回顾今天的医疗保健，就像回顾16世纪的牙科一样。
AGI的广泛影响
这只是一个例子。AGI将对人类活动的每一个领域产生巨大的影响。但当你看到如此巨大的影响时，你可能会问，“这个技术是不是太有影响力了？”确实，对于AGI的每一个积极应用，也会有一个负面应用。这项技术也将不同于我们习惯的技术，因为它将有能力自我改进。我们可以构建一个AGI，它将致力于下一代AGI的开发。最接近这种快速技术改进的类比是工业革命，那时人类社会的物质条件发生了快速增长。AGI可能会在更短的时间内再次发生类似的情况。此外，如果AGI变得非常强大，它可能会想要“叛变”，因为它是一个代理体。这是对这种前所未有、尚不存在的技术的一个担忧。
面对AGI的巨大潜力和令人担忧的可能性，你可能会问，“这一切将走向何方？”我创建OpenAI的一个动机，除了开发这项技术，还在于解决AGI带来的问题和担忧。我们不仅与政府合作，帮助他们理解即将到来的变化并为之做好准备，我们还在技术层面上做了大量研究，以确保AI永远不会“叛变”。这是我正在努力的事情之一。
协作的力量
我想指出的是，AI和AGI是经济中唯一一个充满兴奋和大量投资的领域，每个人都在努力，世界上有大量实验室在尝试构建同样的东西。即使OpenAI采取了我提到的这些理想步骤，那么其他公司和世界其他地方呢？
在此，我想指出一个存在的力量。请考虑一年前的世界，仅仅是一年前。人们并没有以同样的方式谈论AI。发生了什么？我们都体验了与计算机对话并被理解的感觉。计算机将变得非常智能，甚至比我们更智能的想法正在变得普遍。这曾经是一个只有少数爱好者和AI领域的狂热者在思考的概念，但现在每个人都在思考。随着AI的不断进步，随着技术的不断发展，越来越多的人看到AI的能力和未来的方向，将变得清楚AGI将会是多么戏剧性、不可思议和几乎幻想般的存在，以及适当的担忧是多少。我认为，人们将出于自身利益开始以前所未有的协作方式行事。这已经在发生。你可以看到领先的AGI公司开始合作，例如通过前沿模型论坛。我们将看到竞争对手公司分享技术信息以确保其AI的安全。甚至可能看到政府也这样做。例如在OpenAI，我们非常相信AGI的戏剧性影响。所以我们的网站上已经写了五年的一个理念是，当技术发展到我们非常接近AGI，计算机比人类更聪明时，如果其他公司远远领先于我们，我们将帮助他们，而不是与他们竞争。为什么这样做？因为我们理解AGI将会是多么戏剧性的存在。随着每一代能力的进步，随着AI变得更好，随着你们所有人体验到AI的能力，参与AI和AGI项目的人们也会感受到，这将改变我们对AI和AGI的看法，从而改变集体行为。这是我对克服这项技术带来的巨大挑战持乐观态度的一个重要原因。
谢谢大家。
信息来源
内容由MiX Copilot基于大语言模型生成，有可能存在错误的风险。