我们的使命是确保通用人工智能（AGI）惠及全人类。
指向AGI的系统正在逐渐显现，因此我们认为理解我们所处的时刻至关重要。AGI是一个定义较为模糊的术语，但通常来说，我们将其视为能够在许多领域以人类水平解决日益复杂问题的系统。
人类是工具制造者，天生具有理解和创造的驱动力，这使得世界对所有人都变得更好。每一代人都在前一代的发现基础上，创造出更强大的工具——电力、晶体管、计算机、互联网，以及即将出现的AGI。
随着时间的推移，人类创新的稳步前进带来了前所未有的繁荣，并几乎改善了人们生活的方方面面。
从某种意义上说，AGI只是我们共同构建的人类进步脚手架中的另一个工具。从另一种意义上说，这标志着一个难以不说“这次不同了”的开端；我们面前的经济增长看起来令人惊叹，我们现在可以想象一个世界，在那里我们能够治愈所有疾病，有更多时间与家人共度，并且能够充分发挥我们的创造潜力。
十年后，也许地球上的每个人都能完成比今天最有影响力的人更多的事情。
我们继续看到人工智能开发的快速进展。以下是关于人工智能经济学的三个观察：
- 人工智能模型的智能水平大致等于用于训练和运行它的资源的对数。 这些资源主要是训练计算、数据和推理计算。显然，你可以花费任意金额并获得持续且可预测的收益；预测这种收益的扩展规律在多个数量级上都是准确的。
- 使用特定水平人工智能的成本大约每12个月下降10倍，而更低的价格会导致更多的使用。 你可以从2023年初的GPT-4到2024年中期的GPT-4o的token成本中看到这一点，在这段时间内，每个token的价格下降了大约150倍。摩尔定律每18个月使世界发生2倍的变化；这要强大得多。
- 线性增长的智能的社会经济价值呈超指数性质。 这一结果是，我们看不到指数增长的投资在不久的将来停止的理由。
如果这三个观察继续成立，对社会的影响将是显著的。
我们现在开始推出人工智能代理，这些代理最终会让人感觉像虚拟同事。
让我们想象一个软件工程代理的情况，这是我们预计特别重要的代理。想象一下，这个代理最终能够完成大多数有几年经验的顶尖公司软件工程师可以完成的任务，任务时长最多几天。它不会有最大的新想法，它需要大量的人类监督和指导，并且在某些事情上会很出色，但在其他事情上却出奇地糟糕。
尽管如此，想象它是一个真实但相对初级的虚拟同事。现在想象有1000个这样的代理。或者100万个。现在想象在每个知识工作领域都有这样的代理。
在某些方面，人工智能最终可能会像晶体管在经济上一样——一个重大的科学发现，能够很好地扩展，并且几乎渗透到经济的每个角落。我们不太考虑晶体管或晶体管公司，而收益非常广泛。但我们确实期望我们的计算机、电视、汽车、玩具等能够创造奇迹。
世界不会一下子改变；它从来不会。在短期内，生活基本上会保持不变，2025年的人们大多会像2024年一样度过他们的时间。我们仍然会坠入爱河、组建家庭、在网上争吵、在大自然中徒步等。
但未来将以一种无法忽视的方式向我们走来，对我们社会和经济的长期变化将是巨大的。我们将找到新的事情去做，新的方式去互相帮助，新的竞争方式，但这些可能与今天的工作看起来不太一样。
代理性、意志力和决心可能会极其有价值。正确决定做什么以及如何在不断变化的世界中导航将具有巨大的价值；适应能力和韧性将是值得培养的技能。AGI将是人类意志力的最大杠杆，使个人能够产生比以往更大的影响，而不是更小。
我们预计AGI的影响将是不均衡的。虽然一些行业变化不大，但科学进步可能会比今天快得多；AGI的这一影响可能超过其他一切。
许多商品的价格最终会大幅下降（目前，智能和能源的成本限制了很多事情），而奢侈品和一些本质上有限的资源（如土地）的价格可能会上涨得更厉害。
从技术上讲，我们面前的道路看起来相当清晰。但公众政策和集体意见对我们如何将AGI融入社会至关重要；我们早期频繁推出产品的原因之一是给社会和技术时间共同进化。
人工智能将渗透到经济和社会的各个领域；我们期望一切都很智能。我们中的许多人预计需要比历史上给予人们更多的技术控制权，包括更多地开源，并接受安全和个体赋权之间存在平衡，这将需要权衡。
虽然我们不想鲁莽行事，而且可能会有一些与AGI安全相关的重大决策和限制不受欢迎，但总体而言，随着我们接近实现AGI，我们认为更多地倾向于个体赋权是重要的；我们能看到的另一条可能路径是人工智能被威权政府用于通过大规模监控和失去自主权来控制其人口。
确保AGI的利益广泛分布至关重要。技术进步的历史影响表明，我们关心的大多数指标（健康结果、经济繁荣等）平均和长期都会改善，但增加平等似乎不是技术决定的，做对这一点可能需要新想法。
特别是，资本和劳动之间的权力平衡很容易被搞乱，这可能需要早期干预。我们对一些听起来奇怪的想法持开放态度，比如给予每个人一定的“计算预算”，使地球上的每个人都能使用大量人工智能，但我们也能看到很多方式，即通过不懈地尽可能降低智能成本来达到预期效果。
2035年的任何人应该能够调动相当于2025年所有人的智力能力；每个人都应该能够获得无限的天才，按照他们的想象去使用。目前有很多人才没有资源来充分表达自己，如果我们改变这一点，世界的结果创造力将为我们所有人带来巨大的好处。
特别感谢Josh Achiam、Boaz Barak和Aleksander Madry审阅了本文的草稿。
在此使用AGI一词，我们的目的是清晰传达，无意改变或解释定义我们与微软关系的定义和流程。我们完全期望与微软长期合作。这个脚注看起来很傻，但另一方面，我们知道一些记者会通过写一些傻东西来吸引点击量，所以我们在这里预先防止这种傻行为。
原文链接：https://blog.samaltman.com/three-observations
评论 ( 0 )