作为OpenAI的首席技术官，Mira Murati负责了GPT-4和ChatGPT的开发和发布。在这里，她向Martin Casado讲述了发布ChatGPT的背后故事，以及它告诉我们关于AI和人机交互未来的内容。
一、Mira的背景
Mira Murati出生在共产主义倒台后的阿尔巴尼亚，那是一个非常有趣的时代。这个国家当时非常孤立，有点像今天的朝鲜。她提到这一点是因为她认为这对她的教育和对数学和科学的关注非常中心。在共产主义后的阿尔巴尼亚，人们非常关注数学和物理。而人文学科，如历史和社会学等，它们的信息来源和真实性都是有问题的。所以，她对数学和科学产生了浓厚的兴趣，一直追求到现在。随着时间的推移，她的兴趣从理论领域转向了实际构建事物，探索如何将这些知识应用到实际构建中。她学习了机械工程，并开始在航空航天领域工作。
后来，她加入了特斯拉，并在那里工作了几年。她最初加入特斯拉是为了研究Model S双电机，后来她转向了Model X，并从最初的设计开始，最终领导了整个项目。在特斯拉，她对AI的应用产生了浓厚的兴趣，特别是在自动驾驶方面。她开始思考当你在不同的领域使用AI和计算机视觉时会发生什么。在特斯拉之后，她开始研究增强现实和虚拟现实，因为她想要在不同的领域获得经验。她认为那时是研究特殊计算的正确时机，但回想起来，那时还为时过早。然而，她从中学到了很多关于如何将这项技术推向实际每天使用的限制的知识。此时，她开始思考如果只关注通用性会发生什么。
当时，只有两个地方专注于这个问题，OpenAI和DeepMind。她被OpenAI的使命所吸引，因为她认为这将是我们构建的最重要的技术。
二、自然语言界面
Mira Murati提到，当今的趋势是，AI系统将越来越多地执行我们正在做的工作，并且能够自主运作。但我们需要提供方向、指导并进行监督。她不希望每天做很多重复性工作，而希望专注于其他事情。也许我们不必每天工作10-12小时，也许我们可以少工作一些，但实现更高的产出。这就是她所期望的。
在平台的角色上，她提到，即使今天，我们通过API提供了很多模型，从非常小的模型到前沿模型，人们并不总是需要使用最强大、最有能力的模型。有时，他们只需要适合其特定用例的模型，这更为经济。她认为将会有一系列的模型供选择。但OpenAI确实希望人们在其模型之上构建，并希望为他们提供工具，使其变得简单，并为他们提供更多的访问和控制权限。你可以带上你的数据，定制这些模型，并真正专注于模型之上的层次，定义产品，这实际上是非常困难的。目前，人们非常关注构建更多的模型，但在这些模型之上构建好的产品是非常困难的。
展望未来，Mira认为，基础模型今天显然在文本中具有对世界的出色表示，我们正在添加其他模式，如图像和视频等，因此这些模型可以更全面地了解我们周围的世界。这样的世界不仅仅是文本，还有图像。她认为这一方向肯定会扩展，我们将拥有所有这些模式的更大模型。这就是预训练工作的部分，我们真正希望得到这些预训练模型，它们像我们一样理解世界。
然后是模型的输出部分，我们引入了人类反馈的强化学习，我们希望模型做我们要求它做的事情，我们希望这是可靠的。也许引入浏览，这样你可以获得新鲜的信息，引用信息，解决幻觉。她认为这不是不可能的，这是可以实现的。
在产品方面，我们希望将所有这些放在一起，形成一个人们可以与之合作的代理集合，并真正提供一个平台，人们可以在其上构建。
四、OpenAI路线图
ChatGPT 的前身是 WebGPT，主要通过检索技术获取和引用信息。我们转向发展 ChatGPT，是因为发现对话形式具有无可比拟的价值：它不仅能通过提问方式纠正误解，还能表达不确定性。这样的交互能帮助发现错误。
与此同时，他们已经成功训练了 GPT-4。OpenAI 内部对 GPT-4 寄予厚望，因此 ChatGPT 一度被搁置。
后来，他们意识到需要花费六个月的时间，专注于提升GPT-4的对齐和安全性。
因此他们思考了可以采取的行动，决定先将 ChatGPT 提供给研究人员，初衷是利用研究人员的反馈，因为该模型具备了对话能力，可以帮助 GPT-4 更准确地符合用户意图，同时也更安全、稳定和可靠。
在 ChatGPT 推出前一周，还担心它不够好。但当 OpenAI 发布它之后，并得到了用户的积极反馈。用户发现了模型的多种新用途。
观察各种新兴应用案例，你会发现，只有当这些技术变得易于获取和操作，而且每个人都能用得起时，这些新兴应用案例才会浮现出来。
四、扩展法则
当被问及是否认为扩展法则将继续有效，以及我们是否会继续看到进步，或者我们是否正在遇到递减的回报时，回答表示，目前没有证据表明我们不会从更大的模型中获得更好、更有能力的模型，只要我们继续在数据和计算的方面进行扩展。但是否这足以达到AGI（通用人工智能）是另一个问题，可能沿途还需要其他的突破和进步。但她认为在扩展法则方面仍有很长的路要走，可以从这些更大的模型中获得很多好处。
如何定义AGI时，她在OpenAI的宪章中定义它为能够自主地执行大部分智力工作的计算机系统。
她提到了一个有趣的观点，即目前的AI系统可能处于从计算机到爱因斯坦之间的某个连续体上。我们可能知道如何从猫转变为普通人，但我们可能还不知道如何从计算机转变为猫，因为这涉及到一般的感知问题。
五、接下来的5-10年
在未来的5-10年中，基础模型不仅会理解文本，还会理解其他模态，如图像和视频等，使这些模型能够更全面地了解我们周围的世界。与我们理解和观察的世界相似，这个世界不仅仅是文本，还有图像。预计这一方向将继续扩展，我们将拥有所有这些模式的更大模型。这是预训练工作的一部分，真正希望得到这些预训练模型，它们像我们一样理解世界。
然后是模型的输出部分，引入了人类反馈的强化学习，希望模型能够按照我们的要求来执行任务，并且这种执行是可靠的。可能会引入浏览功能，这样模型可以获取新鲜的信息，引用信息，并解决幻觉问题。这是可以实现的。
在产品方面，希望将所有这些组合在一起，形成一个人们可以与之合作的代理集合，并真正提供一个平台，人们可以在其上构建。如果将这些模型的能力推向极限，这些模型将会变得非常强大。随之而来的是对这些强大模型可能与我们的意图不一致的担忧。因此，一个巨大的挑战变成了超级对齐的问题，这是一个技术上的挑战。已经组建了一个整个团队来专注于这个问题。
