```html ``````html

OpenAI首席执行官谈未来展望

Sam：

你投资了Uber？我以前从未听说过。

是的，我想是的。

你应该写一本书，Jacob。

我和Sam作为童子军参与的那个小型实验基金是红杉资本回报率最高的基金。我听说，几百万美元变成了超过2亿美元。他还曾在Y Combinator工作过一段时间，并在2014年至2019年担任总裁。2016年，他与他人共同创立了OpenAI，其目标是确保通用人工智能造福全人类。2019年，他离开YC，全职加入OpenAI担任首席执行官。

2022年11月30日，事情变得非常有趣。那天是OpenAI推出ChatGPT的日子。2023年1月，微软投资了100亿美元。2023年11月，在疯狂的五天时间里，Sam被OpenAI解雇。每个人都要去微软工作。一堆心形表情符号在X和Twitter上疯传，人们开始猜测该团队已经达到了通用人工智能。世界末日就要来临了。突然间，几天后，他又回到了OpenAI的首席执行官的位置。

据报道，2023年2月，Sam正在寻求为一个AI芯片项目筹集7万亿美元。此前有报道称，Sam正在寻求从Masayoshi San那里筹集10亿美元，与iPhone的联合创始人Johnny Ive一起打造一款iPhone杀手。

与此同时，ChatGPT变得越来越好，并成为家喻户晓的名字。它对我们的工作方式和工作完成方式产生了巨大影响。据报道，它是历史上在短短两个月内用户数量达到1亿的最快产品。

看看OpenAI的疯狂收入增长。据报道，去年他们的ARR达到了20亿美元。欢迎收听全能播客，

我观察到整个行业都在紧张地期待GPT-5的发布。据我了解，它可能会在今年夏天的某个时候推出，但这个时间窗口相当宽泛。你能否为我们具体化一些？

Sam：

我们会花费一些时间来发布这个主要的新模型。我相信，当我们这样做的时候，一定会非常棒。我们会仔细考虑如何进行。可能会以一种与我们发布以前模型不同的方式来发布它。另外，我甚至不确定我们是否会称之为GPT-5。

我想说的是，自从我们发布了GPT-4以来，尤其是在过去的几个月里，很多人都注意到了它的优秀表现。我认为这更好地揭示了世界的本质，它并不是简单的1、2、3、4、5、6、7，而是一个使用AI系统的过程，整个系统会持续地变得越来越好。我认为这既是一个更好的技术方向，也更容易让社会适应，我相信这就是我们的发展方向。

主持人：

那么，这是否意味着我们不会有漫长的训练周期，而是会不断地重新训练或训练子模型，Sam？也许你可以和我们分享一下。

```

未来大型模型在架构上可能会发生哪些变化

Sam：

可以设想，未来大型模型的架构可能会发生一些变化，我们可能会持续训练一个模型。从我的角度来看，这似乎是一个合理的做法。

我们当前讨论的是不同的发布方式。你是否在考虑先向付费用户发布，或者是放慢发布速度以制造悬念，因为目前风险较高。实际上，您有大量的付费用户，而且所有人都在密切关注着您的每一步。您现在必须更加深思熟虑，对吗？

是的，目前GPT-4仅对付费用户开放，但我们真正想做的是找出让免费用户也能使用更先进技术的方法。我认为这是我们使命中非常重要的一部分。我们的目标是构建人工智能工具并使其广泛可用，无论是免费还是付费的，无论形式如何，这样人们就可以用它们去创造未来，而不是让天空中的神秘AGI创造未来并将其倾泻在我们身上。这似乎是一条更好的道路，也是一条更具鼓舞人心的道路。我坚信事情确实在朝着这个方向发展。所以我很遗憾，我们还没有找到让免费用户使用GPT-4级别技术的方法。这是我们真正想做的事情。我必须承认，这非常昂贵。

Sam，我认为人们经常讨论的两个重要因素可能是潜在成本和延迟，这在某种程度上限制了杀手级应用的速度。然后我认为第二个因素是人们在开源世界与闭源世界中建立的长期能力。我认为，这个领域的热情之处在于其开源社区。一个令人难以置信的例子是，我们为Devon做了一个非常疯狂的演示，这是在五六周前，效果非常出色。然后，一些年轻人基于MIT的开放许可证（如OpenDevon）发布了这个项目。它的表现非常好，几乎可以与其他闭源项目相媲美。因此，也许我们可以从这个问题开始讨论，即，保持这些模型闭源的商业决策是什么？你认为未来几年会有怎样的发展？

对于你的问题的第一部分，速度和成本，这对我们来说非常重要。我不想给出一个时间表，说明我们何时可以大幅降低延迟，因为研究很困难，但我相信我们能够做到。我们希望大幅降低延迟，大幅降低成本。我相信这会发生。我们仍处于科学发展的早期阶段，无法理解其工作原理。此外，我们在工程方面也有所突破。所以我不知道什么时候我们才能获得价格便宜到无法计量的智能，而且速度如此之快，以至于我们和其他所有人都觉得它是即时的。但我相信我们可以达到相当高的智能水平。这对我们很重要，对用户来说也很重要，它将解锁很多东西。

关于开源和闭源，我认为两者都有其优点。我们已经开源了一些项目，将来我们可能会开源更多的项目。但实际上，我们的使命是朝着人工智能的方向发展，并找到一种方法广泛地分配其好处。我们有一个策略，似乎引起了很多人的共鸣。显然，它并不适合所有人。而且这是一个庞大的生态系统。还会有开源模型和以这种方式构建的人。

我个人对开源特别感兴趣的一个领域是，我想要一个尽可能好的开源模型，可以在我的手机上运行。我认为，世界还没有足够好的技术来开发出一个好的版本。但这似乎是一件非常重要的事情，在某个时候要做。

你会这样做吗？你会发布吗？

<```html

关于Llama 3的评价

Llama 3的表现如何呢？

Llama 3在手机上的运行状况如何？

我认为可能会有70亿参数版本适用于手机。

是的。我对它是否适用于手机并不确定，但是……

但我认为它应该适用于手机。

但是我不能确定，我不知道它是否适用，我也没有试过。我不确定它是否足以完成我在这里考虑的任务。

因此，当Llama 3发布时，我认为许多人最大的收获是，哇，他们已经赶上了GPT-4。我认为它并不是在所有方面都平等，但总的来说，它非常非常接近。我认为问题是，你们不久前发布了4，你们正在开发5，或者对4进行更多升级。我想听听你的观点，即如何在开源环境中保持领先，你有何看法？这通常是一项极具挑战性的任务，你怎么看？

我们的目标不是制造出我们能制造的最智能的权重集，而是制造出一个有用的智能层供人们使用。模型只是其中的一部分。我相信我们将在这方面保持领先，我希望我们在这方面能够远远领先于世界其他国家。但整个系统还有很多其他工作，不仅仅是模型权重。我们必须像其他任何企业一样，以传统方式建立持久价值。我们必须想出一个伟大的产品和坚持下去的理由，并以优惠的价格交付它。

当你创立这个组织时，你所说的目标或讨论的部分内容是，这对任何一家公司来说都太重要了，因此，它需要开放。然后转变为，任何人都看不到它太危险了，我们需要把它锁定，因为你对此有些担心。我想知道，这是真的吗？因为愤世嫉俗的一方会说，这是一种资本主义的举动。然后，我很好奇从开放开始的决定是什么。世界需要看到这一点。关闭真的很重要。只有我们才能看到。那么，你是怎么得出这个结论的呢？

我们发布ChatGPT的部分原因是我们希望全世界都能看到这一点。我们一直在试图告诉人们人工智能真的很重要。如果你回到2022年10月，那时并没有那么多人认为人工智能会那么重要，或者它真的发生了。我们试图做的很大一部分就是把技术交到人们手中。现在，再次重申，有不同的方法可以做到这一点。我认为确实有一个重要的角色，就是说，比如，这是实现它的方法。

但事实上，我们有这么多人使用ChatGPT的免费版本，我们不投放广告，我们也不会试图从中赚钱。我们只是因为我们希望人们拥有这些工具而推出它。我认为它做了很多工作，提供了很大的价值，教人们如何钓鱼，也让世界真正思考这里发生的事情。现在，我们仍然没有找到所有答案。我们和其他人一样，正在摸索着前行。我认为，随着我们学习新事物，我们会多次改变策略。

当我们创办OpenAI时，我们真的不知道事情会如何发展，不知道我们会制作语言模型，不知道我们会制作产品。我清楚地记得第一天，我们当时想，好吧，现在我们都在。

``````html

这一切准备好很困难，但未来会如何？

或许我们应该撰写一些论文，或者围绕着白板进行讨论。我们一直在努力，一步一步地搞清楚接下来的计划。我想我们将继续这样做。

我可以再次确认一下，以确保我没有听错吗？我理解您的观点是，无论是开源还是闭源，所有这些模型，无论您做出何种业务决策，都将逐步提高其准确度。并非所有的公司都有足够的资本，但假设有四到五家，比如Meta、谷歌、微软等，或者可能还有一家初创公司。这些公司都在开放网络上运作。然后很快，这些模型的准确性或价值可能会转移到这些专有的训练数据源，这些数据源你可能可以获取，也可能无法获取，或者别人可以获取而你无法获取。

您认为事情的发展趋势是这样的吗？开放网络使每个人都达到一定的门槛，然后就变成了一场争夺数据的军备竞赛？

我并不这么认为。我坚决认为这不会变成一场争夺数据的军备竞赛，因为当模型变得足够智能时，它不应该只是关于获取更多的数据，至少不是用于训练的数据。数据可能很重要，因为它有其价值。我从这一切中学到的最重要的一件事是，很难对未来几年的走向做出自信的预测，所以我现在不想尝试。我想说的是，我期待世界上出现许多非常有能力的模型。我觉得我们刚刚偶然发现了一个新的自然或科学事实，或者你可以称之为我们可以创造的事实。我不认为这是字面意思，但它就像一个精神点。智能只是物质的这种突现属性，这就像物理规则之类的东西。所以人们会弄清楚的。但是会有所有这些不同的系统设计方法。人们会做出不同的选择，想出新的想法。我敢肯定，就像任何其他行业一样，我预计会有多种方法，不同的人喜欢不同的方法。有些人喜欢 iPhone，有些人喜欢 Android 手机。我认为会有这样的效果。

让我们回到第一部分，只讨论成本和速度。你们所有人的NVIDIA吞吐量都受到了一点比特率限制，我认为您和大多数人都已经宣布了可以获得多少产能，因为这是他们能够生产的最大产能。基板上需要发生什么才能真正降低计算成本、加快计算速度、获得更多能源？您如何帮助行业解决这些问题？

我们肯定会在算法上取得巨大进步。我不想低估这一点。我对芯片和能源非常感兴趣。但是，如果我们能够使相同质量的模型效率提高一倍，那就相当于我们的计算能力提高了一倍。我认为那里有大量的工作要做。我希望我们能真正看到这些结果。除此之外，整个供应链非常复杂。有逻辑工厂的产能。世界可以生产多少HBM。你可以快速获得许可证、浇筑混凝土、建立数据中心，然后安排人员将所有线路全部连接起来。最后是能源，这是一个巨大的瓶颈。但我认为，当它对人类有如此大的价值时，世界就会有所作为。我们将致力于让这一目标更快地实现。可能性的确存在，我无法给出具体的概率，但我相信，正如你所说，这是一个巨大的基础性突破。我们已经拥有了更高效的计算方式，然而，我并不喜欢过度依赖它，也不愿意花费过多的时间去思考它。

在设备方面，你提到了可以安装在手机上的模型。显然，无论是LLM还是SLM等，我相信你都在考虑这个问题。但是，设备本身会发生变化吗？它是否需要像iPhone一样昂贵？

我对此非常感兴趣。我喜欢新的计算形式，每一次重大的技术进步似乎都会带来新的事物。手机的优秀程度令人难以置信，因此我认为这里的门槛非常高。我个人认为，iPhone是人类历史上最伟大的技术产品，它真的是一个非常棒的产品。

```html

专访：移动技术的未来展望

在接受采访时，业内资深专家对未来的移动技术发展进行了展望。

“对于是否会有一种能够在手机上运行并驱动AI模型的专用芯片，我并不确定。” 他表示，“虽然这种可能性存在，但手机制造商并不一定会采用这一方案。真正的突破可能在于找到新的技术交互范式。”

此外，他还提到了语音交互的潜力。

“如今，我们已经可以通过语音与应用程序进行交互。” 他说道，“尽管存在一些延迟问题，但这种交互方式已经得到了广泛应用。”

“语音交互可能是未来的主流。” 他补充道，“虽然目前还存在一些问题，比如时不时的无响应，但随着技术的发展，这些问题会逐渐得到解决。”

关于计算机视觉，他提出了一些观点。

“如今，人工智能已经具备了对周围环境的理解能力。” 他解释道，“我们可以利用多模态设备向ChatGPT提出各种问题，比如询问周围景物或物体的信息。这一能力无疑是未来发展的一个重要方向。”

然而，他也指出了潜在的社会问题。

“如果人工智能无处不在，例如内置于手机中，那么它可能会引发一系列社会问题。” 他表示，“人们可能会面临隐私和社交问题，使用电脑设备也会变得更加复杂。”

对于未来移动技术的展望，他提出了自己的期待。

“我希望未来能够出现一种始终在线、交互便捷的设备，可以通过语音或文字进行操作。

```

探讨人工智能助理的未来

当人们谈论人工智能的未来时，或许会想象出两种不同的方式，虽然听起来相似，但在实践中却存在巨大差异。有一种构想是，我们需要一个能够延伸自我，如同一个幽灵或者另一个自我，一个真正属于我们自己的存在，能够代表我们行事、回复电子邮件，甚至在不需要明确指示的情况下自行处理事务。它应该越来越像我们，与我们的个性逐渐融为一体。另一种构想则是，我们需要一个优秀的高级员工。这个员工能够深入了解我们，我们可以委托给它一些任务，它可以访问我们的电子邮件，当然，在我们设定的权限范围内。然而，我认为这个助手应该是一个独立的实体。我个人更偏向于与一个独立实体进行交互，而不是与一个被动的工具打交道。这样的存在会让我们变得越来越出色。

因此，从某种意义上说，它不是一个简单的工具，而是一个随时可用、总是出色、超级能干的助理主管。

在某种程度上，它就像一个代理人，它能够代表我们工作，了解我们的需求，预测我们的行为。我理解你所说的是这样一种助理。

虽然它可能会表现出一些代理人的特质，但高级员工和代理人之间还是有所区别。

我希望这个助理能够像一个真正的高级员工一样。他们有时会反驳我，有时不会盲目地执行我的要求，而是会提出他们自己的见解。他们有推理能力，他们与我的关系更像是我与一个真正有能力的人共事时所建立的关系，而不是一味谄媚。

确实，如果我们拥有像贾维斯（Jarvis）这样具有推理能力的工具，它可能会对我们目前使用的许多产品界面产生影响，比如Instacart、Uber和DoorDash。这些服务并非仅仅是提供一个平台，而是向全球80亿人提供服务的一群智能代理的API。那么，我们需要思考的是，我们应该如何改变对应用程序工作方式、整个体验基础设施的理解，以适应这个新世界，其中你与世界的交互更像是通过代理完成的？

我对设计一个人类和人工智能都能使用的世界非常感兴趣。我喜欢它的可解释性，喜欢交互的顺畅性，喜欢我们能够提供反馈的能力。例如，DoorDash可以向未来的人工智能助手公开一些API，使其能够下订单等。我可以拿着手机说：“好的，AI助手，请在DoorDash上下这个订单。”我可以看到应用程序的操作，但如果有错误，我可以立即提出更正。我认为设计一个人类和AI都可以同样使用的世界是一个非常有趣的概念。

出于同样的原因，我对人形机器人比其他形态的机器人更感兴趣。这个世界是为人类设计的，我们应该保持这种状态。共享界面是一个很好的想法。

```html

近日，一种新的趋势逐渐兴起，逐渐改变着我们与应用程序的互动方式。语音、聊天等模式正逐渐取代传统的应用程序使用方式。现在，只需轻声告诉它你想要享用寿司，它就能了解你喜欢的口味，知晓你的喜好，竭尽全力为你提供满意的选择。

“嘿，ChatGPT，给我点寿司。”你会发现这样的对话在未来并不遥远。“好的，你想从这家餐厅点吗？想要哪种口味？什么时间？一切随你便。”用户体验的变革让人瞩目。尽管完全依赖语音模式可能还难以想象，但这种变化的趋势已经渐行渐近。

提到苹果的Siri，据说你可以通过Siri自动预订Uber。尽管有这个功能，但实际使用中却并不普遍。为什么？也许是因为风险与便利并不成正比。然而，当技术质量足够可靠时，它的轻便性却能赢得更多青睐。不再需要拿出手机，不再需要在应用中进行搜索和点击。一切变得自动化，节省了宝贵的时间和精力。

“像使用Siri设置定时器一样简单。”这种便利让人爱不释手。“但是，当涉及到订购Uber时，我可能想要查看不同选项的价格，甚至在地图上查看位置。这时，触屏提供的信息更为全面、更为迅速。你的观点非常值得思考，不同的任务可能需要不同的界面形式。这种趋势将会持续。”

在OpenAI上，众多开发者正在构建各种应用和体验。是否有一些让你印象深刻的呢？尽管有些项目可能只是玩具应用，但它们所带来的趣味和新颖感是否令你着迷？或许，某些项目已经被指出对未来发展至关重要。

就在今天早上，我遇到了一家新兴公司，或许更准确地说，是一个潜在的合作伙伴。他们正致力于将人工智能融入教育领域。这引发了我对这个领域的兴趣。尽管在我们的平台上已经有很多令人惊叹的项目，但如果有人能以一种更引人入胜的方式呈现，将会像是一场蒙特梭利式的变革，改变人们学习的方式。我对此充满期待。

德文，你之前提到的与编码相关的想法，我觉得是对未来的一个很酷的展望。医疗保健领域的变革可能会非常显著。但我个人最为期待的是科学研究的加速。尽管GPT-4的贡献可能不会直接显现，但它可以通过提高科学家的工作效率来推动科学进步。

Sam，这将是一场胜利。这些模型的训练和构建方式与语言模型有所不同。尽管有些相似之处，但也存在很多独特之处。特别是在化学反应建模等特定问题上，这些独特之处将变得尤为重要。

对于我们所讨论的许多话题，推理能力的缺失是一个普遍存在的问题。一旦我们拥有了这种推理能力，就能够更深入地探索各种应用场景，例如化学刺激器等。

是的，我认为今天我们要探讨的重要问题之一就是模型网络的概念。人们常常将代理描述为一组线性调用函数的集合。然而，在生物学中，系统网络的交叉互动是非常常见的现象。

``````html

系统的聚合……网络的聚合产生输出，而不是一个东西调用另一个东西，那个东西调用另一个东西

我们是否看到这种架构中出现了专门的模型或网络模型，它们共同解决更大的问题集，使用推理？有计算模型可以做化学或算术之类的事情，还有其他模型可以做，而不是一个纯粹泛化的模型来统治它们。

我并不确定有多少推理能够转化为一种广泛推广的形式。我对此持怀疑态度，这更多的是一种直觉和期望，如果真能如此，那将是极好的。我并不确定……

让我们以蛋白质建模为例。我们有大量的训练数据、蛋白质图像以及序列数据，基于这些数据，我们建立了一个预测模型，并且我们有一套流程和步骤来实现这一目标。

你是否曾设想过存在一种通用的人工智能或伟大的推理模型，它能够找出如何构建子模型，并通过获取必要的数据来解决问题，然后解决问题……

实现这一目标的方法有很多。也许它会训练一个文字模型，或者可能只是知道一个大模型。它可以选择所需的其他训练数据，提出问题，然后进行更新。

我想真正的问题是，所有这些初创公司是否都会倒闭？因为许多初创公司都在以这种模式工作，即获取特殊数据，然后从头开始用这些特殊数据训练新模型。然后它只做那一件事。而且它在那件事上工作得很好。它比其他任何东西都好。

我想你已经可以看到一个版本了。

当你谈论生物学和这些复杂的系统网络时，我之所以能理解，是因为我最近病得很重。现在我好多了。但就像身体一次一个系统地被打败一样。就像你确实能看出，好吧，这是级联的事情。这让我想起了你谈论的生物学，就像你不知道这些系统之间的相互作用有多大，直到事情开始出错。这有点有趣。

但我当时正在使用ChatGPT试图弄清楚发生了什么，不管怎样，我会说，我对此并不确定。然后我就发表了一篇论文，甚至没有阅读论文，就像在上下文中一样。它说，哦，那是我不确定的事情，现在我改为这么想。所以这就像你所说的一个小版本，你可以说，我不知道这个东西，你可以添加更多信息，你不需要重新训练建模者来添加到这里的上下文中。

所以这些预测蛋白质结构的模型，比如说，对，这是整个基础。现在，AlphaFold3上还有其他分子。他们能做到吗？是的，这基本上是一个最好的广义模型进入并获取训练数据然后自行解决问题的世界吗？

也许你可以举个例子，你能告诉我们关于Sora的情况吗？你的视频模型可以生成令人惊叹的动态图像、动态视频，以及那里的架构有什么不同，无论你愿意分享什么，如何让它与众不同。

是的，所以我首先说一般性的问题，你显然需要专门的模拟器、连接器、数据片段等等，但我的直觉。再说一次，我没有科学依据，我的直觉是，如果我们能够找出广义推理的核心，将其与新的问题领域联系起来，就像人类是广义推理者一样，我认为是否可以更快地解锁，我想是的。但是，是的，你看它不是从语言模型开始的。这是一个专为视频定制的模型。然而，我们显然还没有进入那个世界。

``````html

举个例子，为了建立一个优秀的视频模型，您从零开始构建，我猜测您使用了一些不同的架构和不同的数据。但在未来的广义推理系统，也就是AGI，无论什么系统，理论上都可以通过理解如何实现这一点来达到目标。

是的，一个例子是，据我所知，世界上所有最好的文本模型仍然是自回归模型。最好的图像和视频模型是扩散模型。这在某种程度上有些奇怪。

因此，关于训练数据存在很大的争议。我认为您是所有公司中最体贴的，您现在已经与FT等签订了许可协议。我们在这里必须谨慎一些，因为您卷入了《纽约时报》的诉讼，我想您无法与他们达成关于训练数据的协议。

您如何看待合理使用的公平性？我们在播客上进行了激烈的辩论。显然，您的行动充分表明，您正试图通过许可协议来实现公平。那么，您个人对创作优美音乐、歌词、书籍的艺术家的权利持什么立场？您利用这些权利制作衍生产品，然后将其货币化？什么是公平？我们如何才能让艺术家创造内容，然后决定他们希望其他人如何处理这些内容？

我只是好奇您的个人信念，因为我知道您在这方面是一个深思熟虑的人。我知道我们行业中的许多其他人对内容创作者的看法并不十分深思熟虑。所以我认为不同类型的人会有很大不同。

在公平使用方面，我认为我们在现行法律下有一个非常合理的立场，但我认为人工智能是如此不同。但对于艺术之类的东西，我们需要以不同的方式去思考。

但是，假设您在网上读了一堆数学知识，并学会了如何做数学，我认为这对大多数人来说似乎无可非议。然后，还有另一群人可能会有不同的看法。实际上，为了让这个答案不要太长，我不再深入讨论这个问题。

所以我认为有一类人会说，好吧，有广义的人类知识，你可以说，如果你学会了，那就是，那就是开放领域之类的，如果你去学习毕达哥拉斯定理。这是光谱的一端。我认为光谱的另一个极端是艺术，甚至可能更具体一点，我会说它就像在做，它是一个以另一位艺术家的风格或相似性产生艺术的系统，这可能是最极端的。然后在光谱中间还有许多许多情况。

我认为，从历史上看，讨论的焦点一直是训练数据，但随着训练数据的价值降低，讨论将越来越多地转向推理时发生的事情。而系统做什么，实时访问上下文中的信息，或者采取类似措施，推理时发生的事情，以及新的经济模式如何，将受到更多争论。

因此，如果您说，例如，如果您说，例如，用泰勒·斯威夫特的风格为我创作一首歌曲，即使模型从未接受过任何泰勒·斯威夫特歌曲的训练，您仍然会遇到问题，即模型可能读过关于泰勒·斯威夫特的文章，可能知道她的主题，泰勒·斯威夫特意味着什么。接下来的问题是，即使这个模型从未接受过泰勒·斯威夫特歌曲的训练，我们是否应该允许它这样做？如果是的话，泰勒·斯威夫特应该如何得到相应的报酬？

我认为首先，这种情况

``` ```html

对于那些致力于推动科学研究的人工智能来说，这是一个了不起的时刻。然而，如果我们希望人工智能能够达到人类那种深刻而美妙的创造性表达，我们必须清楚地思考这样的可能性。人工智能将成为引领我们迈向更高创意高度的工具。但要实现这一点，我们需要找到方法，以确保它保留了我们所有人所关心的精神。

我认为你提出的观点非常具有说服力。我们曾试图在DALL-E中塑造《星球大战》中的角色，但如果你要求它创造达斯·维达，它可能会回应：“嘿，我们不能这样做。”因此，我想你可能已经在内部组建了一支红队，或者可以这样称呼它。我们确实进行过尝试。是的，你不能让人们使用他人的知识产权，所以你已经做出了这个决定。

现在，如果你要求它制作一只绝地斗牛犬或一只西斯领主斗牛犬（我就是这么做的），它可能会将我的斗牛犬变成西斯斗牛犬。

关于你提到的有趣问题，是的，昨天我们发布了一份名为规范的文件，试图说明我们的模型应该如何表现。这是一项艰巨的任务，文件内容非常丰富。在每种情况下准确指定限制应该在哪里是非常困难的。我认为这是一个需要更多深入讨论的话题。

然而，关于可能不应该创造达斯·维达，但创造西斯尊主、西斯风格的东西或者绝地武士，这些都属于文化的一部分，这些决定都是艰难的。

是的，我认为你说得对。音乐行业可能会考虑这一机会，例如让泰勒·斯威夫特的歌曲成为他们的资源。这是“四分合理使用测试”的一部分，允许对现有艺术作出新创新。迪士尼可能会说：“嘿，如果你想制作《阿育王》的索拉版本，或者欧比旺·克诺比，我们可以合作。”这对你来说是一个很好的合作伙伴关系。

因此，我认为这部分应该标记为人工智能和法律。

那么，让我提出一个更高层次的问题。当人们谈论监管人工智能时，他们到底是什么意思？如果你方便的话，也许你可以就加州最新提出的法规发表一些评论。

我对此非常担忧。有很多法规在讨论中，但我看到的大多数关于加利福尼亚州的法规都让我感到担忧。我还担心其他州也可能会效仿。

当人们说要监管人工智能时，我认为他们并不是指具体的措施。有些人可能会主张全面禁止。有些人可能会说，应该要求开源。我个人最感兴趣的是，有些人可能会说，或许我错了。我承认这是一个前瞻性的言论。然而，做出这样的断言总是很危险的。但我认为在不久的将来，也许几十年后，我们会有一天认识到，像前沿人工智能系统这样的系统可能会对全球造成重大危害。针对这些系统，我们需要像对待核武器或合成生物那样进行全球监督，因为它们可能的影响超出了任何单一国家的范围。我期待着某个国际机构在研究这些最强大的系统，并确保进行适当的安全测试。这些系统不能自动规避风险，也不会自我改进。

然而，对此的批评是，对于大公司来说，他们有资源去游说、操纵、参与政治，他们与政治家的关系密切，而对于初创公司来说，尽管他们对此充满热情并投入资金，但他们却没有足够的资源来应对这个问题。正如我们的朋友比尔·格利（Bill Gurley）去年在他的演讲中所指出的那样，监管会因此被俘获。

因此，也许你可以积极应对这些挑战，与政策制定者进行对话，参与其中。

```

关于这个问题的决定已经做出。如果我们只关注那些价值超过100亿美元或超过1000亿美元或其他任何金额的计算机上训练的模型，我会对此感到满意。这是我可以接受的一种立场。我认为这不会给初创公司带来任何监管负担。

因此，如果你拥有制造核弹的核原料，就像有一小部分人拥有它一样，你可以使用类似核检查员的情况的类比。我认为这是一个有趣的观点。

我可以再说一件事吗？当然。我对这里的监管过度感到非常紧张。我认为我们做得太多，甚至有点过头，都可能出错。我认为我们做得不够，也可能会出错。但我确实认为部分原因在于……现在，我们已经看到监管越权或控制在其他领域变得非常糟糕。

而且，也许什么也不会发生。但我认为，谈论我们认为可能发生的事情以及实现这一目标需要做些什么，这是我们职责和使命的一部分。

Sam，挑战在于，我们有保护人民、保护整个社会的法规。

然而，我们正在制定的法规赋予政府进入和审计商业机密的权利。我们以前从未见过这种程度的法规。基本上，加州提出的立法和一些联邦提出的立法基本上要求政府审计一个模型、审计软件、审计和审查模型的参数和权重。然后你需要他们的勾选才能将其部署用于商业或公共用途。

对我来说，这感觉就像我们试图控制政府机构以制造恐惧。因为人们很难理解这一点，害怕它的影响，他们想控制它。而控制它的唯一方法就是说，在我发布它之前给我审计权。

是的，他们一无所知。这些人一无所知。这些东西的写作方式，你读了它，你会抓狂。因为如你所知，在12个月内，这些东西无论如何都不会有意义。我之所以推动采用基于代理的方法来解决大局问题，而不是像法律那样写出来，

我不认为即使这些人是真正的世界专家，我也不认为他们能够在12或24个月内正确处理。我不认为。我们将对这些政策进行审查，对您的所有源代码进行全面检查，并逐一查看您的所有权重。我确实认为存在许多疯狂的提议，特别是当模型不断接受重新训练，变得更加动态时。这也是我认为它是有意义的原因。

在飞机获得认证之前，我们会进行一系列安全测试，让飞机通过这些测试。这与阅读所有代码的过程完全不同。我们是在审查模型的输出，而不是查看模型的内部。

因此，我认为进行安全测试是有意义的。

那么，Sam，我们应该如何实现这一点呢？

我在此不仅代表OpenAI，也代表整个行业，甚至代表人类。我担心，如果我们限制这些有巨大发展潜力和对人类有巨大益处的技术，我们可能会陷入黑暗时代。那么，我们应该如何改变这种情况并实现这一目标呢？

因为政府层面的发展速度太快，人们似乎都弄错了方向，我对此感到担忧。在此基础上，Sam，例如，Lama的架构决策非常有趣，因为我们将让Llama在尽可能少的约束下成长。我们还有另一种东西，我们称之为Llama Guard，它旨在成为这些保护性护栏。

你认为问题得怎么解决？

关于GPT-4和UBI的讨论

针对当前的挑战，我们需要寻找正确的解决方案。

鉴于当前模型的强大，我们不可避免地会面临一些问题。对此，我们不敢掉以轻心，也不敢不加以认真对待。然而，我对GPT-4级模型会带来灾难性风险的担忧并不大。我相信有许多安全的方法可供我们选择来部署它。

或许，如果我们能够这样思考，我们将能够找到更多共同点。我对一个具体的例子印象深刻，即尽管模型具有自我递归改进的能力，技术上也具备这种潜力，但即使不以这种方式利用，它们也可能自主设计和部署生物武器等。这突显了自我递归改进的关键性质。

我们有必要在国际层面对模型输出进行安全测试，因为这些模型在那里构成潜在威胁的可能性是合理的。我并不认为像GPT-4这样的东西会构成实质性威胁，或者至少不是我认为的。我坚信有多种安全方法可供我们发布这样的模型。

然而，当严重人员伤亡成为一个严重的可能性，比如飞机或其他情况时，我们会感到宽慰，因为我们有某种测试框架，就像我登机时不会去考虑飞机一样，我只是默认它是安全的。

Sam，目前有很多关于就业的担忧。在你参与YC时，你曾进行过大量关于UBI的测试。你的研究成果即将出炉。我只是想说，这项研究已经是五年前的事了。一开始是测试版研究，然后是长期研究。但你从中学到了什么？

确实，你为何要开始这一切？你能否解释一下你为何要开始研究通用基本收入（UBI）？

我们在2016年开始思考这个问题，几乎与我们开始认真对待人工智能的时间相同。社会和经济中的就业变化以及其可能带来的更深层次影响（例如，社会契约的改变）理论上意味着我们应该进行大量研究，探索如何应对这些新变化的各种想法。

我必须承认，我并非是大多数旨在帮助穷人的政策的狂热支持者。我倾向于相信，如果给予人们资金，他们会做出正确的选择，市场会自行运作。我完全支持提高最低生活水平、减少甚至消除贫困。但我感兴趣的是，是否有比我们为现有社会安全网所做的尝试更好的方法，以及处理事物的方式。

我认为给予人们资金并不能解决所有问题，当然也不能让所有人都感到幸福。但这可能会解决一些问题，并使人们更有能力帮助自己。我对此非常感兴趣。

我认为，现在我们已经看到了一些方法，所以2016年的情况已经远去。我们现在看到了人工智能正在发展的一些方式，我想知道是否有比传统UBI概念更好的方法。例如，我想知道，未来是否更可能是通用基本计算，而不是通用基本收入。每个人都会得到一部分GPT-7计算，他们可以使用、转售，甚至捐赠给癌症研究。但他们得到的不是美元，而是生产力的一部分。是的，他们拥有了一部分生产力。

```html ```

董事会中的文化冲突：关于非营利经验和创业经验的讨论

在董事会中，是否存在着非营利经验和创业经验之间的文化冲突？这个问题一直备受关注。我们有幸邀请到一位董事会成员对此进行了深入探讨。

他表示：“我认为文化冲突一直存在。显然，并不是所有董事会成员都是我最喜欢的人，但我非常尊重他们对待 AGI 的严肃态度以及正确处理 AI 安全的重要性。即使我完全不同意他们的决策和行动，我也从未怀疑过他们的正直或对安全和有益的 AGI 的共同使命的承诺。”

他进一步指出：“我认为他们在这个过程中做出了正确的决定，或者知道如何平衡 OpenAI 必须做对的所有事情吗？不。但我认为他们有意图，有 AGI 规模的意图，并把它做好。”

在对话中，他还提出了一个引人深思的问题：“OpenAI 的使命明确是创造 AGI，我认为这真的很有趣。许多人认为，如果我们创造出人工智能（AGI），那将是某种事情出错的意外结果。他们对此感到极度恐惧。然而，OpenAI 却将其视为实际的使命。这是否会让你对你所做的事情感到更多的恐惧？我理解这也能产生动力，但你如何调和这一点？我想知道，为什么这是使命？”

他回答道：“我认为，首先我要回答的是，这确实引发了很大的恐惧。我认为世界上很多人都对 AGI，甚至当前的 AI 感到非常害怕，同时也对其发展方向感到非常兴奋，甚至更加害怕和兴奋。我们为此而苦苦挣扎。但我认为这是不可避免的。我还认为它会带来巨大的好处。但我们必须找到如何以合理的方式到达那里的方法。很多事情都会发生改变，而改变会让人们感到不舒服。所以我们有很多事情需要做对。”

在讨论的尾声，他向我们展示了不同的视角：“我可以问一个不同的问题吗？你已经创造了一个最热门的公司。而你确实处于中心的位置。但是从经济角度来看，你回避了所有这些价值，这非常独特。你能给我们讲讲吗？”

他透露道：“是的，我希望我当时拿到了股权，这样我就不必回答这个问题了。如果我能回到过去……”

在进一步追问关于补助金和董事会决定的问题时，他解释说：“当时的决定，最初的原因只是我们非营利组织的结构。从动机的角度来看，这很好。但主要是我们的董事会需要大多数无私的董事。我想，那很好。我现在不需要股权。我有点……但是，我希望……”

对于他所面临的独特处境，他坦言：“完全正确。这太深刻了……我注意到的一件事是，人们很难想象他们会说‘我不需要更多的钱’。我也知道音调是多么的不敏感...我认为人们认为这有点别有用心。是的。所以假设...”

```html

他还在做什么来赚钱？如果我只是说，我要用OpenAI赚一万亿美元，我想每个人都会过得更轻松，而这救不了我。这会省去很多阴谋论。

Sam，你是一个伟大的交易撮合者。我关注了你的整个职业生涯。你在这方面很厉害。你拥有所有这些关系。你真的很擅长筹集资金。你在这方面很棒。你还有约翰尼·艾维，你投资公司，你得到了球，你筹集了7万亿美元来建造晶圆厂，所有这些东西。所有这些因素综合在一起。

这里我只是开个玩笑。显然，你并没有筹集到7万亿美元，这可能只是市值之类的东西。然而，抛开这些不谈，关键在于你已经进行了所有这些交易。他们对你的不信任，是因为你的动机是什么？你最后离开了，OpenAI内部的机会是什么？哪些机会应该属于Sam，而这些非营利组织的人却不信任你？是这样吗？

如果我们是设备公司，或者我们正在做一些芯片制造公司，那些就不是Sam的项目。就像OpenAI会得到那笔股权一样。他们会得到的。

然而，这并不是公众的看法。这并不是像你那样，那些整天都在评论这些事情的人的看法。这是公平的，因为我们还没有宣布这些事情，因为它还没有完成。我不认为世界上大多数人都在考虑这个问题。但我同意，这在技术评论员中引发了很多阴谋论。

如果我可以回到过去，我会说，让我公平地把这一点说清楚。然后，我仍然会这样做，因为我真的很关心AGI，我认为这是世界上最有趣的工作。但至少，它会向所有人发出警告。

那么，什么是芯片项目？那是7万亿美元。那个7万亿美元的数字是从哪里来的？

我不知道那是从哪里来的。实际上，我真的不知道。我认为世界需要更多的人工智能基础设施，远远超过目前计划建设的数量，而且成本结构也不同。我们在那里玩的具体方式是，我们仍在试图弄清楚。

你喜欢OpenAI的组织模式是什么？它是像快速行动、打破常规、高度分散的小团队吗？还是更多的是这种有组织的努力，你需要计划，因为你想防止一些极端情况？

这并不是因为我们需要更有组织来防止极端情况。而是因为这些系统非常复杂，集中赌注非常重要。比如，在这样做之前，你有像DeepMind这样的公司，所有这些不同的团队都在做这些不同的事情。他们分散了赌注。你让OpenAI说，我们基本上要让整个公司一起努力制作GPT-4。这对于如何运营一个人工智能研究实验室来说是难以想象的。但我认为，至少它是有效的，它对我们是有效的。所以不是因为我们想避免极端情况，而是因为我们想集中资源，做这些大而难、复杂的事情。在我们的工作中，确实存在大量的协调工作。

好的，Sam，我明白你需要离开了。你在过去的一小时里表现得非常出色。欢迎你随时回来，我很高兴能与你们交谈。是的，这是一次非常有趣的对话。感谢你的到来，

Sam，也感谢你的坦诚。我们已经讨论了这个问题超过一年了。这真是太棒了，我对此感到非常感激。

``````html ```

注册有任何问题请添加 微信：MVIP619 拉你进入群

文章转载注明 网址：https://netpsp.com/?id=63989