小札之所以在 2022 年买了大量的 H100 GPU，即使当时 Meta 元宇宙失败股价大跌压力很大，主要是因为当时他们想尽快赶上 TikTok 的推荐算法，而该算法又需要显卡！

---

Dwarkesh Patel: 在深入研究这些模型之前，我想回到过去一段时间。我猜，2022 年是你们开始购买这些 H100 GPU 的时候。或者，你能告诉我是什么时候你们开始觉得， "股价正在暴跌。人们在问，这么多的资本投入到底在做什么？人们并没有购买 Metaverse。"可能，你们在投入那些资本去购买这些 H100。那时候，你们是怎么知道要去购买 H100 的呢？你们又是怎么知道我们会需要这些 GPU 的呢？

Mark Zuckerberg: 我想可能是因为我们当时正在开发 Reels。于是，我们陷入了这样一种情况，那就是我们总希望有足够的能力去构建一些我们还无法预见的，即将来临的东西。当我们在开发 Reels 的时候，我们发现我们需要更多的 GPU 来训练模型，对吧？这对我们的服务是一个重大的改变，我们不再只是推荐你关注的人或者你的朋友和你关注的页面的内容，我们开始大力推荐 我们称之为"与你没有关联的内容"。基本上就是你并没有关注的人或页面的内容。

所以现在，我们可能会向你展示的内容候选的数量从几千个扩大到了亿级。因此，我们需要完全不同的基础设施。我们开始尝试解决这个问题，但是当时的基础设施设备限制了我们，我们想要尽快追赶上 TikTok。看到这个情况，我意识到，我们必须确保自己不再陷入这样的困境。

所以，我们决定购买足够的 GPU 来满足我们对短片和内容排序的需求，但是我们决定让这个数量翻倍。因为我们总是预计，总会有一些我们现在看不到的新的挑战。

Dwarkesh Patel: 你知道这个挑战会是 AI 吗？

Mark Zuckerberg: 我们当时预测，可能与训练大型模型有关。对吗？但是，我个人认为，可能与内容有关的事情会更多，不过我也不能确定。其实，管理公司就像是在进行模式匹配，总会有新的事情发生，所以，当时我还不能确定，我深入研究，试图为短片和其他内容进行推荐，因为这对 Instagram 和 Facebook 来说是很重要的一步，我们能向用户展示他们可能感兴趣的内容，即使这些内容不是他们关注的用户发布的。但是，回顾起来，这个决定是非常正确的。

Dwarkesh Patel: 是的，是的。

Mark Zuckerberg: 这个决定源于我们之前的挫败。所以，我并不觉得自己领先于别人，也不觉得自己做的特别好。实际上，往往我们做出正确的决策，都是因为我们之前犯过错误，然后想要避免重蹈覆辙。

来源：https://t.co/aCqUTtMfeQ