线索表明生成式 AI 的未来将于 2024 年揭晓

生成式人工智能发展

2024 年对于生成式人工智能来说是特殊的一年，但原因与 2020-2023 年期间不同。

如果我必须选择一个词来定义过去的几年，我会说成长。

在短短四年内，生成式人工智能已经从一个抽象的愿望转变为一个异构空间，涉及多种类型的公司协同工作：像 OpenAI 这样的模型制造商，像 Scale AI 这样的数据标签商，像 Nvidia 这样的硬件供应商，像 Rabbit 这样的设备创新者，以及构建在 Jasper 等语言模型之上的窄服务。

他们都以某种方式追求相同的目标：将生成式人工智能打造成一个受人尊敬且成熟的行业。

尽管有些人否认生成式人工智能根本有用的前提，但几乎没有人否认它是一项我们可以寄予厚望的新事物。我们期待增长，我们也确实实现了增长。在研究和产品层面（只需计算发表的有价值的论文或创办的人工智能初创公司的数量）。

因此，增长最能定义生成式 AI 爆炸的早期阶段，从 2020 年 6 月 OpenAI 的 GPT-3（如果稍微延伸一下，甚至是 2019 年的 GPT-2）到 2023 年 12 月 Google DeepMind 的 Gemini。

当然，今年也将是增长的一年，但增长并不是最好的定义。我们正在进入一个新阶段，需要一个更合适的词。

2024年将是揭露之年

GPT-4 是太好了还是我们能得到的最好的？

2023 年以惊喜开始。OpenAI 的 GPT-4 比其他任何东西都要好得多。

它以相反的观点结束：期待已久的Google DeepMind 的 Gemini并不比 GPT-4好多少 （对于某些人来说，它甚至略逊一筹，只是由于基准恶作剧而显得更好）。

有趣的是，这两个惊喜的原因是相同的：GPT-4 是 2022 年技术。

OpenAI 完成模型训练一年半后（2022 年夏季），世界上没有一家人工智能公司（包括 OpenAI）能够构建和发布更好的系统。GPT-4 在 OpenAI 与其竞争对手之间造成了巨大的差距，以至于它实际上成为了一条护城河。

在 Meta 及其 Llama 家族的带领下，规模较小的 AI 初创公司和实验室利用开源的力量，追求 OpenAI 的成功，但没有一家能达到 GPT-4 的性能。Anthropic 的 Claude 2、微软的模型或亚马逊的模型也没有。（LLM竞技场排行榜是当今唯一可靠的基准，你可以查看领奖台：GPT-4，GPT-4，你猜对了，GPT-4）。

最后，每个人承诺迈出新一步的希望（至少对于像我这样的旁观者来说）也落空了。Gemini Ultra 没有达到目标。

我们可以说 Google DeepMind 根本不如 OpenAI。Gemini 并不比 1.5 年前的 AI 模型好多少，因为构建它的公司并不那么出色。但当 DeepMind 构建了 AlphaGo 和 AlphaFold，然后是 Chinchilla 和 Gopher，最后是 Gemini 本身时，这个论点就很难站得住脚了。

可以说，DeepMind 令人惊叹的人工智能发展历史比 OpenAI 更伟大。

另一种可能性是，就目前的技术水平而言，我们已经非常接近生成式人工智能的上限，这也是我理解人工智能人们回避思考的原因。如果没有突破（可能会发生也可能不会发生），我们将无法很快达到下一个水平。如果发生这种情况，预期将遭受意想不到的打击。

痛苦的教训只适用于不需要巧妙的算法突破的时候。当它们存在时，它就会破裂。如果我们进入这样一个时期，无论是规模、数据还是计算都无法让我们到达另一边。

2024 年是重要的一年还有另一个原因。不仅因为我们可能会达到算法的上限（我们不确定），还因为赌注处于历史最高水平。

即使天花板确实存在，它也可能不会持续太久，因为一些非常知名的人工智能公司承诺将竭尽全力打破它。

Meta 首席执行官马克·扎克伯格登场。

在 Zuck 在 Threads 上分享的一段广受好评的短视频中，他明确表示（据我所知，这是第一次）Meta 的目标是构建通用人工智能 (AGI) 并将其开源。OpenAI 和 DeepMind 多年来一直追求的目标相同（除了开源部分，这部分得到了广泛的赞誉，肯定让 Altman 和 Hassabis 在国内感到震惊）。

Zuck 透露，到 2024 年底，Meta 将拥有约 350,000 个 Nvidia H100（如果包括其他 GPU，总共相当于约 600,000 个 H100）。也就是说，正如一些人估计的那样，价值 200 亿美元的计算准备好训练下一代人工智能模型。

他还说了我们已经知道的事情：Meta 正在训练 Llama 3，正如 Yann LeCun 暗示的那样，该公司将像对待 Llama 2 和 LLaMA 那样开源它。（请注意，开源的定义比以前更加宽松；例如，我们对模型训练所用的数据一无所知。）

简而言之：Meta 正在全力以赴。

反对 OpenAI 和 Google，但也反对 AGI 和生成人工智能领域的领导地位。扎克的信息暗示着其他事情：他似乎有信心 Meta 可以证明能力上限不存在。

但如果它确实存在——如果能力存在一个平台期（一些专家认为这是不存在的，或者至少我们还没有接近这个平台期，就像01.AI首席执行官李开复在世界经济论坛的一场辩论中所说的那样） ）——他们很快就会成功。而且很难。

但如果它确实存在，如果他们无法用大约 60 万台 H100 来打破它，会发生什么？

我们的发现能走多远？

没有多少专家不同意 AGI （人工通用智能）的概念，这无疑是一个令人困惑的术语。

有些人更喜欢其他名字——LeCun 认为这是一个用词不当，并使用人类水平的人工智能来代替——但大多数人相信，无论我们如何称呼它，我们都会实现这一目标。扎克本人表示，他并不真正关心缩写词背后概念的确切定义，但我们需要通用智能才能让即将到来的人工智能工具真正成为下一代。

我也不会在这里讨论这个名字。我关心的是，即使人们不希望人工智能公司建造它，但至少在理论上是可能的。我们所知道的任何物理定律都没有限制与人类相似或更高级的智能形式的存在（但也没有物理定律表明这是不可避免的）。

我提出这个问题的原因是，我一直提到的假设上限不是一个硬性限制，而是一种软性限制，其形式是我们可以理解我们正在做的事情（这一半是认知缺陷，一半是技术不足） ）。

也许我们还没有真正弄清楚构建下一代人工智能工具需要什么。也许我们不能。我不知道，但我们的努力在 2024 年可能会失败。这并不是一个疯狂的预测。无论 Meta 收集了多少 GPU，如果这种可能性成为现实，它们可能还不够。

如果这两家顶级人工智能公司在竭尽全力之后仍未能达到我们的期望，未能突破 GPT-4 看似无意的能力上限，将会发生什么？

这就是为什么 2024 年是特殊的一年。

GPT-5 足够好吗？

无论如何，GPT-5 和 Llama 3 即将到来。他们会足够好吗？

Sam Altman最近在世界经济论坛接受采访时表示（这里是文章的翻译版本），“GPT-2 非常糟糕。GPT-3 非常糟糕。GPT-4 很糟糕。GPT-5 就可以了。 ” 我将此解释为 GPT-5 将明显优于 GPT-4，即我们会在使用它们时感受到差异，但可能不如他想要的那么好。

问题是：这次能力提升是否会反映出与之前类似的进步路径？GPT-5 之于 GPT-4 会像 GPT-4 之于 GPT-3 一样吗？这会让我们满意吗？其一，我已经认为 GPT-3 到 GPT-4 的跳跃不如 GPT-2 到 GPT-3 那样令人印象深刻。也许当你看到一个系统从绝对愚蠢到中等时，比从中等到有点不错时更容易感到惊讶。

如果 GPT-5“仅”更体面一些 ，那么它可能无法达到我们的期望或我们的看法。人们（好吧，那些痴迷的人）现在随时都在期待 AGI。他们也是人工智能最顽固的拥护者。如果人工智能公司失去了他们，他们就会失去大部分民众的支持。

2024年人工智能发展展望

• 强化学习的突破：2024年将见证强化学习领域的进一步突破，通过更高效的算法和更强大的计算能力，人工智能系统将能够更好地从环境中学习和适应。
• 自然语言处理的进步：自然语言处理技术将在2024年迈向新的里程碑。机器翻译、语音识别和情感分析等领域将实现更高的准确性和流畅度，使得人与机器之间的交流更加自然和无缝。
• 人工智能在医疗领域的应用：人工智能将在医疗领域发挥更大的作用。通过分析大量的医疗数据和图像，人工智能系统将能够提供更准确的诊断和治疗建议，帮助医生做出更好的决策。
• 自动驾驶技术的成熟：自动驾驶技术将在2024年逐渐成熟。更多的汽车制造商将推出具备自动驾驶功能的车型，并且自动驾驶技术将在城市交通和物流领域得到广泛应用。
• 人工智能与物联网的融合：人工智能和物联网的融合将推动智能家居、智能城市和智能工厂等领域的发展。通过人工智能系统的智能分析和决策能力，物联网设备将能够更加智能地协同工作。
• 人工智能伦理和隐私的挑战：随着人工智能的发展，伦理和隐私问题将成为关注的焦点。2024年将见证更多的讨论和政策制定，以确保人工智能的发展与社会的利益和价值相一致。
• 人工智能在教育领域的应用：人工智能将在教育领域发挥更大的作用。个性化学习、智能辅助教学和智能评估等技术将帮助学生更好地学习和发展。
• 人工智能在金融领域的应用：人工智能将在金融领域实现更广泛的应用。智能投资、风险管理和反欺诈等技术将提升金融机构的效率和安全性。
• 人工智能与创意产业的结合：人工智能将与创意产业相结合，推动艺术、设计和娱乐等领域的创新。人工智能系统将能够生成创意作品、辅助设计和提供个性化的娱乐体验。
• 人工智能的可解释性研究：人工智能的可解释性将成为研究的重点。2024年将见证更多的工作和算法，以提高人工智能系统的透明度和可解释性，使其决策过程更加可信和可理解。

2024年将是人工智能领域进一步发展和应用的关键一年。随着技术的进步和社会的需求，人工智能将在各个领域发挥更大的作用，为我们的生活和工作带来更多的便利和创新。然而，我们也需要关注伦理和隐私等问题，确保人工智能的发展与社会的利益相一致。

2024 年：揭露之年

因此，扎克伯格和 Meta 正在全力开发 AGI，其 GPU 计算的价值比 OpenAI 银行里的钱还要多。 Altman 和 OpenAI 将于 2024 年某个时候发布 GPT-5，以努力保持领先地位并保持我们的热情不变。

他们将尽最大努力提供证据，证明我们尚未完成指数化（正如 Cohere 首席执行官 Aidan Gomez 所说，扩展尚未穷尽）。人工智能的发展速度与以往一样快，甚至更快。这些突破将会出现，并扫清前方海市蜃楼般的障碍。能力上限是不存在的。AGI 即将到来。

无论成功还是失败，人工智能的近期未来都将昭然若揭。

他们全力以赴，做出最后的赌注。

2024年，这个赌注的结果将会揭晓。