大家好，这里是SmallAI

SmallAI公益站：free.smallai.asia

免费使用GPT4omini

本篇要点:

- 😊 Meta发布LLAMA 3.1 405B开源AI模型

- 🧠 支持多语言和工具调用，性能媲美 GPT-4

Llama3.1模型介绍

Meta AI的Llama3.1模型的发布标志着开源AI走向成熟，预示着一个全新的时代即将到来。

Llama3.1以405B参数在纸面数据上领先GPT-4o，但不如Claude3.5sonnet

Llama3.1表现超越闭源模型，在性能上甚至可以与与闭源模型并驾齐驱，开启了开源AI可能成为行业标准的新时代。

Meta AI的Llama3.1模型数据

Meta AI的Llama3.1模型支持多语言和工具调用，性能媲美 GPT-4

- 模型能够识别图像和视频，并支持通过语音进行交互，但这些功能仍在开发中，尚未准备好发布。

- 训练数据高达 15.6T tokens，使用了超过 16,000 个 H100 GPU

- 405B 模型能在单个服务器节点上运行

- 405B 模型训练好后，继续用 405B 模型提升了 8B 和 70B 的质量，所以可以预见 Llama 3.1 中 8B 和 70B 会有更好表现

- 大多数的监督微调（SFT）示例都是使用合成数据生成的