Appearance
Meta Llama 4
Llama 4 是 Meta AI 于 2025 年 4 月 5 日正式发布的开源大语言模型家族,包括 Scout (轻量高效)、Maverick (性能与效率平衡) 和 Behemoth (旗舰性能) 三个版本。这是 Llama 系列首次采用 MoE 架构,也是开源模型生态中的重要里程碑。
发展历程
| 时间 | 事件 |
|---|---|
| 2025.04.05 | Llama 4 正式发布 |
| 2025.04 | 模型权重在 llama.com 和 Hugging Face 上线 |
模型版本
| 模型 | 总参数 | 激活参数 | 定位 |
|---|---|---|---|
| Llama 4 Scout | 109B | 17B | 轻量级,支持 10M+ token 超长上下文 |
| Llama 4 Maverick | 400B | 17B | 主力模型,性能与效率平衡 |
| Llama 4 Behemoth | 2T | 288B | 旗舰模型,最强性能 |
核心能力
- 原生多模态: 从底层支持文本、图像和视频的统一处理
- 超长上下文: Scout 版本支持超过 1000 万 token 的上下文窗口
- 多语言: 支持 12 种语言
- 推理与编程: 在数学、代码生成等任务上显著提升
技术亮点
MoE 架构
Llama 4 是 Llama 系列首次采用 Mixture of Experts 架构。通过稀疏激活,模型可以在保持较低推理成本的同时拥有巨大的总参数量。例如,Maverick 的总参数为 400B,但每个 token 只激活 17B 参数。
原生多模态
与之前版本主要是文本模型不同,Llama 4 从架构层面就支持多模态输入,能够处理图像理解、视频分析等任务。
Benchmarks 表现
| 基准测试 | Maverick | 说明 |
|---|---|---|
| 多项基准 | 接近 GPT-4o | 综合性能强劲 |
| 长上下文 | 行业领先 | Scout 的 10M+ 上下文窗口 |
| 多模态 | 优秀 | 图文理解能力 |
开源与可用性
- 开源协议: Llama 社区许可证,允许商业使用
- 下载: llama.com 和 Hugging Face 提供模型权重
- 云平台: AWS、Azure、Google Cloud 均支持部署
- 大规模商用: 月活跃用户超过 7 亿需要申请特殊许可
与其他模型的关系
- vs Llama 3: 显著超越前代,特别是多模态和推理能力
- vs Qwen3: 两者都是 2025 年发布的开源 MoE 模型,形成直接竞争
- vs GPT-4o: 在多项基准上接近或超越
参考来源
相关页面
- Meta — Meta AI 研究概览
- Llama 3 — 前代 Llama 3
- Mixture of Experts — MoE 架构技术
- Alibaba Qwen3 — 同期竞品开源模型