OLMo 系列（AI2）

Name: OLMo 系列（AI2）
Brand: Allen Institute for AI（AI2）
Rating: 4.3 (1 reviews)

参数量OLMo 2 7B / 13B

模型类型开放语言模型（完整训练配方开源）

许可证Apache 2.0

开发者Allen Institute for AI（AI2）

★★★★★ 4.3

最彻底的开放：权重+数据+代码全开源

英文科研完全开放数据开源

模型介绍

OLMo 是 Allen Institute for AI（AI2）推出的「真正开放」大模型系列，区别于只开放权重的常规开源：它同时公开全部训练数据、训练代码与评估基准，可完全复现。2024 年的 OLMo 1 到 OLMo 2（7B/13B）在开放模型中站稳脚跟，2025 年发布的 OLMo 2 32B 成为当时最大的全开放训练模型之一，官方称其能力超越 GPT-3.5-Turbo。对科研、复现与数据治理透明性有硬性要求的团队而言，OLMo 是首选研究对象，Apache-2.0 + 数据开放许可让其可用性最大化。

模型基本信息

开发机构Allen Institute for AI（AI2）

模型版本OLMo 2（2024）/ OLMo-32B（2025）

参数规模1B/7B/13B/32B 稠密；OLMoE 7B-A1B MoE

模型类型文本对话 / 科研大模型（完全开放）

许可证Apache-2.0（权重）；训练数据 ODC-BY

上下文长度4K（原生）；可 RoPE 外推至 8K+

发布日期2024-11-26（OLMo-2-7B/13B）；2025-03-13（OLMo2-32B）

模型架构Decoder-only Transformer + RMSNorm + QK-norm + RoPE（OLMo 2 采用 clamp 技巧稳定训练）

模型能力

中文能力弱（英文为主）

英文能力很强

代码能力中

推理能力中

长文本能力弱（4K）

视觉能力无

工具调用弱

模型版本

OLMo-2-32B32BOLMo-2-13B13BOLMo-2-7B7BOLMo-1.5-7B7BOLMoE-1B-7B7B-A1B MoE（0.5B 激活）

模型获取

Hugging FaceModelScopeOllama官方页面

部署方式

OllamaLM Studiollama.cppvLLMtransformers

显存需求

OLMo-2-7B Q4约5GB

OLMo-2-13B Q4约8GB

OLMo-2-32B Q4约20GB

硬件推荐

RTX 3060OLMo-2-7B（Q4）

RTX 30907B~13B Q4

RTX 409013B FP16 / 32B Q4

RTX 509032B Q4 满载

MacM 系列 7B~13B 流畅

为什么选择这个模型

全链路开放可复现（数据/代码/权重）
Apache-2.0 + ODC-BY 许可最宽松
科研复现首选
1B~32B 消费级规模友好

模型优点

训练数据与训练代码全公开
Apache-2.0 可自由商用
32B 全开放模型标杆（超越 GPT-3.5-Turbo）
AI2 科研质量背书
尺寸对消费级友好

模型缺点

上下文仅 4K
中文能力很弱
通用能力低于同尺寸商用模型
更新与生态不如主流系列

适合场景

科研复现与消融实验
数据透明度合规
教学与课程
本地规范测试（Apache）
模型可解释性研究

不适合场景

中文产品
长文档处理
生产级高能力需求
多模态任务

部署教程

Ollama

ollama run olmo2:13b

LM Studio

LM Studio 搜索 allenai olmo2 下载 GGUF → 加载

llama.cpp

./llama-cli -m OLMo-2-13B-Q4_K_M.gguf -p 提示词 -ngl 999

vLLM

pip install vllm && vllm serve allenai/OLMo-2-13B

智算工坊实验室

实测速度OLMo-2-13B Q4 实测 ≈30-35 token/s（RTX 3090）

显存占用13B Q4 约8GB；32B Q4 约20GB

功耗RTX 3090 满载约350W

不同 GPU 对比7B 在 12GB 卡即可；32B 建议 24GB 显存（Q4）

常见问题 FAQ

OLMo 与其他开源有什么本质区别？

OLMo 将训练数据、训练代码与权重一同发布（数据 ODC-BY），可端到端复现训练；绝大多数开源模型只公开权重。

数据来源

https://allenai.org/olmo
https://huggingface.co/allenai/OLMo-2-7B
https://arxiv.org/abs/2409.02060
https://huggingface.co/allenai/OLMo2-32B-EP4

OLMo 系列（AI2） - 模型中心