Llama

Llama提供了一系列开源AI模型，用户可以对其进行微调、蒸馏并部署在任何地方。Llama模型家族包括多种文本模型（1B、3B）和文本图像模型（11B、90B），以及性能与405B模型相当的70B模型，使开发者能够在文本应用上以更低的成本实现更高质量。

Llama模型特点

Llama 3.1

8B模型：轻量级、超快速模型，可在任何地方运行。

405B模型：旗舰基础模型，支持最广泛的用例。

Llama 3.2

1B和3B模型：轻量级、高效模型，可在移动设备和边缘设备上运行。

11B和90B模型：多模态模型，灵活且能在高分辨率图像上进行推理。

Llama 3.3

70B模型：以更低的成本提供领先性能和质量的最新发布。

Llama Stack：简化开发者体验

Llama Stack为开发者提供了一个流畅的开发体验，支持快速构建、任意部署，并在第一天就充分利用最新的Llama模型。

开发者支持

最佳实践：包括对代理工具调用、安全防护、推理等的优化支持，显著降低开发成本。

多种编程语言：支持Python、Node.js、Kotlin和Swift等多种编程语言，快速构建应用。

任意部署：通过统一的API，选择任何分发版本，在本地、云或边缘设备上部署。

合作伙伴和分销商支持

标准API：跨版本减少模型级别的更改，加速新模型的市场推广并降低工程投资。

与生态系统的互操作性：通过构建在通用API上，快速整合新组件，利用快速发展的Llama生态系统。

支持代理组件：Llama Stack原生支持工具调用、安全防护、检索增强生成、推理循环等代理功能。

模型评估

Llama在超过150个涵盖多种语言的基准数据集上进行了性能评估。对于视觉LLM，评估了图像理解和视觉推理的基准。此外，还进行了广泛的人类评估，比较Llama与竞争模型在现实世界场景中的表现。

开源领先

Llama模型仅在Hugging Face上就被下载超过6亿次，成为领先的开源模型家族。合作伙伴生态系统通过Llama Stack提供服务，帮助任何人快速构建Llama应用。