llama.cpp b11941:新增 LiquidAI/LFM3-Audio-2B 与 LFM3-Omni-2B 模型支持
model:新增 LiquidAI/LFM3-Audio-2B 与 LiquidAI/LFM3-Omni-2B(#31257) Co-authored-by: Xuan Son Nguyen(son@huggingface.co);Assisted-by: Claude Opus 5.5 convert:按发布时的原始形态读取 LFM3-Audio 的 config.json——识别 lfm3_audio 的 transformers 会把 config 重写成另一种布局(不再有 lfm/encoder 键)。Assisted-by: Claude Opus 5.5 mtmd:为 LFM3-Audio 的 depthformer 关闭 flash attention。Assisted-by: Claude Opus 5.5 tts:为 LFM3-Audio 与 LFM3-Omni 增加音色选项——模型卡提供女声和男声两种音色;llama-tts 用 --tts-voice,server 的 /tts 接口用 "voice"。Assisted-by: Claude Opus 5.5 清理模板处理:convert 按 model_type 检测 LFM3-Audio 与 LFM3-Omni(Assisted-by: Claude Opus 5.5);banned tokens 移入 logits bias 并归入 mtmd_helper,mtmd-cli 保持不变,不再残留 template_asr_system。 llama:保持 LFM3-Audio 的编码器卷积与 codec 不做量化。Assisted-by: Claude Opus 5.5 common、mtmd:精简注释。Assisted-by: Claude Opus 5.5;Co-authored-by: Xuan Son Nguyen(son@huggingface.co) Website: https://llama.app Attestations: https://github.com/ggml-org/llama.cpp/attestations/60633440 macOS/iOS:macOS Apple Silicon(arm64);macOS Apple Silicon(arm64,启用 KleidiAI)——已禁用;macOS Intel(x64);iOS XCFramework Linux:Ubuntu x64(CPU);Ubuntu arm64(CPU);Ubuntu s390x(CPU);Ubuntu x64(Vulkan);Ubuntu arm64(Vulkan);Ubuntu x64(CUDA 12)——CUDA 12.8 库;Ubuntu x64(CUDA 13)——CUDA 13.4 库;Ubuntu arm64(CUDA 13)——CUDA 13.4 库;Ubuntu x64(ROCm 10.0);Ubuntu x64(OpenVINO);Ubuntu x64(SYCL FP32);Ubuntu x64(SYCL FP16);Linux arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU)——设置指南 Android:Android arm64(CPU);Android arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU)——设置指南 Windows:Windows x64(CPU);Windows arm64(CPU);Windows arm64(OpenCL Adreno);Windows x64(CUDA 12)——CUDA 12.4 DLL;Windows x64(CUDA 13)——CUDA 13.4 DLL;Windows arm64(CUDA 13)——CUDA 13.4 DLL;Windows x64(Vulkan);Windows arm64(Vulkan);Windows x64(OpenVINO);Windows x64(SYCL);Windows x64(ROCm 10.0) openEuler:已禁用——openEuler x86(310p);openEuler x86(910b,ACL Graph);openEuler aarch64(310p);openEuler aarch64(910b,ACL Graph) UI:UI
model:新增 LiquidAI/LFM3-Audio-2B 与 LiquidAI/LFM3-Omni-2B(#31257)
model:新增 LiquidAI/LFM3-Audio-2B 与 LiquidAI/LFM3-Omni-2B
Co-authored-by: Xuan Son Nguyen(son@huggingface.co);Assisted-by: Claude Opus 5.5
convert:按发布时的原始形态读取 LFM3-Audio 的 config.json
识别 lfm3_audio 的 transformers 会把 config 重写成另一种布局(不再有 lfm/encoder 键)。
Assisted-by: Claude Opus 5.5
mtmd:为 LFM3-Audio 的 depthformer 关闭 flash attention
Assisted-by: Claude Opus 5.5
tts:为 LFM3-Audio 与 LFM3-Omni 增加音色(voice)选项
模型卡提供女声和男声两种音色;llama-tts 使用 --tts-voice,server 的 /tts 接口使用 "voice"。
Assisted-by: Claude Opus 5.5
清理模板处理:
convert:按 model_type 检测 LFM3-Audio 与 LFM3-Omni
Assisted-by: Claude Opus 5.5
banned tokens 移入 logits bias,再归入 mtmd_helper;mtmd-cli 保持不变;不再残留 template_asr_system。
llama:保持 LFM3-Audio 的编码器卷积与 codec 不做量化
Assisted-by: Claude Opus 5.5
common、mtmd:精简注释
Assisted-by: Claude Opus 5.5
Co-authored-by: Xuan Son Nguyen(son@huggingface.co)
Website: https://llama.app
Attestations: https://github.com/ggml-org/llama.cpp/attestations/60633440
macOS/iOS:
- macOS Apple Silicon(arm64)
- macOS Apple Silicon(arm64,启用 KleidiAI)——已禁用
- macOS Intel(x64)
- iOS XCFramework
Linux:
- Ubuntu x64(CPU)
- Ubuntu arm64(CPU)
- Ubuntu s390x(CPU)
- Ubuntu x64(Vulkan)
- Ubuntu arm64(Vulkan)
- Ubuntu x64(CUDA 12)——CUDA 12.8 库
- Ubuntu x64(CUDA 13)——CUDA 13.4 库
- Ubuntu arm64(CUDA 13)——CUDA 13.4 库
- Ubuntu x64(ROCm 10.0)
- Ubuntu x64(OpenVINO)
- Ubuntu x64(SYCL FP32)
- Ubuntu x64(SYCL FP16)
- Linux arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU)——设置指南
Android:
- Android arm64(CPU)
- Android arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU)——设置指南
Windows:
- Windows x64(CPU)
- Windows arm64(CPU)
- Windows arm64(OpenCL Adreno)
- Windows x64(CUDA 12)——CUDA 12.4 DLL
- Windows x64(CUDA 13)——CUDA 13.4 DLL
- Windows arm64(CUDA 13)——CUDA 13.4 DLL
- Windows x64(Vulkan)
- Windows arm64(Vulkan)
- Windows x64(OpenVINO)
- Windows x64(SYCL)
- Windows x64(ROCm 10.0)
openEuler:已禁用
- openEuler x86(310p)
- openEuler x86(910b,ACL Graph)
- openEuler aarch64(310p)
- openEuler aarch64(910b,ACL Graph)
UI:UI