llama.cpp b11934:加速测试中的张量数据生成与模型保存
本版集中优化测试工具链:save_models 只创建模型而不再构建多余的 llama_context,用 splitmix64 + Box-Muller 取代缓慢的 std::normal_distribution 抽样,并改为共享抽样池、增加保存体积日志;发布说明另附各平台构建产物清单与公证信息。
tests:加速张量数据生成与模型保存(#31145)
tests:加速张量数据生成与模型保存
重构 save_models,只创建模型本身,不再创建保存时用不到的 llama_context。
用 splitmix64 + Box-Muller 正态生成器取代缓慢的 std::normal_distribution 抽样。
Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac Studio, M2 Ultra, 192GB)
tests:为张量数据改用共享正态抽样池
用 std::mt19937 与 std::normal_distribution 一次性生成一个正态抽样池,每个张量循环复制其中一段切片,而不再各自跑一遍 box-muller。按名称选取切片,保证抽样结果确定。
Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac Studio, M2 Ultra, 192GB)
tests:记录已保存模型的大小
每次保存后以字节和 MB 报告生成的文件大小。
Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac Studio, M2 Ultra, 192GB)
tests:简化模型保存日志
把模型名、目标位置和大小合并成每个模型一行的日志。
Assisted-by: dsh:llama.cpp/ggml-org/DeepSeek-V4-Flash-Vision-Exp-GGUF (Mac Studio, M2 Ultra, 192GB)
网站:https://llama.app
Attestations(构建公证):https://github.com/ggml-org/llama.cpp/attestations/60447535
发布说明另附 macOS/iOS、Linux、Android、Windows、openEuler 各平台构建产物清单与公证信息。