探见世界

模型

llama.cpp发布b11559预发布版本 针对Gemma-4优化OpenCL并重构RPC日志

开源大语言模型推理框架llama.cpp于2026年10月11日发布b11559版本(Pre-release)。该版本合并了针对Gemma-4模型的多项OpenCL后端优化,统一了RPC日志架构并增强调试控制,同时为多个主流平台提供了预编译二进制文件。

管理员上传的文章候选图片
编辑视觉管理员上传的文章候选图片。图片来源:管理员上传

版本发布与平台构建

2026年10月11日,用于大语言模型本地高效推理的开源C/C++项目ggml-org/llama.cpp正式发布了b11559版本。在官方发布页面上,该版本被标记为Pre-release状态。

b11559版本的核心提交哈希值为f2cc7282ce0042641df55e0e563b75e824e2b647,构建流程由GitHub Actions自动化完成,并附有编号为54845312的官方认证。官方发布页面提供了适用于macOS、Linux、Windows以及Android平台的预编译二进制文件。

Gemma-4支持与OpenCL后端优化

官方发布日志显示,b11559版本合并了PR #30266,重点对Google DeepMind推出的Gemma-4模型展开了多项OpenCL后端优化。Gemma-4系列模型支持图像、文本与音频输入,并包含E2B、E4B等小型变体。

具体优化内容包括改进Flash Attention实现,允许为Gemma-4使用dk512,并启用了Gemma-4 E4B与E2B变体的GPU解码支持。根据官方说明,此次优化还提升了DK64 GQA8与DK128 GQA4的解码性能。

高通开发者Hongqiang Wang作为Co-author共同参与了此项OpenCL优化提交。他是高通GPU研究团队的首席工程师或经理,负责Adreno GPU的GenAI与GPGPU解决方案;此前高通团队已将Adreno OpenCL后端合并入llama.cpp主线,以提升骁龙平台上的推理性能。

RPC调试与日志架构统一

在RPC后端方面,b11559版本统一了ggml-rpc.cpp与transport.cpp的日志架构,将其替换为共享的log.h,使其作为RPC后端所有日志记录的单一控制点。

此外,官方发布日志指出,环境变量GGML_RPC_DEBUG现已支持按数字解析。具体规则为:1至3级分别输出不同详细程度的信息,设为0或未设置时禁用调试日志,若输入非数字值则回退至级别1。

信息来源(1)

这篇文章对你有帮助吗?