![]()
![]()
![]()
ollama v0.13.5 于 2025 年 12 月 19 日正式發布。本次版本更新規模較大,共合并 10 次提交,涉及約 150 個文件的調整,新增代碼 10997 行,刪除代碼 6838 行。更新內容主要集中在模型支持、引擎能力、工具定義與解析、以及底層推理和運行時優化等方面。
一、新模型支持:FunctionGemma 接入
在 v0.13.5 中,ollama 正式引入了 Google 的 FunctionGemma 模型,并完成了對應的解析器和渲染器支持。這一更新使 FunctionGemma 能夠在 ollama 生態中以原生方式運行,并正確處理函數聲明、函數調用和函數響應等結構化內容。
同時,SentencePiece 分詞解析邏輯也進行了擴展,新增了對多種函數相關控制符號的識別,包括函數聲明、函數調用、函數返回以及轉義標記等。這保證了 FunctionGemma 在使用 spm 分詞器時能夠正確區分普通 token 與控制 token。
二、BERT 架構模型全面切換至 Ollama 引擎
本次更新的一個重要變化是:BERT 架構模型開始統一使用 Ollama 自研引擎運行,而不再依賴舊的執行路徑。
在架構判定與運行能力上完成了多項調整:
? 將 bert 明確列為需要 Ollama Engine 的架構類型
? 在特性判斷中,bert 開始支持 flash attention
? nomic-bert 等相關模型也統一納入新的引擎判定邏輯
這一變化為 BERT 及相關嵌入模型帶來了更一致的執行方式,也為后續功能擴展提供了更穩定的基礎。
三、DeepSeek-V3.1 內置渲染與工具解析能力
ollama v0.13.5 針對 DeepSeek-V3.1 增加了內置 renderer 和 tool parsing 能力,使模型在輸出結構化結果時可直接由引擎完成解析和渲染。
同時,補充并修復了工具定義中嵌套屬性無法正確處理的問題,使 DeepSeek 系列模型在使用復雜工具參數結構時更加可靠。
此外,還新增并完善了 DeepSeekV3 家族的專用解析器邏輯,進一步提升了該系列模型在 ollama 中的可用性與一致性。
四、工具定義系統增強:支持嵌套屬性
在 API 類型層面,本次更新擴展了 ToolProperty 結構,新增了對 properties 字段的支持,使工具參數能夠表達任意層級的嵌套對象結構。
這一能力不僅支持簡單對象嵌套,還支持深層多級嵌套,并通過新增的單元測試覆蓋了以下場景:
? 對象屬性的嵌套定義
? 多層對象中繼續包含對象屬性
? JSON 的反序列化與序列化回環校驗
這使得 ollama 在函數調用和工具調用場景下,可以完整表達復雜參數定義,提升了與現代大模型工具調用規范的兼容性。
五、GGML 與底層推理邏輯更新
v0.13.5 更新了 GGML 版本引用,并同步調整了相關構建配置文件。Makefile 中的 GGML 上游提交指針發生變更,保證引擎使用最新的底層實現。
在 KV Cache 和因果掩碼構建邏輯中,也進行了精簡和修復:
? 移除了多余的 MaskBatchPadding 和 MaskDType 默認初始化邏輯
? 簡化了掩碼構建過程,僅按當前 batch 大小生成 mask
? 修復了 padding mask 計算中的冗余代碼
這些調整有助于減少不必要的內存占用,并提升推理階段的穩定性。
六、llama.cpp 集成與初始化流程整理
在 llama.cpp 對接代碼中,本次版本對模型初始化、上下文創建和采樣器初始化流程進行了較大幅度的整理:
? 引入了基于 impl 的封裝結構來管理模型與上下文生命周期
? 清理了重復的返回路徑和無效代碼
? 修正了模型加載失敗與上下文創建失敗時的處理邏輯
? 優化了采樣器初始化與 logit bias 注入流程
同時,在模型元信息解析中,采樣參數讀取邏輯被去重處理,避免重復判斷配置標志,提高了代碼可讀性和一致性。
七、其他雜項與維護性改進
除核心功能外,v0.13.5 還包含一系列維護性更新,例如:
? 清理不再需要的冗余代碼
? 調整類型定義,引入 ConfigV2 和 RootFS 相關類型
? 回滾 granite-embedding 相關變更
? 更新同步規則,補充 llama.cpp 中 mtmd 工具和模型源碼的同步路徑
總體來看,ollama v0.13.5 是一次偏向基礎能力增強與架構統一的版本更新。它在模型支持范圍、工具系統表達能力以及底層執行穩定性方面都邁出了重要一步。對于使用 BERT、DeepSeek、FunctionGemma 等模型的用戶而言,這一版本提供了更完善、更一致的運行體驗,也為后續功能擴展奠定了堅實基礎。
我們相信人工智能為普通人提供了一種“增強工具”,并致力于分享全方位的AI知識。在這里,您可以找到最新的AI科普文章、工具評測、提升效率的秘籍以及行業洞察。 歡迎關注“福大大架構師每日一題”,發消息可獲得面試資料,讓AI助力您的未來發展。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.