最新消息!Ollama 0. 2 版本已經發布!據悉,這次更新默認啓用了併發功能,讓Ollama能夠同時處理多個請求,爲用戶帶來更快速的體驗。這項更新不僅解鎖了並行請求功能,還支持同時加載不同的模型,讓Ollama可以更高效地處理各種任務。、

image.png

根據Ollama官方發佈的消息,這次更新使得Ollama可以處理多個聊天會話、爲團隊提供代碼完成服務、同時處理文檔的不同部分,甚至可以同時運行多個代理。此外,Ollama還支持加載不同的模型,比如檢索增強生成(RAG)和代理,讓用戶可以同時運行大型和小型模型,提高了系統的靈活性和性能。

據悉,這次更新還增加了自動加載和卸載模型的功能,根據請求和GPU內存的使用情況進行動態調整,確保系統運行的穩定性和效率。這一系列的更新,讓Ollama變得更加強大和智能,爲用戶帶來更優質的體驗。想要體驗最新版的Ollama 0. 2 嗎?趕快點擊鏈接進行下載吧!

官方下載地址:https://ollama.com/download