
Ollama是一个开源的、强大的本地推理大模型平台,旨在简化大型语言模型的本地部署、管理和推理工作流。Ollama是一个功能强大、易于使用且支持多种大型语言模型的本地推理平台,适用于多种应用场景。
Ollama支持从官方模型库或自定义模型库拉取预训练模型,并在本地保存和加载,同时兼容ONNX、PyTorch、TensorFlow等多种流行的模型格式。通过GPU/CPU加速,Ollama提供高效的模型推理,适合本地化应用或需要控制数据隐私的场景。它支持多种接口访问推理服务,包括命令行(CLI)、HTTP接口,并可通过OpenAI客户端实现更广泛的集成。此外,用户还可以通过灵活的环境变量自定义推理设备(GPU/CPU)、缓存路径、并发数、日志级别等。
1.主流模型一键拉取
内置模型仓库,支持 Llama 3、Deepseek、Qwen、Mistral、Gemma 等主流大模型,一条命令即可下载并运行。
2.完全本地化运行
所有模型推理均在本机完成,数据不经过任何第三方服务器,彻底保护企业与个人的对话隐私,无网络连接也可正常使用。
3.REST API 轻松集成
提供兼容 OpenAI 格式的 REST API,可与 Open-WebUI、Chatbox、LangChain 等主流 AI 应用无缝集成,快速搭建私有 AI 助手。
4.GPU 加速高效推理
自动识别并调用 NVIDIA CUDA 与 AMD ROCm 显卡加速,大幅提升推理速度;无独立显卡时自动切换 CPU 模式,兼容性极强。
496MB/2026-09-09
直接下载
171MB/2026-08-24
直接下载
4.12MB/2026-07-10
直接下载
557MB/2025-09-28
直接下载
74.8MB/2026-09-01
直接下载
15.23MB/2022-06-30
直接下载
夸克浏览器下载
豆包下载
腾讯视频下载
虎牙直播下载
快剪辑下载
QQ游戏大厅下载
CAD迷你画图
360软件管家下载
元气桌面下载
芒果TV下载
搜狗浏览器下载
爱奇艺下载
360浏览器下载
office下载
2345安全卫士下载
360安全卫士下载
pdf转换器
办公软件
视频软件
数据恢复软件
浏览器
装机必备软件
PDF编辑器
文字转语音软件
视频压缩软件
网络加速器
pdf转换器
图片格式转换器
office办公软件
棋牌游戏
腾讯游戏
录音软件
红果免费短剧应用电脑版
Zoom
向日葵远程控制软件32位
谷歌浏览器
Service Tool
豆包-工作型AI助手
迅雷12
搜狗五笔输入法
巨应壁纸2
赣政通
金山打字通
移动爱家应用电脑版
火苗
360软件管家
腾讯会议32位
暴喵修复匠
如流普通MAC版
帮助企业实现业务流程的自动化和规范化
GoLand Mac版
Go语言代码自动完成
亿联会议Mac版
高效的全球知名视频会议软件
腾讯视频Mac版
海量热播视频任你看
Thunderbird Mac版
邮件收发工具
TeamViewer Mac版
远程支持工具
Ollama MAC版 v0.33.3官方正式版