
Ollama是一个开源的、强大的本地推理大模型平台,旨在简化大型语言模型的本地部署、管理和推理工作流。Ollama是一个功能强大、易于使用且支持多种大型语言模型的本地推理平台,适用于多种应用场景。
Ollama支持从官方模型库或自定义模型库拉取预训练模型,并在本地保存和加载,同时兼容ONNX、PyTorch、TensorFlow等多种流行的模型格式。通过GPU/CPU加速,Ollama提供高效的模型推理,适合本地化应用或需要控制数据隐私的场景。它支持多种接口访问推理服务,包括命令行(CLI)、HTTP接口,并可通过OpenAI客户端实现更广泛的集成。此外,用户还可以通过灵活的环境变量自定义推理设备(GPU/CPU)、缓存路径、并发数、日志级别等。
1.主流模型一键拉取
内置模型仓库,支持 Llama 3、Deepseek、Qwen、Mistral、Gemma 等主流大模型,一条命令即可下载并运行。
2.完全本地化运行
所有模型推理均在本机完成,数据不经过任何第三方服务器,彻底保护企业与个人的对话隐私,无网络连接也可正常使用。
3.REST API 轻松集成
提供兼容 OpenAI 格式的 REST API,可与 Open-WebUI、Chatbox、LangChain 等主流 AI 应用无缝集成,快速搭建私有 AI 助手。
4.GPU 加速高效推理
自动识别并调用 NVIDIA CUDA 与 AMD ROCm 显卡加速,大幅提升推理速度;无独立显卡时自动切换 CPU 模式,兼容性极强。
145MB/2026-06-17
直接下载
4.98MB/2026-04-09
直接下载
392KB/2023-01-09
直接下载
7.2MB/2026-07-13
直接下载
14.7MB/2024-10-21
直接下载
20.1MB/2026-05-12
直接下载
夸克浏览器下载
豆包下载
腾讯视频下载
虎牙直播下载
快剪辑下载
QQ游戏大厅下载
CAD迷你画图
360软件管家下载
元气桌面下载
芒果TV下载
搜狗浏览器下载
爱奇艺下载
360浏览器下载
office下载
2345安全卫士下载
360安全卫士下载
pdf转换器
办公软件
视频软件
数据恢复软件
浏览器
装机必备软件
PDF编辑器
文字转语音软件
视频压缩软件
网络加速器
pdf转换器
图片格式转换器
office办公软件
棋牌游戏
腾讯游戏
录音软件
Zoom
金山打字通
搜狗五笔输入法
红果免费短剧应用电脑版
Service Tool
Office
向日葵远程控制软件32位
谷歌上网助手
360软件管家
龙信浏览器
富士通iX500扫描仪驱动
SpankingTube Video Downloader
惠普Laser MFP136w一体机驱动
觅讯
兄弟DCP-T725DW一体机驱动
惠普LaserJet Pro P1106打印机驱动
Ollama v0.31.2官方正式版