应用介绍
< #大语言模型 #本地部署 #离线AI #模型管理 #开发工具 #开源软件
Ollama 让大模型直接跑在自己的笔记本上,不用付 API 费用。按 token 计费的接口用重了一个月几百美元很常见,而模型跑在本地之后,调用多少次的边际成本都是零,数据也不必发给任何人。
它把繁琐的部分包了起来:模型下载、量化格式、显存分配、推理服务这些事情不用自己拼,装好之后一条命令就能拉起一个模型开始对话。它还提供 OpenAI 风格的本地接口,可以接进 Claude Code、Codex、Copilot 这类编程工具,或者接进自己写的程序。
一条命令跑模型:装好后执行 `ollama run <模型名>`,自动下载权重并进入对话,不需要手动配置推理框架和依赖。
模型库丰富:官方模型库收录了 Llama、DeepSeek、Qwen、Gemma、gpt-oss 等一大批开放模型,同一个模型还提供不同参数量和量化版本,按机器配置挑一个即可。
全平台安装:macOS、Windows 和 Linux 都有一键安装方式,也提供官方 Docker 镜像 `ollama/ollama`。
接入编程工具:可以把本地模型接给 Claude Code、Codex、OpenCode、Copilot 等编程助手使用,把 API 账单换成本机算力。
官方 SDK:提供 ollama-python 和 ollama-js 两个库,几行代码就能在自己的程序里调用本地模型。
数据不出本机:推理在本地完成,对话内容和代码都不会上传到第三方服务,处理敏感内容时更放心。
自定义模型:可以基于现有模型定制系统提示、参数和模板,打包成自己的模型条目重复使用。
开源项目:项目源码托管在 GitHub,采用 MIT 许可,方便开发者查看实现方式、参与开发,或者根据自己的需求进行二次定制。
Ollama 让大模型直接跑在自己的笔记本上,不用付 API 费用。按 token 计费的接口用重了一个月几百美元很常见,而模型跑在本地之后,调用多少次的边际成本都是零,数据也不必发给任何人。
它把繁琐的部分包了起来:模型下载、量化格式、显存分配、推理服务这些事情不用自己拼,装好之后一条命令就能拉起一个模型开始对话。它还提供 OpenAI 风格的本地接口,可以接进 Claude Code、Codex、Copilot 这类编程工具,或者接进自己写的程序。
软件功能
一条命令跑模型:装好后执行 `ollama run <模型名>`,自动下载权重并进入对话,不需要手动配置推理框架和依赖。
模型库丰富:官方模型库收录了 Llama、DeepSeek、Qwen、Gemma、gpt-oss 等一大批开放模型,同一个模型还提供不同参数量和量化版本,按机器配置挑一个即可。
全平台安装:macOS、Windows 和 Linux 都有一键安装方式,也提供官方 Docker 镜像 `ollama/ollama`。
接入编程工具:可以把本地模型接给 Claude Code、Codex、OpenCode、Copilot 等编程助手使用,把 API 账单换成本机算力。
官方 SDK:提供 ollama-python 和 ollama-js 两个库,几行代码就能在自己的程序里调用本地模型。
数据不出本机:推理在本地完成,对话内容和代码都不会上传到第三方服务,处理敏感内容时更放心。
自定义模型:可以基于现有模型定制系统提示、参数和模板,打包成自己的模型条目重复使用。
开源项目:项目源码托管在 GitHub,采用 MIT 许可,方便开发者查看实现方式、参与开发,或者根据自己的需求进行二次定制。


