人工智能Open-Core🟢 轻量 · ~256MB

Ollama：2026 年替代 OpenAI API 的Open-Core方案

Ollama 可以在你自己的服务器上下载并运行 Llama、Mistral、Gemma 等开源大语言模型，并提供兼容的 API 接口，数据完全不经过第三方。

核心代码开源，但可能有高级功能或企业支持需要付费——请查看许可证细节。

ℹ️ CPU 可以运行 7B 及以下的模型（建议预留约 8GB 空闲内存）；若要运行 13B 以上模型或追求更快的推理速度，建议使用显存至少 8-12GB 的独立 GPU。

替代 OpenAI API

许可证 MIT183k stars官网 GitHub 仓库

审查速览（Audit Snapshot）

查看发布说明 →

许可证 — 与 GitHub 一致
GitHub — 活跃
最新版本 — v0.40.3 · 2 天前
Docker Compose — 部分核实
生产环境 — AltFreeStack 未做生产环境测试

Ollama vs. OpenAI API

优点

数据永远不会离开你自己的服务器

需要注意

效果取决于所选模型和硬件配置

快速 Docker 安装指南

复制下面的 docker-compose.yml，把示例密码替换成自己的，然后在服务器上运行 docker compose up -d。

💡 官方 SaaS，还是用 AltFreeStack 自托管？

官方云服务： OpenAI API 按月收费并有使用限制.
你自己的 VPS：核心功能可以免费在你自己的服务器上自托管——不用再付月费，不过部分高级功能仍需付费解锁.

docker-compose.yml

version: "3.9"
services:
  ollama:
    image: ollama/ollama:0.35.0
    restart: unless-stopped
    ports:
      - "11434:11434"
    volumes:
      - ollama_data:/root/.ollama
volumes:
  ollama_data:

这份 docker-compose 对应一个在 GitHub 上仍有活跃更新的项目——最近一次提交于今天。

这份 docker-compose 对你不起作用？在 GitHub 上反馈 →

技术信息

许可证: MIT
分类: 人工智能
替代: OpenAI API
技术栈: GoLlama.cpp

技术细节

数据库

None / File-based

开发语言

支持平台

Web · Desktop (Mac/Win/Linux)

主要功能

一条命令即可下载模型
兼容多种客户端的 API
同时支持 GPU 与 CPU 推理

预览

由 Ollama 在其官网提供的公开图片。