Ollama MCP 服务器

🚀 一个强大的桥梁，连接 Ollama 和模型上下文协议（MCP），使 Ollama 的本地大语言模型能力能够无缝集成到您的 MCP 驱动的应用程序中。

🌟 特性

完整的 Ollama 集成

• 全面的 API 支持：通过简洁的 MCP 接口访问所有重要的 Ollama 功能
• 与 OpenAI 兼容的聊天：作为 OpenAI 聊天完成 API 的即插即用替代品
• 本地大语言模型能力：在本地运行 AI 模型，拥有完全控制权和隐私

核心功能

• 🔄 模型管理

  • 从注册表拉取模型
  • 将模型推送到注册表
  • 列出可用模型
  • 使用 Modelfiles 创建自定义模型
  • 复制和删除模型

• 🤖 模型执行

  • 使用可定制提示运行模型
  • 带有系统/用户/助手角色的聊天完成 API
  • 可配置参数（温度、超时）
  • 支持直接响应的原始模式

• 🛠 服务器控制

  • 启动和管理 Ollama 服务器
  • 查看详细的模型信息
  • 错误处理和超时管理

🚀 快速开始

预备条件

• 在您的系统上安装了 Ollama
• Node.js 和 npm/pnpm

安装

1. 安装依赖项：

pnpm install

2. 构建服务器：

pnpm run build

配置

将服务器添加到您的 MCP 配置中：

对于 Claude Desktop：

MacOS: ~/Library/Application Support/Claude/claude_desktop_config.json Windows: %APPDATA%/Claude/claude_desktop_config.json

{
  "mcpServers": {
    "ollama": {
      "command": "node",
      "args": ["/path/to/ollama-server/build/index.js"],
      "env": {
        "OLLAMA_HOST": "http://127.0.0.1:11434"  // 可选：自定义 Ollama API 端点
      }
    }
  }
}

🛠 使用示例

拉取并运行模型

// 拉取模型
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "pull",
  arguments: {
    name: "llama2"
  }
});

// 运行模型
await m.mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "run",
  arguments: {
    name: "llama2",
    prompt: "用简单的话解释量子计算"
  }
});

聊天完成（与 OpenAI 兼容）

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "chat_completion",
  arguments: {
    model: "llama2",
    messages: [
      {
        role: "system",
        content: "您是一个乐于助人的助手。"
      },
      {
        role: "user",
        content: "生命的意义是什么？"
      }
    ],
    temperature: 0.7
  }
});

创建自定义模型

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "create",
  arguments: {
    name: "custom-model",
    modelfile: "./path/to/Modelfile"
  }
});

🔧 高级配置

• OLLAMA_HOST：配置自定义 Ollama API 端点（默认：http://127.0.0.1:11434）
• 模型执行的超时设置（默认：60 秒）
• 响应随机性的温度控制（0-2 范围）

🤝 贡献

欢迎贡献！您可以自由地：

• 报告错误
• 建议新功能
• 提交拉取请求

📝 许可证

MIT 许可证 - 欢迎在自己的项目中使用！

---

为 MCP 生态系统而建，充满爱心