Ollama MCP (模型上下文协议)

Ollama MCP 是一个工具，用于通过模型上下文协议（MCP）将基于 Ollama 的语言模型与外部工具和服务连接起来。这种集成使大语言模型能够与各种系统进行交互，如 Git 仓库、shell 命令和其他工具支持的服务。

功能

• Ollama 语言模型与 MCP 服务器之间的无缝集成
• 通过 MCP Git 服务器支持 Git 操作
• 可扩展的工具管理系统
• 交互式命令行助手界面
• 启动时从本地可用模型中选择交互式 Ollama 模型

安装

1. 确保已安装 Python 3.13+
2. 克隆此仓库
3. 安装依赖项：

# 创建虚拟环境
uv add ruff check
# 激活虚拟环境
source .venv/bin/activate
# 以开发模式安装包
uv pip install -e .

使用

Ollama 模型选择

在主应用程序启动之前，您将被提示选择要使用的 Ollama 模型。

1. 前提条件：

   • 确保 Ollama 已安装并正在运行。
   • 您必须至少有一个本地拉取的模型（例如，通过 ollama pull llama3.1:8b）。支持工具使用的模型列表可以在 Ollama 网站 上找到。

2. 启动过程：

   • 应用程序会自动检测并列出您本地机器上所有可用的 Ollama 模型。
   • 您将被提示从显示的列表中键入要使用的模型名称。
   • 如果输入了无效的模型名称，您将再次被提示直到做出有效选择。
   • 所选模型将用于代理的所有后续操作。

运行 Git 助手

uv run main.py

运行测试

pytest -xvs tests/test_ollama_toolmanager.py

这将启动一个交互式 CLI，在这里您可以请求助手执行 Git 操作。

使用自定义工具扩展

您可以通过以下方式扩展系统：

1. 创建新的工具包装器
2. 将它们注册到 OllamaToolManager
3. 连接到不同的 MCP 服务器

组件

• OllamaToolManager：管理工具注册和执行
• MCPClient：处理与 MCP 服务器的通信
• OllamaAgent：协调 Ollama 大语言模型和工具的使用

示例

# 创建一个启用 Git 的代理
git_params = StdioServerParameters(
    command="uvx",
    args=["mcp-server-git", "--repository", "/path/to/repo"],
    env=None
)

# 连接并注册工具
async with MCPClient(git_params) as client:
    # 将工具注册到代理
    # 使用代理进行 Git 操作

要求

• Python 3.11+
• MCP 1.5.0+
• Ollama 0.4.7+