连接模型上下文协议与本地LLM的能力
快速开始 • 关键特性 • 架构 • 文档 • 贡献 • 常见问题
</div>MCP-Ollama Server通过Ollama将Anthropic的模型上下文协议(MCP)与本地LLM连接起来。这种集成使您的本地AI模型具备类似Claude的工具能力,包括文件系统访问、日历集成、网络浏览、电子邮件通信、GitHub交互以及AI图像生成——同时完全保持数据隐私。
与基于云的AI解决方案不同,MCP-Ollama Server:
MCP-Ollama Server被组织成专门的模块,每个模块提供特定的功能:
calendar/
├── README.md # 模块特定文档
├── google_calendar.py # Google日历API集成
├── pyproject.toml # 依赖项和包信息
└── uv.lock # 依赖项锁定文件
日历模块使您的本地LLM能够:
client_mcp/
├── README.md # 模块特定文档
├── client.py # 主客户端实现
├── pyproject.toml # 依赖项和包信息
├── testing.txt # 测试数据
└── uv.lock # 依赖项锁定文件
客户端模块提供:
file_system/
├── README.md # 模块特定文档
├── file_system.py # 文件系统操作实现
├── pyproject.toml # 依赖项和包信息
└── uv.lock # 依赖项锁定文件
文件系统模块允许您的本地LLM:
# 1. 如果尚未安装,请先安装uv
curl -LsSf https://astral.sh/uv/install.sh | sh
# 2. 克隆仓库
git clone https://github.com/sethuram2003/mcp-ollama_server.git
cd mcp-ollama_server
# 3. 验证Ollama模型已安装(用您偏好的模型替换'llama3')
ollama pull llama3
cd calendar
uv add pyproject.toml # 安装日历特定依赖项
cd client_mcp
uv add pyproject.toml # 安装日历特定依赖项
cd file_system
uv add pyproject.toml # 安装文件系统依赖项
cd client_mcp
uv run client.py ../file_system/file_system.py
AI代理之间的对话
MCP-Ollama Server遵循微服务架构模式,其中每种能力都是作为独立服务实现的:
此架构提供了以下好处:
每个模块都包含其自己的README,详细说明了实现细节:
适用于需要AI能力但面临严格数据主权要求的组织:
转变您的本地开发环境:
创建一个尊重您隐私的强大第二大脑:
我们欢迎社区的贡献!以下是您可以如何帮助:
git checkout -b feature/amazing-featuregit commit -m '添加一些惊人的功能'git push origin feature/amazing-feature请阅读我们的贡献指南以获取更多详情。
Q: 这与使用基于云的AI助手有何不同?
A: MCP-Ollama Server完全在您的本地基础设施上运行,确保了完全的数据隐私,并消除了对外部API的依赖。
Q: 支持哪些模型?
A: 只要兼容Ollama,任何模型都可以使用。为了获得最佳效果,我们推荐Llama 3、Mistral或其他至少具有7B参数的最新开放模型。
Q: 如何扩展系统的新功能?
A: 遵循模块化架构模式来创建新的服务模块。详情请参阅我们的扩展指南。
Q: 系统需求是什么?
A: 需求取决于您选择的Ollama模型。对于基本功能,我们建议至少16GB内存和现代多核CPU。
本项目根据LICENSE文件中的条款授权。