MCP LLM Bridge

连接Model Context Protocol (MCP) 服务器与兼容OpenAI的大型语言模型（LLMs）的桥梁。主要支持OpenAI API，并且兼容实现OpenAI API规范的本地端点。

该实现提供了一个双向协议转换层，用于在MCP和OpenAI的功能调用接口之间进行转换。它将MCP工具规范转换为OpenAI函数模式，并处理函数调用映射回MCP工具执行的过程。这使得任何兼容OpenAI的语言模型可以通过标准化接口利用符合MCP的工具，无论是基于云的模型还是像Ollama这样的本地实现。

更多关于Anthropic的MCP信息，请参阅以下资源：

• 资源
• 提示
• 工具
• 采样

演示：

快速开始

# 安装
curl -LsSf https://astral.sh/uv/install.sh | sh
git clone https://github.com/bartolli/mcp-llm-bridge.git
cd mcp-llm-bridge
uv venv
source .venv/bin/activate
uv pip install -e .

# 创建测试数据库
python -m mcp_llm_bridge.create_test_db

配置

OpenAI（主要）

创建.env：

OPENAI_API_KEY=your_key
OPENAI_MODEL=gpt-4o # 或任何其他支持工具的OpenAI模型

注意：如果需要使用.env中的密钥，请重新激活环境：source .venv/bin/activate

然后在src/mcp_llm_bridge/main.py中配置桥梁

config = BridgeConfig(
    mcp_server_params=StdioServerParameters(
        command="uvx",
        args=["mcp-server-sqlite", "--db-path", "test.db"],
        env=None
    ),
    llm_config=LLMConfig(
        api_key=os.getenv("OPENAI_API_KEY"),
        model=os.getenv("OPENAI_MODEL", "gpt-4o"),
        base_url=None
    )
)

其他端点支持

桥梁还适用于实现OpenAI API规范的任何端点：

Ollama

llm_config=LLMConfig(
    api_key="not-needed",
    model="mistral-nemo:12b-instruct-2407-q8_0",
    base_url="http://localhost:11434/v1"
)

注意：经过各种模型的测试，包括llama3.2:3b-instruct-fp16，我发现mistral-nemo:12b-instruct-2407-q8_0在处理复杂查询时更为有效。

LM Studio

llm_config=LLMConfig(
    api_key="not-needed",
    model="local-model",
    base_url="http://localhost:1234/v1"
)

我没有测试过这个，但应该可以工作。

使用

python -m mcp_llm_bridge.main

# 尝试："数据库中最贵的产品是什么？"
# 使用'quit'或Ctrl+C退出

运行测试

安装带有测试依赖项的包：

uv pip install -e ".[test]"

然后运行测试：

python -m pytest -v tests/

许可证

MIT

贡献

欢迎提交PR。