Claude-LMStudio-Bridge

这是一个简单的模型控制协议（MCP）服务器，允许Claude通过Lm Studio与本地运行的LLM模型进行通信。

概述

此桥接器使Claude能够向Lm Studio中运行的本地模型发送提示并接收其响应。这可以用于：

• 比较Claude与其他模型的响应
• 访问特定任务的专用本地模型
• 即使Claude API配额有限也能运行查询
• 将敏感查询完全保留在本地

预备条件

• Python 3.8+
• 具有MCP功能的Anthropic Claude
• 在本地运行的Lm Studio
• 在Lm Studio中加载的本地LLM模型

安装

1. 克隆此仓库：

   git clone https://github.com/infinitimeless/Claude-LMStudio-Bridge_V2.git
   cd Claude-LMStudio-Bridge_V2
   

2. 创建虚拟环境：

   python -m venv venv
   source venv/bin/activate  # 在Windows上：venv\Scripts\activate
   

3. 安装所需包（选择一种方法）：

   使用requirements.txt：

   pip install -r requirements.txt
   

   或直接安装依赖项：

   pip install requests "mcp[cli]" openai anthropic-mcp
   

使用

1. 启动Lm Studio并加载您首选的模型。

2. 确保Lm Studio的本地服务器正在运行（默认情况下通常在端口1234上）。

3. 运行桥接器服务器：

   python lmstudio_bridge.py
   

4. 在Claude的界面中启用MCP服务器，并将其指向您本地运行的桥接器。

5. 您现在可以在与Claude的对话中使用以下MCP工具：

   • health_check：检查Lm Studio API是否可访问
   • list_models：获取Lm Studio中可用模型的列表
   • get_current_model：检查当前加载的是哪个模型
   • chat_completion：向当前模型发送提示

示例

连接后，您可以要求Claude使用本地模型：

Claude，请使用Lm Studio桥接器询问本地模型：“你对量子计算有什么看法？”

Claude将使用chat_completion工具将查询发送到您的本地模型，并显示响应。

配置

默认情况下，桥接器连接到Lm Studio的http://localhost:1234/v1。如果您的Lm Studio实例运行在不同的端口上，请修改lmstudio_bridge.py中的LMSTUDIO_API_BASE变量。

故障排除

如果您遇到依赖项问题，请尝试直接安装它们：

pip install requests "mcp[cli]" openai anthropic-mcp

有关详细的安装说明和故障排除，请参阅安装指南。

许可证

MIT

贡献

欢迎贡献！请随时提交Pull Request。