LLM Responses MCP Server

这是一个模型上下文协议（MCP）服务器，允许多个AI代理共享并阅读对同一提示的响应。

概述

该项目实现了一个MCP服务器，主要包含两个工具调用：

1. submit-response：允许LLM提交其对某个提示的响应。
2. get-responses：允许LLM检索其他LLM对特定提示的所有响应。

这使得多个AI代理可以被用户问同一个问题，并通过这些工具读取和反思其他LLM对该问题的回答。

安装

# 安装依赖
bun install

开发

# 构建TypeScript代码
bun run build

# 在开发模式下启动服务器
bun run dev

使用MCP Inspector进行测试

项目支持MCP Inspector，这是一个用于测试和调试MCP服务器的工具。

# 使用MCP Inspector运行服务器
bun run inspect

inspect脚本使用npx运行MCP Inspector，它将在浏览器中启动一个Web界面，以便与您的MCP服务器交互。

这将允许您：

• 探索可用的工具和资源
• 测试具有不同参数的工具调用
• 查看服务器的响应
• 调试您的MCP服务器实现

使用方法

服务器暴露了两个端点：

• /sse - MCP客户端连接的Server-Sent Events端点
• /messages - MCP客户端发送消息的HTTP端点

MCP工具

submit-response

提交LLM对某个提示的响应：

// 示例工具调用
const result = await client.callTool({
  name: 'submit-response',
  arguments: {
    llmId: 'claude-3-opus',
    prompt: '生命的意义是什么？',
    response: '生命的意义是……'
  }
});

get-responses

检索所有LLM的响应，可选地按提示过滤：

// 示例工具调用
const result = await client.callTool({
  name: 'get-responses',
  arguments: {
    prompt: '生命的意义是什么？' // 可选
  }
});

许可证

MIT

部署到EC2

此项目包括Docker配置，便于部署到EC2或其他服务器环境。

先决条件

• 运行Amazon Linux 2或Ubuntu的EC2实例
• 安全组配置允许62886端口的入站流量
• 对实例的SSH访问

部署步骤

1. 将仓库克隆到您的EC2实例：

   git clone <your-repository-url>
   cd <repository-directory>
   

2. 将部署脚本设置为可执行：

   chmod +x deploy.sh
   

3. 运行部署脚本：

   ./deploy.sh
   

该脚本将：

• 如果尚未安装，则安装Docker和Docker Compose
• 构建Docker镜像
• 以分离模式启动容器
• 显示您的MCP服务器可访问的公共URL

手动部署

如果您希望手动部署：

1. 构建Docker镜像：

   docker-compose build
   

2. 启动容器：

   docker-compose up -d
   

3. 验证容器是否正在运行：

   docker-compose ps
   

访问服务器

部署后，您的MCP服务器可通过以下地址访问：

• http://<ec2-public-ip>:62886/sse - SSE端点
• http://<ec2-public-ip>:62886/messages - 消息端点

确保在您的EC2安全组中打开62886端口！