面向大语言模型编排的MCP服务器

使用Erlang构建的Model Context Protocol（MCP）服务器，利用OTP原则对不同的大语言模型（如ChatGPT、Gemini、Claude等）进行请求编排。

特性

• 基于OTP架构，实现健壮且容错的操作
• 支持多个大语言模型提供商（OpenAI、Google Gemini、Anthropic Claude）
• 动态模型注册与管理
• 提供RESTful API用于聊天完成和模型列表查询
• 模型间的自动故障转移和负载均衡

架构

应用程序遵循OTP设计原则，包含以下组件：

• mcp_app：主应用模块
• mcp_sup：顶级监督器
• mcp_model_sup：动态监督器，负责大语言模型连接
• mcp_orchestrator：中央编排器，负责路由请求
• mcp_model：每个大语言模型类型的GenServer实现
• HTTP API处理器，用于外部通信

安装

先决条件

• Erlang/OTP 24或更高版本
• Rebar3

编译

cd mcp_server
rebar3 compile

运行

rebar3 shell

API端点

• POST /api/v1/chat：向大语言模型发送聊天请求
• GET /api/v1/models：列出所有可用模型

配置

大语言模型API密钥及其他配置应通过环境变量或配置文件提供。

许可证

MIT