基于LLM的操作系统

以本地优先运行工具使用的AI代理

LLMbasedOS允许您在自己的机器上运行具有明确、有限权限的AI代理。默认情况下，一切都在本地运行。没有后台监控。没有隐藏的功能。您决定哪些工具存在，它们能看到什么，以及何时运行。

这个存在的原因

大多数人希望从AI获得帮助而不牺牲隐私或控制权。LLMbasedOS提供了一个小型、可观察的运行时环境，在您的计算机上运行，位于容器内，具有清晰的边界。如果一个工具未启用，则不存在。如果一个文件夹未挂载，则不可见。

信任与安全

• 本地优先：服务在Windows、macOS和Linux上的Docker中运行
• 有限范围：代理仅查看您挂载的文件夹。演示挂载了捆绑的数据文件夹
• 无环境跟踪：没有任何东西监视您的活动。代理仅在您请求时才行动
• 明确工具：能力是您按名称启用的小型MCP工具。没有工具就没有能力
• 默认本地模型：与您机器上的Ollama配合工作。云模型需要手动选择
• 随时停止：在Docker Desktop中停止堆栈。您的系统在挂载文件夹之外保持不变

简单解释MCP

将MCP想象成一个带有标签抽屉的工具箱。每个抽屉都是一个具有明确合同的工具：名称、输入和输出。代理不能发明新的抽屉。当您键入命令时，代理会请求网关打开特定的抽屉。网关记录请求，将其转发到工具进程，并仅返回定义的结果。由于容器仅挂载您选择的路径，文件工具只能读写这些位置。只有当您添加并启用新工具并有意挂载额外路径时，才会出现新的能力。

默认包含的内容

• 网关：路由请求到工具并记录调用
• LLM路由器：将提示发送到您选择的后端，默认为本地
• 上下文聊天：对话的短期上下文
• 键值存储：简单的内存用于演示
• 文件工具：在挂载的数据文件夹内读写

默认不包含：电子邮件发送者、主机shell执行器、屏幕或键盘访问、系统安装程序、网络扫描器。

快速开始

要求

• 启用了Docker Desktop和WSL 2的Windows 11，或者
• 安装了Docker Desktop的macOS，或者
• 安装了Docker Engine和Docker Compose的Linux

步骤

1. 下载发布.zip并解压它

2. 在解压的文件夹中打开终端

3. 启动堆栈：

   docker compose -f docker-compose.pc.yml up -d --build
   

4. 拉取本地模型（仅首次）：

   docker exec -it llmbasedos_ollama ollama pull gemma:2b
   

5. 打开交互式控制台：

   docker exec -it llmbasedos_pc python -m llmbasedos_src.shell.luca
   

   您应该看到类似以下提示：/ [default_session] luca>

6. 使用exit退出

7. 结束时停止堆栈：

   docker compose -f docker-compose.pc.yml down
   

首先考虑安全性的设置

您可以在容器边界控制范围。这些设置简单而有效。

只读数据挂载

在docker-compose.pc.yml中，将./data:/data:rw更改为./data:/data:ro。

仅本地模型

在.env中，设置LLM_PROVIDER_BACKEND=ollama，并且不要添加云API密钥。

应用程序无网络（可选）

如果您希望在拉取模型后完全离线运行，请在paas服务中设置network_mode: "none"。

可视性和控制

• 工具列在supervisord.conf中。如果工具未列出，则不会运行
• 调用由网关和每个工具进程记录
• 应用程序只能在其内部读写您控制的挂载路径
• 您可以随时从Docker Desktop启动、停止和删除容器

常见问题解答

它能看见我的其他文件吗？

不可以。它只能看到您挂载的内容。演示挂载了捆绑的数据文件夹。

是否有任何东西自动运行？

不可以。没有后台监控。代理仅在您请求时才行动。默认情况下，计划任务关闭且必须显式创建。

它能把我的文档发送到互联网吗？

除非您选择云模型或启用网络工具，否则不可以。默认设置使用本地模型，没有外部API调用。

它能在主机上执行系统命令吗？

不可以。默认设置中没有主机shell工具。添加这样的工具需要显式更改，并且对于敏感机器不建议这样做。

如果我卸载它会发生什么？

使用Docker Desktop或docker compose down。堆栈停止，您的计算机在挂载文件夹之外保持不变。

术语

• 代理：按名称请求工具的决策循环
• 工具（弧）：暴露单一能力的小型MCP服务器，具有严格的合同
• 网关：路由和记录工具调用的中介
• 计划（任务）：简单的、人类可读的任务文件，链接工具调用
• 路由器：选择配置的LLM后端，默认为本地

适用对象

• 对隐私敏感的用户，他们想要AI的帮助而不放弃控制权
• 需要离线或本地工作流程的团队
• 欲观测和重现代理运行的开发者和研究人员

发展路线图

• 更多具有明确权限和测试的第一方工具
• 签名的工具包和基于清单的安装
• 工具白名单和默认只读挂载的策略层

联系方式

问题或关注：在GitHub上打开一个问题或通过电子邮件联系luca@llmbasedos.com。 </中文翻译>