OpenSquilla：开源AI智能体平台，智能路由降本增效

30款热门AI模型一站整合DeepSeek/GLM/Claude 随心用限时 5 折。 点击领海量免费额度今天来看一个在 GitHub 上快速走红的 AI Agent 项目——OpenSquilla。它不是一个新概念框架而是一个开箱即用、主打“省钱”的智能体平台。核心卖点非常直接用同样的预算获得更高的智能密度。简单说它内置了一个本地模型路由器SquillaRouter能自动分析你的每个任务请求然后把它分配给最便宜但又能胜任的模型去处理从而在保证效果的同时大幅降低 API 调用成本。对于开发者、AI 应用构建者或者任何需要频繁调用大模型 API 的人来说这直接关系到真金白银。OpenSquilla 提供了统一的入口包括 Web UI、命令行CLI和多种聊天渠道如 Slack、Telegram、Discord 等所有请求都经过同一个智能决策循环确保工具调用、重试和日志记录的行为完全一致。本文将带你快速上手 OpenSquilla从核心能力速览、多种安装方式包括一键桌面版和命令行安装到配置、功能测试、API 调用以及常见问题排查让你在 10 分钟内判断它是否适合你的工作流并完成部署验证。1. 核心能力速览在深入细节前先通过一个表格快速了解 OpenSquilla 的核心规格和特点帮助你判断是否值得投入时间。能力项说明项目类型令牌高效型微内核 AI 智能体平台开源团队/来源开源项目灵感来源于 OpenClaw社区驱动核心功能本地模型路由、多 LLM 提供商支持、持久化记忆、分层安全沙箱、内置工具文件、搜索、Git、办公文档等、按需技能加载、统一网关推荐硬件无特殊 GPU 要求主要依赖 CPU 和内存。模型路由和本地嵌入计算在 CPU 上完成。显存占用不涉及本地大模型推理因此无显存占用压力。其核心是路由决策和任务编排模型调用通过外部 API如 OpenAI, Anthropic或本地服务如 Ollama完成。支持平台Windows, macOS, Linux启动方式多种选择桌面安装器.dmg/.exe、Windows 便携包、快速终端安装uv、源码安装、Docker是否支持 API是。提供统一的 WebSocket RPC 和 HTTP 接口所有入口Web UI, CLI, 聊天频道共享同一套后端逻辑。是否支持批量任务是。通过opensquilla agent -m “prompt”支持单次任务并通过内置的调度引擎 (opensquilla cron) 支持定时、循环的自动化任务。适合场景1.成本敏感的多模型调用场景需要混合使用 Claude、GPT、DeepSeek 等不同价位的模型。2.统一 AI 助手入口希望将 AI 能力集成到 CLI、Web 界面或 Slack/Telegram 等聊天工具中。3.自动化与编排需要 AI 执行文件操作、Git 命令、网页搜索、生成 PPTX/PDF 等复杂工作流。4.从 OpenClaw/Hermes Agent 迁移提供了平滑的迁移路径。2. 适用场景与使用边界OpenSquilla 是一个强大的编排层但它不是万能的。理解其边界能帮你更好地应用它。它非常适合混合云/本地模型策略你既有 OpenAI、Anthropic 的 API 密钥也部署了 Ollama 或 vLLM 本地模型希望系统能智能分配任务。构建统一 AI 操作界面厌倦了在不同平台的 Web 页面间切换希望有一个统一的控制台或通过熟悉的聊天软件如 Discord来驱动 AI 完成任务。长上下文、多步骤任务需要 AI 记住会话历史并能调用多种工具读写文件、执行命令、搜索网络来完成复杂任务例如“分析本周日志总结问题并生成报告”。自动化脚本与定时任务通过opensquilla cron设置定时任务让 AI 定期检查数据、发送摘要或执行维护操作。它可能不适合纯本地大模型推理如果你寻找的是类似 llama.cpp 或 Ollama 这种专注于在本地高效运行大模型的引擎OpenSquilla 不是这个角色。它是这些模型的上层调度者。极简、单一模型场景如果你 99% 的时间只使用同一个模型例如只用自己的 GPT-4 API那么路由器的价值不大直接使用原厂 API 或 SDK 可能更简单。对延迟极度敏感路由决策、工具调用编排会引入少量开销。对于需要亚秒级响应的超高频对话场景需评估其额外延迟是否可接受。安全与合规边界工具使用OpenSquilla 可以执行 Shell 命令、读写文件。务必在安全沙箱目前 Linux 下为 Bubblewrap内测试并理解其权限矩阵Standard/Strict/Locked。切勿在生产环境或存有敏感数据的机器上以高权限模式运行未经验证的技能。数据隐私模型路由决策SquillaRouter在本地完成你的提示词在分类阶段不会外泄。但最终的任务执行仍会发送给你配置的 LLM 提供商如 OpenAI需遵守相应提供商的数据政策。内容合规由集成的 LLM 提供商负责最终生成内容的安全过滤。OpenSquilla 的沙箱和审查机制主要针对工具执行的副作用。3. 环境准备与前置条件部署 OpenSquilla 前需要确保基础环境就绪。它对硬件要求宽松但对软件包管理有一定要求。操作系统Windows 10/11, macOS 10.15, 或主流 Linux 发行版如 Ubuntu 20.04, CentOS 8。Python需要 Python 3.12 或更高版本。如果使用“快速终端安装”或“源码安装”系统可能不需要预装 Python因为uv工具会管理独立的 Python 环境。版本管理工具uv这是官方推荐的 Python 包安装器能创建隔离环境并加速依赖安装。虽然不是绝对必须但能极大简化安装过程。Git 与 Git LFS如果选择“从源码安装”或“开发模式安装”需要 Git 和 Git LFS大文件存储来克隆仓库和拉取路由器模型资产。系统运行时库针对路由器macOS如果使用终端安装可能需要libomp库来支持 SquillaRouter 的 LightGBM 组件。桌面安装包已内置。Windows需要 Visual C Redistributable for Visual Studio 2015-2022 (x64)。便携包和源码安装脚本会尝试自动安装但快速终端安装路径可能需要手动安装。网络首次安装需要下载依赖包和可能的模型资产。运行时需要能访问你配置的 LLM 提供商 API如api.openai.com。磁盘空间预留至少 500MB - 1GB 空间用于安装程序、依赖和本地存储会话、记忆等。端口默认网关服务运行在127.0.0.1:18791确保该端口未被占用。4. 安装部署与启动方式OpenSquilla 提供了多种安装路径总有一款适合你。这里重点介绍最推荐的两种快速终端安装全平台通用和桌面安装器macOS/Windows 用户首选。4.1 快速终端安装推荐全平台这是最灵活、官方推荐的方式使用uv工具进行安装。步骤 1安装 uv如果系统没有uv先安装它。Linux / macOS:curl -LsSf https://astral.sh/uv/install.sh | sh # 安装后将 uv 添加到当前 shell 的 PATH . $HOME/.local/bin/envWindows PowerShell:powershell -c irm https://astral.sh/uv/install.ps1 | iex # 更新当前会话的 PATH $env:Path $env:USERPROFILE\.local\bin; $env:Path步骤 2安装 OpenSquilla使用uv tool install命令安装指定版本的 OpenSquilla。[recommended]额外选项会安装包含 SquillaRouter本地模型路由器的完整依赖。uv tool install --python 3.12 opensquilla[recommended] https://github.com/opensquilla/opensquilla/releases/download/v0.4.1/opensquilla-0.4.1-py3-none-any.whl安装完成后如果opensquilla命令未找到请新开一个终端窗口或重新执行上述添加 PATH 的命令。步骤 3首次配置与运行运行配置向导此命令会交互式地引导你配置 LLM 提供商如 OpenRouter、OpenAI、路由器等。opensquilla onboard对于非交互式环境如脚本可以预先设置环境变量并使用--api-key-envexport OPENROUTER_API_KEYsk-... # Linux/macOS # 或 $env:OPENROUTER_API_KEYsk-... # Windows PowerShell opensquilla onboard --provider openrouter --api-key-env OPENROUTER_API_KEY启动网关服务opensquilla gateway run服务将在前台运行监听http://127.0.0.1:18791。按CtrlC可停止服务。访问 Web 控制台浏览器打开http://127.0.0.1:18791/control/。/health端点可用于健康检查。4.2 桌面安装器macOS/Windows 用户追求开箱即用体验的桌面用户可以选择此方式。下载安装器macOS (Apple Silicon):OpenSquilla-0.4.1-mac-arm64.dmgWindows (x64):OpenSquilla-0.4.1-win-x64.exe安装并运行像普通应用一样安装。首次运行会启动配置向导完成后会自动启动后台网关并打开 Web 控制台。升级注意升级前请退出正在运行的 OpenSquilla 桌面应用。原有的配置 (~/.opensquilla/config.toml) 和数据会被保留重用。4.3 Windows 便携包无需 Python适合 Windows 上不想配置 Python 环境的用户或者需要便携式使用的场景。下载便携包 OpenSquilla-windows-x64-portable.zip解压并运行将 ZIP 文件解压到任意可写目录如Downloads或Documents。右键点击Start OpenSquilla.cmd选择“以管理员身份运行”。完成首次设置按照提示完成初始配置完成后浏览器会自动打开http://127.0.0.1:18791/control/。注意预览版构建未签名Windows SmartScreen 可能会弹出警告选择“更多信息”-“仍要运行”即可。如果被企业策略阻止请改用“快速终端安装”。4.4 从源码安装适合跟踪最新版如果你想运行main分支的最新代码而非发布版可以使用此方式。# 1. 克隆仓库需要 Git LFS git lfs install git clone https://github.com/opensquilla/opensquilla.git cd opensquilla git lfs pull --includesrc/opensquilla/squilla_router/models/** # 2. 运行安装脚本 # macOS / Linux bash scripts/install_source.sh # Windows PowerShell powershell -ExecutionPolicy Bypass -File ./scripts/install_source.ps1安装脚本会使用uv或回退到pip在用户环境中安装 OpenSquilla。安装后新开终端即可使用opensquilla命令。5. 功能测试与效果验证安装启动后我们来实际测试几个核心功能验证 OpenSquilla 是否工作正常。5.1 基础对话与路由测试首先通过 CLI 进行快速对话观察路由器是否生效。启动网关如果未运行opensquilla gateway run # 或使用后台启动并等待健康检查 opensquilla gateway start --json使用 CLI 聊天opensquilla chat这会进入一个交互式 REPL 界面。输入一些简单和复杂的问题例如“今天的日期是”“用 Python 写一个快速排序函数。”“总结一下量子计算的主要挑战。” 观察响应速度和回复质量。路由器会根据问题的复杂度决定是使用快速的廉价模型如 DeepSeek Flash还是更强的模型如 Claude Opus。单次任务执行适合自动化脚本opensquilla agent -m 将‘Hello, World!’翻译成法语和西班牙语。这个命令会直接执行任务并输出结果然后退出。5.2 Web 控制台功能验证浏览器访问http://127.0.0.1:18791/control/。健康状态检查首页的 Health 视图会清晰展示各项服务Provider, Router, Memory, Search等的状态。确保所有必要组件都是Ready状态。会话管理创建一个新会话尝试进行多轮对话。注意界面上的工具调用状态、令牌消耗估算等信息。技能调用测试在对话中尝试触发内置技能。例如文件操作“读取当前目录下的 README.md 文件并总结其内容。”网络搜索“搜索‘OpenSquilla 最新版本发布了哪些新功能’”需要先配置搜索提供商如 DuckDuckGo。Git 操作“查看当前 Git 仓库的状态。”需要在 Git 仓库目录下运行网关或指定路径。 观察 OpenSquilla 是否能正确理解指令、调用工具并返回结果。5.3 记忆与持久化测试验证其本地记忆能力是否工作。在 CLI 或 Web UI 中告诉它一些信息我的名字是 Alex我最喜欢的编程语言是 Python。在后续对话中提问我刚才说我叫什么名字我喜欢用什么语言编程如果记忆功能正常它应该能准确回忆起你提供的信息。记忆存储于本地的 SQLite 数据库中结合了关键词搜索和语义向量检索。5.4 成本与使用量查看OpenSquilla 会跟踪每次对话的令牌消耗和估算成本。# 查看当前会话的成本摘要 opensquilla cost # 以 JSON 格式输出更详细的信息 opensquilla cost --json这对于监控 API 使用情况和优化路由策略非常有帮助。6. 接口 API 与批量任务OpenSquilla 的核心是一个统一的网关服务这为程序化调用和自动化提供了基础。6.1 API 服务调用网关默认提供 WebSocket RPC 和 HTTP 接口。虽然官方文档更推荐使用其 CLI 或 SDK 进行深度集成但基础的 HTTP 接口可用于健康检查和一些操作。健康检查接口curl http://127.0.0.1:18791/health curl http://127.0.0.1:18791/healthz返回200 OK表示服务进程存活。更全面的就绪检查推荐使用 CLIopensquilla doctor --json这个命令会检查提供商配置、内存、路由器等所有核心组件的状态并给出修复建议。程序化任务执行 虽然直接调用内部 HTTP API 可能不稳定但通过opensquilla agent命令可以轻松集成到脚本中。#!/bin/bash # 示例让 OpenSquilla 分析一个日志文件 LOG_CONTENT$(cat /var/log/app/error.log | head -50) RESPONSE$(opensquilla agent -m 分析以下错误日志提取最常见的错误类型\n$LOG_CONTENT) echo $RESPONSE analysis_result.txt6.2 批量与定时任务 (Cron)OpenSquilla 内置了调度引擎支持复杂的定时任务。创建定时任务可以通过 Web UI 的 Cron 界面或使用 CLI 创建。# 创建一个每天上午9点运行的任务将结果发送到 Slack 频道需要先配置 Slack 频道 opensquilla cron create \ --name daily_standup_report \ --schedule 0 9 * * * \ --timezone Asia/Shanghai \ --message 生成昨日的团队开发进度摘要重点说明阻塞问题。 \ --channel slack管理任务# 列出所有任务 opensquilla cron list # 手动立即运行一次某个任务 opensquilla cron run --name daily_standup_report # 删除任务 opensquilla cron delete --name daily_standup_report任务输出与失败处理任务执行日志可以在 Web UI 的 Cron 界面查看也可以配置失败时通知其他频道或 Webhook。6.3 频道集成 (Channel)这是将 AI 能力接入日常协作工具的关键。支持 Slack, Telegram, Discord, Feishu飞书, DingTalk钉钉, WeCom企业微信, Matrix, QQ 等。配置流程以 Slack 为例在 Web UI 的Capability Center-Channels中选择 Slack。按照指引在 Slack API 网站创建 App配置 Socket Mode推荐或 Webhook URL并获取 Bot Token 和 App Token。将 Token 填入 OpenSquilla 配置。重启网关opensquilla gateway restart。验证连接状态opensquilla channels status slack --json。确保connected: true。配置成功后即可在对应的 Slack 频道中 你的机器人并发送指令。7. 资源占用与性能观察由于 OpenSquilla 本身不运行大模型其资源消耗主要集中在网关服务、路由决策和本地嵌入计算上。内存占用根据会话数量、记忆存储大小和活跃技能通常占用几百 MB 到 1 GB 左右的内存。可以通过系统监控工具如htop,任务管理器观察opensquilla相关进程。CPU 占用SquillaRouter 进行模型分类以及本地嵌入模型如果启用计算时会有短暂的 CPU 使用率峰值。日常对话路由开销极低。磁盘 I/O主要来自 SQLite 数据库存储会话、记忆的读写。如果开启详细的日志记录日志文件也会增长。网络 I/O这是主要的性能影响因素。速度取决于你配置的 LLM 提供商 API 的响应速度。OpenSquilla 会管理请求队列和重试但网络延迟是外部因素。启动时间首次启动需要加载路由模型和本地嵌入模型可能需要几秒到十几秒。后续热启动很快。性能优化建议路由策略调优在~/.opensquilla/config.toml中可以调整路由器的阈值和模型分级C0-C3将更多简单任务导向廉价快速的模型以优化响应速度和成本。记忆后端选择默认使用本地 ONNX 嵌入模型。如果追求更高的记忆检索速度和质量可以配置为 OpenAI 的嵌入 API会产生额外成本。会话管理定期清理不再需要的旧会话可以减小数据库体积提升检索速度。日志级别在生产环境中将日志级别调整为WARNING或ERROR可以减少磁盘 I/O 和日志输出量。8. 常见问题与排查方法部署和使用过程中可能会遇到一些问题以下是常见问题的排查思路。问题现象可能原因排查方式解决方案启动失败提示DLL load failed(Windows)缺少 Visual C 运行时库。检查错误日志中是否包含onnxruntime_pybind11_state。手动安装 VC Redistributable: https://aka.ms/vs/17/release/vc_redist.x64.exe 然后重启终端和网关。启动失败提示Library not loaded: rpath/libomp.dylib(macOS)缺少 OpenMP 运行时库 (libomp)。确认是通过终端非桌面版安装的。运行brew install libomp安装然后执行opensquilla gateway restart。opensquilla命令未找到uv安装后 PATH 环境变量未更新。在终端执行which opensquilla或where.exe opensquilla。新开一个终端窗口或重新执行安装uv时设置 PATH 的命令。Web UI (http://127.0.0.1:18791/control/) 无法访问网关服务未启动端口被占用防火墙阻止。1. 运行opensquilla gateway status。2. 检查端口18791是否被其他进程占用 (netstat -ano | findstr :18791)。1. 启动服务opensquilla gateway run。2. 停止占用端口的进程或修改网关监听端口opensquilla gateway run --port 18888。配置 LLM 提供商后对话一直失败或超时API 密钥错误网络无法访问提供商提供商服务异常。1. 运行opensquilla doctor查看 Provider 状态。2. 使用curl或ping测试到提供商 API 地址的网络连通性。3. 检查 API 密钥是否有余额或权限。1. 重新配置提供商opensquilla configure provider ...。2. 配置网络代理如果必要。3. 在配置中设置备用模型或提供商。技能调用失败如文件读写、Git命令沙箱权限不足技能依赖未安装路径错误。1. 查看网关日志获取详细错误。2. 检查当前工作目录和文件权限。3. 确认系统已安装相关命令行工具如git。1. 在config.toml中调整沙箱策略谨慎操作。2. 确保在正确的目录下运行或使用绝对路径。3. 安装缺失的系统依赖。记忆功能似乎不起作用记忆存储未初始化本地嵌入模型加载失败。运行opensquilla doctor检查 Memory 和 Embedding 服务状态。1. 重启网关。2. 如果使用本地嵌入确保磁盘空间充足。3. 考虑切换到 OpenAI 嵌入作为临时方案。从 OpenClaw/Hermes 迁移后数据丢失迁移过程中路径冲突或权限问题。先使用--json参数进行预演检查opensquilla migrate openclaw --json。根据预演报告解决冲突如重命名文件然后使用--apply正式迁移。确保对源目录有读取权限。如果以上方法无法解决可以查看更详细的日志# 设置更详细的日志级别 OPENSQUILLA_LOG_LEVELDEBUG opensquilla gateway run或者到 GitHub 仓库的 Issues 页面搜索或提交问题。9. 最佳实践与使用建议为了更稳定、高效、安全地使用 OpenSquilla可以参考以下建议。从最小配置开始首次使用时先只配置一个 LLM 提供商如 DeepSeek和基础功能确保核心链路跑通。之后再逐步添加搜索、记忆、更多频道等高级功能。善用opensquilla doctor这是最重要的诊断工具。在遇到任何问题时首先运行它来获取系统性的健康状态报告和修复指引。配置文件管理主配置文件位于~/.opensquilla/config.toml。建议对其进行版本控制注意排除敏感信息以便在升级或迁移时快速恢复。敏感信息如 API Key应优先使用环境变量传递--api-key-env。沙箱安全策略始终从最严格的Locked沙箱策略开始测试新技能或不可信的工作流。仅在明确了解工具行为后再根据需要放宽到Strict或Standard。切勿在存有生产数据或敏感信息的系统中使用宽松的沙箱策略。成本监控与优化定期使用opensquilla cost查看使用情况。根据PinchBench基准结果调整路由策略将简单分类、总结等任务导向C0/C1层级的廉价模型。为不同复杂度的任务创建不同的“会话模板”或“技能”在初始化时指定更匹配的默认模型。技能开发与复用OpenSquilla 支持自定义 MetaSkill。将常用的复杂工作流封装成技能可以提高复用率和可靠性。参考官方文档的MetaSkill部分进行开发。备份与迁移定期备份~/.opensquilla/目录尤其是memory.db和重要的会话。跨机器迁移时可以复制整个目录或者使用opensquilla migrate命令进行规范化的迁移。社区与更新关注项目的 GitHub 发布页面及时获取包含性能改进和新功能的版本。参与社区讨论贡献问题反馈或代码可以帮助项目更好地发展。OpenSquilla 将一个复杂的多模型智能体系统封装成了开发者友好、开箱即用的工具。它的核心价值在于智能的成本控制和统一的操作界面。对于需要频繁与多个 AI 模型交互又希望简化操作、降低支出的团队和个人来说它是一个非常值得尝试的解决方案。部署过程并不复杂尤其是通过uv的快速安装。建议你首先按照“快速终端安装”的步骤在 10 分钟内完成部署和基础对话测试亲身感受其路由决策和工具调用的流畅度。之后再根据你的具体需求逐步探索其频道集成、定时任务和技能扩展等高级功能。 30款热门AI模型一站整合DeepSeek/GLM/Claude 随心用限时 5 折。 点击领海量免费额度