DeepTutor LLM服务商支持:20+云端与7种本地模型怎么配

发布时间:2026/9/1 13:44:46
DeepTutor LLM服务商支持:20+云端与7种本地模型怎么配 DeepTutor LLM服务商支持20云端与7种本地模型怎么配【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutorDeepTutor 不绑定任何单一模型厂商。它在deeptutor/services/provider_registry.py里维护一份 PROVIDERS 登记表把 20 多个云端服务商、7 种本地推理方案和若干聚合网关统一成同一份模型列表在 Settings → Models 页面填好 Base URL 和 API key同一套代码就能驱动所有供应商。先看清登记表里有什么DeepTutor 把 LLM 服务商分成四类区别主要在认证方式和接入协议类别代表厂商认证方式直连云端 APIOpenAI、Anthropic、DeepSeek、Gemini、DashScope通义千问、Zhipu、Moonshot、Mistral、Groq、VolcEngine、QianfanAPI key聚合网关OpenRouter、Eden AI、SiliconFlow、AiHubMix、Atlas Cloud一把 key 走多家模型订阅制 OAuthOpenAI Codex用自己的 ChatGPT 订阅、GitHub Copilot浏览器登录免 API key本地部署Ollama、vLLM、LM Studio、llama.cpp、Lemonade、OpenVINO、NVIDIA NIM指向本机地址![DeepTutor对话中切换LLM模型的界面](https://raw.gitcode.com/GitHub_Trending/dee/DeepTutor/raw/5a197bd143b8c644b1a33783f39bed40a5329a56/assets/figs/web-1.4.6/home/06-switch model.png?utm_sourcegitcode_repo_files)Chat 工具栏里的模型切换同一会话可随时换 LLM 服务商不用重建上下文云端服务商怎么接入的OpenAI 和 Anthropic 因为请求格式差异大各自有独立实现deeptutor/services/llm/providers/open_ai.py里的OpenAIProvider和deeptutor/services/llm/providers/anthropic.py里的AnthropicProvider。其余大多数云端厂商复用 OpenAI 兼容协议——在 PROVIDERS 里登记一条ProviderSpec关键词、环境变量名、key 前缀、默认地址工厂就能识别并路由。这也解释了配置体验填好 Base URL 后DeepTutor 会按 key 前缀比如sk-or-或地址关键词自动认出你用的是哪家网关模型列表也从对应端点拉取。适合手里已有 API key 或订阅、想直接开用的场景。 本地跑模型的路径本地方案标记is_local走deeptutor/services/llm/local_provider.py探测可用模型知识库的向量部分同样支持本地deeptutor/services/embedding/adapters/ollama.py是 Ollama embedding 适配器LM Studio、vLLM、llama.cpp 则走 OpenAI 兼容端点。用 Docker 部署时注意容器里的localhost指向容器自身README 给了现成写法加--add-hosthost.docker.internal:host-gateway再把 Base URL 指到http://host.docker.internal:11434/v1。数据不出机器、长期成本可控但需要能跑得起模型的硬件。别忽略第二种模型Embedding知识库 / RAG 检索靠的是 embedding 模型它和对话 LLM 是两套独立配置。deeptutor/services/embedding/adapters/下有openai_sdk、cohere、jina、dashscope_native、ollama等适配器对应 Settings → Embedding 里的独立 profile。不配 embedding 也能用聊天但rag工具和知识库会缺腿。架构怎么串起来的所有调用最终收口到deeptutor/services/llm/factory.py的complete/stream两个入口。流程是读取当前生效的 LLM profile →_resolve_provider_spec按显式 binding → 网关识别 → 模型名匹配 → 本地地址特征的顺序选出对应的ProviderSpec→get_runtime_provider返回 provider 实例。重试退避、思考标签think块包装、不支持response_format的参数剔除都在这一层统一处理。对开发者的含义很直接新增一家服务商通常就是往 PROVIDERS 加一条记录。![DeepTutor系统架构与LLM调用链路](https://raw.gitcode.com/GitHub_Trending/dee/DeepTutor/raw/5a197bd143b8c644b1a33783f39bed40a5329a56/assets/figs/system/system architecture.png?utm_sourcegitcode_repo_files)系统架构图Chat、Research 等能力都经由统一的 agent loop 调用底层 LLM 服务层按场景选服务商已有 ChatGPT 订阅选 OpenAI Codex OAuth浏览器登录后免 API keytoken 单独存放在沙箱够不到的目录想横向试多家模型OpenRouter 这类网关一个 key 切换不同厂商中文场景 / 国内访问DeepSeek、DashScope、Zhipu、SiliconFlow 更顺手隐私敏感、数据不能出内网Ollama 或 LM Studio 本地 vLLM大知识库 RAGembedding 建议用云端向量模型OpenAI / Cohere / Jina检索质量直接决定回答质量⚡ 上手指引三步到可用模型git clone https://gitcode.com/GitHub_Trending/dee/DeepTutor或干脆pip install -U deeptutordeeptutor init提示端口与模型→deeptutor start打开前端页面进Settings → Models添加 LLM profile计划建知识库就再补一个 Embedding profile想继续往下读从deeptutor/services/llm/providers/目录看各家实现再到deeptutor/services/provider_registry.py看整份登记表比翻零散文档快得多。模型只是 DeepTutor 的地基上面还架着 Chat、Deep Research、知识库、Memory 等能力——把模型跑通才算真正入场。Settings 页面Models 卡片管理 LLM / Embedding / Search 各类服务商配置【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutor创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻