AnythingLLM 集成指南

概览

AnythingLLM 把 Routerah 视为 Generic OpenAI 提供商。输入模型，设置上下文窗口，然后保存。

快速配置

把这些粘贴到客户端。已登录时会自动填入你的密钥。

基础 URL: https://api.routerah.app/v1
API 密钥: YOUR_API_KEY

兼容性

逐步设置

1. 1
   打开 LLM Preference

   在侧栏打开 Settings，然后进入 LLM Preference。

2. 2
   选择 Generic OpenAI

   把 LLM Provider 设为 Generic OpenAI 并填写表单。Max Tokens 默认为 1024，会限制每一条回复，所以请调高它。

   text

   Base URL: https://api.routerah.app/v1
   API Key: YOUR_API_KEY
   Chat Model Name: YOUR_MODEL_ID
   Model context window: 50000
   Max Tokens: 8192

   登录以自动填入您的 API 密钥

3. 3
   保存

   保存。AnythingLLM 会在聊天工作区中使用 Routerah。

推荐模型

在这里可用的免费模型。把任意模型 id 粘贴到客户端即可。

注意事项

• !填好 Base URL 和 API Key 后，Generic OpenAI 会自动拉取模型目录。如果拉取失败，该字段会退化为文本框，此时请手动输入模型 ID。
• !Embedding Preference 是单独的标签页。除非你的套餐在 Routerah 上提供嵌入，否则请保留一个可用的嵌入提供商。