跳到正文
AskTable

文档反馈

当前页面配置大模型/admin/models

0 / 5,000

反馈将发送给维护团队。

前往控制台
前往控制台

配置与管理

配置大模型

接入大模型,配置模型组中的 Fast、Omni 和 Agent 角色,并测试连接。

AskTable 支持多种大模型。模型需要支持工具调用,以完成数据查询、Python 计算和图表生成。

开始前

  • 权限:账号的「用户身份」是「系统管理员」。模型组是全局资源,不按项目隔离。
  • 入口:左下角头像 →「系统设置」→ 左侧「模型组」。首次部署时初始化向导也会带你配一次。
  • 准备一份接入信息:走 AskTable 托管算力只要「算力 API Key」;接自己的服务要 Base URL、API Key 和模型名。
  • 私有部署要确认服务器能出网访问模型服务地址。

操作步骤

首次部署:走初始化向导

打开站点会进 /setup,顶部两个步骤:「创建管理员」「配置模型」。

「配置模型」页有三张卡:

卡片什么时候出现要填什么
「已检测到阿里云百炼配置」服务器上配了阿里云百炼的环境变量不用填,提示「将使用 qwen3-max 作为默认模型」
「AskTable 官方 API 渠道」一直有「算力 API Key」,旁边是「没有API Key?点击免费获取」
「自定义渠道」一直有「Base URL」「API Key」「模型名称」,模型名占位符「例如 gpt-4o, qwen-3-max」

点「完成配置」后进入项目列表。已经初始化过的站点不会再进这个向导。

打开模型组管理

左下角头像 →「系统设置」→ 左侧「模型组」。

标题「模型组管理」,副标题「管理系统中的 LLM 模型组配置」,右上角「新建模型组」。左栏是模型组列表,每项显示「显示名称」(留空时显示「唯一标识」)和 Base URL,徽标有「官方」「默认」,非 OpenAI 协议的显示协议名(例如「Anthropic」)。右栏没选中时显示「选择一个模型组查看详情」;一个组都没有时左栏显示「暂无数据」。

新建模型组

点「新建模型组」,第一步「选择模型组类型」,三张卡:

  • 「AskTable 官方」——「使用 AskTable 算力服务,只需填写算力 API Key」。
  • 「OpenAI 兼容」——「接入第三方 LLM 服务,自由配置」。
  • 「Anthropic 兼容」——「接入 Anthropic 协议的第三方 LLM 服务」。

官方类型只填「算力 API Key」(占位符 asktable-)。自定义类型要填:

字段说明
「唯一标识」必填,机器标识,不能和已有组重名
「显示名称」选填,占位符「留空则使用唯一标识」
「API 协议」「OpenAI」或「Anthropic」
Base URL必填,例如 https://api.openai.com/v1
API Key必填,占位符 sk-...

点「创建」,按钮变成「创建中...」,成功提示「模型组创建成功」。官方类型会自动把 Base URL 写成 https://aiproxy.asktable.com/v1,并把三个角色预置成 asktable-fast、asktable-omni、asktable-agent。

把模型加进可用列表

选中一个组,右栏「可用模型」区块:

  1. 手填:在「模型 ID(如 gpt-4o)」和「显示名称(可选)」两个框里填值,点「添加」;重名提示「模型已存在」。
  2. 拉取:点「Fetch」调上游的模型列表接口,把没见过的模型补进来,新补进来的默认关闭。
  3. 搜索与统计:搜索框提示「搜索模型...」,上方统计形如「共 N 个模型,M 个已启用(已启用排在前面)」。

每行右侧四个控件:齿轮是「模型选项」、垃圾桶是「移除模型」、闪电是「测试模型」、最右侧开关控制启用。移除一个模型时,引用它的角色路由会一起清空。

逐个测通模型

点行内的「测试模型」(闪电图标),成功提示「模型 X 测试通过」,失败提示「模型 X 测试失败」。

只把测通过的模型打开开关:「模型路由」的下拉里只列已启用的模型。

给三个角色分模型

「模型路由」区块有三行,角色名是 Fast、Omni、Agent,每行一个下拉。未选时显示「未指定」,可选值就是已启用的模型。

改动即时保存,不需要再点保存按钮。

调模型选项

点某个模型的齿轮打开「模型选项」弹窗,说明是「配置 X 的选项」:

项说明
「上下文窗口」数字框,占位符 128000。留空时对话上下文压缩回退用 65536
「供应商选项(JSON)」原样发给上游的参数,说明里的示例形如 thinking.type = disabled
「思考参数(快速 / 深度)」选 provider 类型,再给「快速模式」「深度思考模式」各挑一个档位;档位会 merge 到「供应商选项」之上
「回传历史推理内容(reasoning_content)」开关,默认开

「思考参数」的 provider 选项是「不启用(不覆盖)」「DeepSeek(思考开关)」「OpenAI(reasoning_effort)」「通义千问 / DashScope(enable_thinking)」「自定义(原始 JSON)」。选到具体 provider 时,快速模式默认取最省档位、深度思考模式默认取较强档位,可以再改;选「自定义(原始 JSON)」时两个模式各给一个 JSON 文本框,JSON 写错会标红且不保存。

「回传历史推理内容(reasoning_content)」的说明是「DeepSeek V4 等接续推理模型需开启;asktable-fast 等不接受该字段的模型必须关闭。」

设默认、克隆、删除

右栏右上角「更多」菜单里有两个操作:

  • 「设为默认」:成功提示「已设为默认模型组」。默认组全站只有一个,也是没指定时的兜底。
  • 「克隆模型组」:复制出一个标识加 -copy 的组,凭证和模型配置一起带走。

「删除」按钮只在非默认组上出现,确认弹窗写「确定要删除模型组 "X" 吗?此操作无法撤销。」默认组不显示删除按钮。

决定项目用哪个组

默认情况下项目跟随系统默认组。要单独指定:左侧主导航 → 项目名右侧的「设置」→「通用」→「模型组」下拉,选项是「默认」「默认(组名)」或具体组名,占位提示「请选择模型组」。一个可用组都没有时提示「暂无可用模型组,请联系管理员配置模型。」

关键约束

项目值或默认在哪里改
模型组作用域全局,不按项目隔离头像 →「系统设置」→「模型组」
默认模型组必须有一个,且不能删除「模型组」→ 目标组 →「更多」→「设为默认」
官方渠道 Base URLhttps://aiproxy.asktable.com/v1新建官方类型时自动写入
官方渠道预置角色Fast 是 asktable-fast、Omni 是 asktable-omni、Agent 是 asktable-agent「模型组」→「模型路由」
模型角色Fast、Omni、Agent 三个「模型组」→「模型路由」
「API 协议」「OpenAI」或「Anthropic」「模型组」→「连接配置」
「上下文窗口」默认空;留空时上下文压缩回退用 65536模型选项
「回传历史推理内容」默认开模型选项
「思考参数」默认「不启用(不覆盖)」模型选项
「额外请求头」默认空「模型组」→「额外请求头」
官方组可见字段默认只显示「显示名称」「算力 API Key」;其余在「高级配置」里「模型组」→「高级配置」
项目使用的模型组默认跟随系统默认项目设置 →「通用」→「模型组」
官方组的「充值」只在私有部署出现「模型组」→ 官方组右栏

以上数值都是默认值,可在管理后台调整。

出问题怎么判断

现象判定条件处理
对话里报「模型组 X 认证失败,请检查该模型组的 API 密钥或余额」错误码 LLM_AUTH_ERROR到「模型组」重填 API Key,或给账户充值
对话里报「模型组 X 连接失败」错误码 LLM_CONNECTION_ERROR核对 Base URL;私有部署再确认服务器能出网到该地址
对话里报「模型组 X 服务异常,请稍后重试」错误码 LLM_ERROR上游服务本身异常,稍后重试或看上游状态
对话里报「AI 服务返回了无效响应」错误码 LLM_BAD_RESPONSE该模型对工具调用的支持不完整,换一个模型或调整「供应商选项」
对话里报「输入内容触发了内容安全审查,请修改后重试」错误码 LLM_CONTENT_FILTERED换问法;这是上游的内容审查,不是 AskTable 拦的
报「此功能仅在配置官方 AI 代理通道时可用」错误码 ASKTABLE_LLM_ONLY该功能要「AskTable 官方」类型的组,新建一个官方组并「设为默认」
项目设置里提示「模型组"X"不存在,使用默认模型组」项目选的组已被删除在「模型组」里重选一个,或把当前组「设为默认」
项目设置里提示「暂无可用模型组,请联系管理员配置模型。」一个模型组都没有先建一个组
「测试模型」失败点闪电图标后提示「模型 X 测试失败」确认模型 ID 与上游一致,且该 Key 有调用这个模型的权限
「模型路由」下拉里没有想要的模型下拉只列已启用模型到「可用模型」把该模型开关打开
删除按钮点不到该组是默认组先把别的组「设为默认」,再删这个
「深度思考模式」没生效该模型没配「思考参数」的深度档位模型选项 →「思考参数」→ 给「深度思考模式」选档位
「思考参数」保存不了JSON 文本框标红,说明 JSON 不合法改到合法 JSON 再保存
模型列表里想删的模型删不掉引用移除模型时该模型还占着角色路由移除后到「模型路由」重新给该角色选模型

下一步

  • 让每个项目用不同模型组:项目设置 →「通用」→「模型组」
  • 解除私有部署的限制:商业授权
  • 把数据接进来再开对话:连接数据源
  • 部署参数与运行责任:部署总览