Model Specs¶

Note: ⚠️ 本文档由 AI 自动翻译。如有任何不准确之处，请参考英文原版。

模型供应商规则基于 Provider 实体。
模型规则基于 AIModelEntity 实体。

以下所有实体均基于 Pydantic BaseModel，可在 entities 模块中找到。

Provider¶

供应商标识符，例如：openai

供应商显示名称，i18n，可设置 en_US（英文）和 zh_Hans（中文）两种语言

中文标签，若未设置，将默认使用 `en_US`



英文标签

供应商描述，i18n

中文描述



英文描述

供应商小图标，存储在相应供应商实现目录下的 _assets 目录中

中文图标



英文图标

供应商大图标，存储在相应供应商实现目录下的 _assets 目录中

中文图标



英文图标

背景颜色值，例如：#FFFFFF，若为空，将显示前端默认颜色值

帮助信息

帮助标题，i18n


  中文标题



  英文标题




帮助链接，i18n


  中文链接



  英文链接

支持的模型类型

配置方法

供应商凭据规范

模型凭据规范

AIModelEntity¶

模型标识符，例如：gpt-3.5-turbo

模型显示名称，i18n，可设置 en_US（英文）和 zh_Hans（中文）两种语言

中文标签



英文标签

模型类型

支持的特性列表

模型属性

模式（适用于模型类型 `llm`）



上下文大小（适用于模型类型 `llm` 和 `text-embedding`）



最大分块数（适用于模型类型 `text-embedding` 和 `moderation`）



最大文件上传限制，单位：MB（适用于模型类型 `speech2text`）



支持的文件扩展名格式，例如：mp3,mp4（适用于模型类型 `speech2text`）



默认语音，必填项：alloy,echo,fable,onyx,nova,shimmer（适用于模型类型 `tts`）



可用语音列表（适用于模型类型 `tts`）


  语音模型



  语音模型显示名称



  语音模型支持的语言




单次转换的字数限制，默认按段落分割（适用于模型类型 `tts`）



支持的音频文件扩展名格式，例如：mp3,wav（适用于模型类型 `tts`）



文字转音频转换支持的并发任务数（适用于模型类型 `tts`）



每个分块的最大字符数（适用于模型类型 `moderation`）

模型调用参数规则

价格信息

是否已弃用。若已弃用，模型列表将不再显示该模型，但已配置的仍可继续使用。默认为 False。

ModelType¶

文本生成模型

文本嵌入模型

重排序模型

语音转文字

文字转语音

内容审核

ConfigurateMethod¶

预定义模型 - 表示用户只需配置统一的供应商凭据即可使用该供应商下的预定义模型。

自定义模型 - 用户需要为每个模型添加凭据配置。

从远程获取 - 与 predefined-model 配置方法类似，只需统一的供应商凭据，但模型是使用凭据信息从供应商获取的。

ModelFeature¶

智能体推理，通常 70B 以上的模型具有思维链能力。

视觉，即：图像理解。

工具调用

多工具调用

流式工具调用

FetchFrom¶

预定义模型

远程模型

LLMMode¶

文本补全

对话

ParameterRule¶

模型调用的实际参数名称

使用模板

有关使用模板的详细信息，可参考创建新模型供应商中的示例。

默认有 5 个预配置的变量内容模板：

temperature
top_p
frequency_penalty
presence_penalty
max_tokens

可以直接在 use_template 中设置模板变量名，这将使用 entities.defaults.PARAMETER_RULE_TEMPLATE 中的默认配置，无需设置除 name 和 use_template 之外的任何参数。如果设置了额外的配置参数，它们将覆盖默认配置。可参考 openai/llm/gpt-3.5-turbo.yaml 中的示例。

标签，i18n

中文标签



英文标签

参数类型

整数



浮点数



字符串



布尔值

帮助信息

中文帮助信息



英文帮助信息

是否必填，默认为 False

默认值

最小值，仅适用于数值类型

最大值，仅适用于数值类型

精度，保留的小数位数，仅适用于数值类型

下拉选项值，仅当 type 为 string 时适用，若未设置或为 null，则不限制选项值

PriceConfig¶

输入单价，即提示词单价

输出单价，即返回内容单价

价格单位，例如，若按每 1M 令牌计价，则单价对应的单位令牌数为 0.000001

货币单位

ProviderCredentialSchema¶

凭据表单规范

ModelCredentialSchema¶

模型标识符，默认变量名为 model

模型表单项显示名称


  英文



  中文




模型提示内容


  英文



  中文

凭据表单规范

CredentialFormSchema¶

表单项变量名

表单项标签

英文



中文

表单项类型

是否必填

默认值

select 或 radio 特有的表单项属性，定义下拉内容

text-input 特有的表单项属性，表单项占位符

英文



中文

text-input 特有的表单项属性，定义最大输入长度，0 表示无限制

当其他表单项值满足条件时显示，为空表示始终显示

FormType¶

文本输入组件

密码输入组件

单选下拉框

单选按钮组件

开关组件，仅支持 true 和 false

FormOption¶

标签

英文



中文

下拉选项值