基于Chatbox 1.21.1,编写以下指南。

一、配置模型

(1)添加模型提供商(版本)

路径:设置——模型提供方——添加——添加自定义提供商

Chatbox:设置
Chatbox:设置
Chatbox:模型提供方、添加
Chatbox:模型提供方、添加
Chatbox:添加自定义提供商
Chatbox:添加自定义提供商

“添加模型提供商” 页面:

  • “名称”:可以自己定义,例如“古籍聊”;
  • “API模式”:保持默认值 “OpenAI API 兼容”

然后点击 “添加”

Chatbox:添加模型提供商
Chatbox:添加模型提供商

(2)添加模型

  • 必填项:“API密钥”“API主机”。分别对应 古籍酷账号页 中的 “API Key”“Base URL”
  • Chatbox:添加模型
    Chatbox:添加模型
  • 点击 “获取”,点选全部三个模型,然后进入“编辑模型”
  • Chatbox:获取模型
    Chatbox:获取模型
  • 或者点击 “新建”,手动添加模型。然后再进入“编辑模型”
  • Chatbox:编辑模型按钮
    Chatbox:编辑模型按钮

(3)编辑模型

  • “模型ID” :每个模型对应一个模型ID,不可随意更改,分别是:punctuateocrextract_text。新建模型时,需要人工填写;获取模型时,系统会自动设定模型ID。
  • “模型类型”:保持默认值 “聊天”
  • “能力”:对ocr、extract_text,要勾选 “视觉”
  • “高级设置”:全部留空即可。

然后,点击“保存”

Chatbox:编辑模型
Chatbox:编辑模型

2、使用模型

(1)开启对话。

点击左侧“新对话”,然后点击右下角“搜索模型”,选择punctuate(或ocr、extract_text)。

Chatbox:新对话
Chatbox:新对话

(2)对话设置。

在“对话设置”页,

  • “名称”:建议根据任务类型,拟定一个固定名称,例如“自动标点”。以后进行同类任务,都在该对话中完成,免去开启新对话后重新设置的麻烦。
  • “系统提示(角色设定)”:完全不需要,可以清空。
  • “上下文的消息数量上限”:强烈建议设置为 0。理由参见 《基础问答》
  • “流式输出”:对多文件、长文本的场景,很有必要。可以保持默认勾选状态。
  • 其他选项,诸如“温度”、“TOP P”、“最大输出Token数”,都不需设置。

然后,点击“保存”。

Chatbox:对话设置
Chatbox:对话设置

(3)添加文件

1. punctuate

可以直接在聊天框中输出文本,也可以用“选择文件”添加一个或多个文件。

受支持的常见文件类型包括:TXTDOCXPDF(应包含文字层)等等。

注意:Word旧格式DOC由于是二进制格式,不受支持。

2. ocr、extract_text

通过“添加图片”添加一个或多个图片。

最多支持8张图片。超出数量上限的图片会被跳过。

Chatbox:添加文件
Chatbox:添加文件

(4)发送请求

Chatbox:发送请求
Chatbox:发送请求

(5)获得结果

结果以文本的形式出现在消息框。

Chatbox:获得结果
Chatbox:获得结果

3、其他用法

(1)Chatbox AI账号

Chatbox 尽管目前属于免费开源状态,但也推出了官方托管服务Chatbox AI。

无论是否登录Chatbox AI账号,都不影响Chatbox的基本功能,包括前面关于Chat模型的配置和使用。

而在登录Chatbox AI账号后,在某些情况下可能会自动触发诸如话题命名文档解析等需要消耗“计算点数”的官方服务。

尤其在使用punctuate时,如果文件内容过长且处于Chatbox AI(官方托管)账户登录状态,会有极大概率自动触发Chatbox AI的文档解析,不仅会消耗大量点数,还会导致Chat后端无法接收到完整文档内容。即便在“设置——文档解析器”中设置为“内置解析”(号称“免费使用,不消耗计算点数”),也无法解决。

因此建议在出现以上情况时,退出Chatbox AI账号登录状态后再使用。

(2)默认OCR模型

可以将ocrextract_text设置为Chatbox的默认OCR模型。

Chatbox 将使用此模型对图像进行 OCR 识别,并将文本发送给不支持图像的模型。

设置方法:

  • 设置——默认模型——OCR模型,选择ocrextract_text
Chatbox:设置OCR默认模型
Chatbox:设置OCR默认模型