基于Cherry Studio1.9.11,编写以下指南。

一、配置模型

(1)添加提供商

路径:设置——模型服务——添加——添加提供商

Cherry Studio:设置
Cherry Studio:设置

“添加提供商” 页面:

  • “提供商名称:可以自己定义,例如“古籍聊”;
  • “提供商类型”:保持默认值 “OpenAI”

然后点击 “确定”

Cherry Studio:添加提供商
Cherry Studio:添加提供商

(2)添加模型

  • 必填项:“API密钥”“API地址”。分别对应 古籍酷账号页 中的 “API Key”“Base URL”
  • Cherry Studio:添加模型
    Cherry Studio:添加模型
  • 点击 “获取模型列表”,点选全部三个模型,然后进入“编辑模型”
  • Cherry Studio:获取模型
    Cherry Studio:获取模型
    Cherry Studio:编辑模型
    Cherry Studio:编辑模型
  • 或者点击 “添加”,手动添加模型。然后再进入“编辑模型”
  • Cherry Studio:手动添加模型
    Cherry Studio:手动添加模型

(3)编辑模型

  • “模型ID” :每个模型对应一个模型ID,不可随意更改,分别是:punctuateocrextract_text
  • 添加模型时,需要手动填写;获取模型时,系统会自动设定模型ID。
    点开“更多设置”
  • “模型类型”:对ocr、extract_text,要勾选 “视觉”,否则无法上传图片。
  • 其他选项,如“支持增量文本输出”,可以勾选或保持默认状态。

然后,点击“保存”

Cherry Studio:编辑模型
Cherry Studio:编辑模型

2、设置助手

(1)开启对话。

路径:助手——添加助手,选择“默认助手”

Cherry Studio:添加助手
Cherry Studio:添加助手
Cherry Studio:默认助手
Cherry Studio:默认助手

(2)模型设置。

从助手菜单中点击“编辑助手”。选中“模型设置”卡。

Cherry Studio:编辑助手
Cherry Studio:编辑助手
  • “默认模型”:点击“选择模型”,选中punctuate(或ocrextract_text)。
  • “上下文数”:强烈建议设置为0。理由参见 《基础问答》
  • “流式输出”:对多文件、长文本的场景,保持勾选状态。其中:
    • extract_text:原生支持流式输出,始终保持勾选状态。
    • punctuate、ocr:模拟流式输出,通常会增加整体用时。在少文件、短文本的场景下,可以不勾选。
  • Cherry Studio:模型设置
    Cherry Studio:模型设置
  • “自定义参数”:对punctuate,在确实需要的情况下,可以设置keep_wrap 设置方法:
    1. 点击“添加参数”
    2. “参数名称”填写“param”类型“JSON”。格式如下: {"punctuate":{"keep_wrap":1}}
  • Cherry Studio:自定义参数
    Cherry Studio:自定义参数
  • 其他选项,诸如“模型温度”、“Top-P”、“最大Token数”、“最大工具调用次数”,都保持关闭状态。“工具调用方法”无法关闭,保持默认状态即可。

(3)为助手命名

可以在助手菜单中的“提示词设置”页中,为助手取一个好记的名字,例如“自动标点”,以便跟其他助手区分。

“提示词”保持空白,不需要填写。

然后点击“保存”

Cherry Studio:为助手命名
Cherry Studio:为助手命名

3、开始对话

(1)新建话题

选中助手,会展开“话题”标签页,然后点击“新建话题”

话题最上方的标签,依次为助手、模型。助手对应的模型可以中途切换。

Cherry Studio:为助手命名
Cherry Studio:为助手命名

(2)添加文件

1. punctuate

可以直接在聊天框中输出文本,也可以用“上传文档”添加一个或多个文件。

Cherry Studio未对文件格式作明确限制。经过测试,除了txt、docx、包含文字层的pdf之外,doc格式也在支持范围。

2. ocr、extract_text

通过“上传图片或文档”添加一个或多个图片。

模型类型视觉时,“上传文档”的文字提示将调整为“上传图片或文档”

如果在“编辑模型”“模型类型”未选择“视觉”,那么“上传文档”将出现文字提示:“模型不支持图片”

Cherry Studio对图片数量的要求比较宽松,超过了Chat后端单次请求文件数量50的上限,适合用于批量任务。

上传文档后,然后发送请求。

Cherry Studio:添加文件
Cherry Studio:添加文件

(3)获得结果

结果以文本的形式出现在消息框。

Cherry Studio:获得结果
Cherry Studio:获得结果