1、Chat是什么?
Chat,中文名 “古籍聊”,是古籍酷推出的一种新型API。它采用OpenAI API兼容接口标准,可无缝接入任意大模型客户端,用户只需在聊天对话框中即可便捷调用古籍酷的核心能力,完成基础的OCR、自动标点等任务。
2、Chat不是什么?
Chat并非通常意义上的大模型,更非近年流行的智能体。它可视作为接入现有大模型生态而构建的API中转服务,在功能上与传统API无本质差异,仍归属于判别式模型范畴,而非生成式模型。
3、Chat有哪些功能?
Chat目前包含三项功能(模型):
- ocr: 古籍OCR;
- punctuate:自动标点;
- extract_text:提取文本。
其中前两者为古籍酷的传统能力,性能与现有API及网页版完全一致;后者为试验性新功能,基于最新的开源视觉语言模型(目前为PaddleOCR VL 1.6),可对多语言、多版式图像提取文字,用以满足竖排古籍之外的更多样化OCR需求。
4、古籍酷已经有了API和网页版,为什么还要做Chat?
API适用于自动化、批量化操作,但其调用方法和数据格式较复杂;网页版提供可视化界面,支持精细数据编辑,但需一定学习成本。
两者均对使用者专业能力有要求,更适合严谨、标准化的工业场景,而对偶发性强、时间碎片化的业余需求则略显笨重——例如,使用网页版至少需经历“打开浏览器、输入网址、登录、上传图片、下载结果”五个步骤。
Chat恰好弥补了这一空白,使古籍酷成为随手可用的轻量级工具。借助日益成熟的大模型生态,用户可直接复用熟悉的客户端软件与使用习惯,无需打开网页、安装定制软件、配置复杂参数或处理JSON格式,仅通过对话框进行两三次点击或复制粘贴即可完成操作,体验上更为便捷高效。
5、Chat免费吗?
古籍酷为所有注册用户提供Chat试用版。用户可在网站账号页获取Base URL和API Key,每日享有100万Token的免费额度(未来可能根据整体情况调整)。
试用版API Key有效期最长为14天,最短为1天,用户可自行在网站上选择最适合的有效期,刷新续期。
6、Chat的Token消耗量是如何计算的?
文本Token按文本字符数(Unicode字符)计。图像Token以25×25像素为基本单位,四舍五入取整,单张图像上限不超过40000,例如2000×1500像素的图像,消耗Token为(2000/25)×(1500/25)=4800。
对于文本类模型(如punctuate),输入和输出均为文本;对于图像类模型(ocr、extract_text),输入为图像,输出为文本。输入Token按实际量计算,输出Token按实际量的3倍计。总消耗为输入Token与输出Token之和。
需注意,图像Token受客户端影响:部分客户端会对过大图片进行缩放,Token按缩小后的图像计算,导致消耗偏小。
7、为什么用Token代表使用量,而不是次数或字数?
大模型服务普遍采用Token,因其能准确反映生成式模型的实际计算成本。
即便对古籍OCR这类非纯生成任务,Token同样适用——其内嵌ViT(视觉Transformer)架构,将图像切分为Patch序列,本质上是一种“视觉Token”的序列化处理,且语言模型后处理依赖文本Token。图像中文字越多,Patch与文本Token数量递增,计算负担随之加重。按次计量则忽略篇幅差异,无法真实反映资源占用。
此外,采用Token便于用户与主流大模型进行横向对比,做出性价比最优选择;同时统一了各类API的计量方式,减少换算麻烦。
8、哪些大模型客户端支持Chat?
原则上,任何支持OpenAI API兼容接口标准、且支持自定义模型的大模型客户端,均可接入Chat。
我们目前主要围绕Chatbox和Cherry Studio进行测试,尚无法逐一覆盖市面所有客户端。
9、如何在客户端接入Chat?
各客户端的操作步骤大同小异,基本流程如下:
- 登录古籍酷网站 gj.cool,在账号页 gj.cool/account 获取Base URL和API Key。
- 打开客户端,进入自定义模型的配置界面。
- 将Base URL粘贴至“API地址(或主机)”栏,将API Key粘贴至“API密钥”栏。
- 点击“获取模型列表”,选择全部三个模型。若客户端不支持自动获取,则需手动添加模型,分别输入模型ID:ocr、punctuate、extract_text,建立三个模型。
- 对于ocr和extract_text,还需在“编辑模型”界面将模型类型(或能力)设置为“视觉”(勾选相应选项即可)。
10、Chat支持哪些文件格式?
Chat支持的文件格式取决于客户端的能力。
对于图像文件,OpenAI API兼容标准要求以Base64格式传输,因此部分客户端可能无法将某些特殊格式转换为Base64。
对于文本文件,多数客户端可读取txt、docx等格式,但处理方式各异:有的直接转为字符串,有的则转换为XML格式,后者包含大量标签,可能干扰自动标点。
Chat后端已对此做了一定适配,但难以覆盖所有极端情况,后续将根据反馈持续优化。
11、Chat是否支持输入多个文件?
Chat支持一次输入多个文件,上限为50个。
当文件数量较多或总文本过长时,强烈建议在“对话设置”中勾选“流式输出”,以防响应时间过长导致请求失败。
部分客户端自身会限制单次请求的文件数量,超出部分将被忽略,不会发送至Chat后端。
此外,不同客户端对多个文本文件的处理逻辑略有差异(如合并为单条消息或保持多条),但一般不影响使用体验。
12、Chat是否支持流式输出?
Chat同时支持流式输出与非流式输出。
非流式与传统API类似,一次性返回全部结果;流式输出则逐片段实时返回生成内容,使用户获得渐进式反馈,提升交互体验。
用户可在客户端的对话设置中自由切换,以对比两者差异。
13、使用Chat与使用大模型有什么区别?
Chat与大模型的核心区别在于:Chat是一个封装传统API的简化接口,仅负责将输入的图像或文本传递给模型并返回结果,并未设计指令遵循机制(如提示词、角色设定、温度、Top P等)。
用户只需在对话框上传文件或粘贴文本并发送,无需输入任何额外参数,后端自动忽略所有相关配置。
客户端“对话设置”中通常有“上下文数”选项,强烈建议设为0。
因为Chat后端仅处理最近一条消息,历史消息被完全忽略,既不影响输出也不额外消耗Token。。
传输多余上下文只会占用带宽、拖慢速度,尤其对图像文件影响更大,因此不携带历史信息是最佳实践
14、Chat与API在功能上有哪些差别?
Chat的参数体系相较于API大幅精简,仅对个别模型实验性地提供少量自定义参数,如punctuate模型的keep_wrap(保留换行)选项。
这些参数仅在支持自定义参数的客户端(如Cherry Studio)中可调用,其他客户端无法利用。
在图像格式支持上,API覆盖范围更广,而Chat受限于客户端将图像转为Base64的能力。
此外,客户端会自动缩小大尺寸图像,因此对图像尺寸敏感、需要精确定位的OCR任务,建议使用API而非Chat。
15、除了客户端,Chat能否直接用程序调用?
可以。Chat遵循OpenAI API兼容接口标准,用户可自行编写脚本或开发客户端软件,填入正确的Base URL和API Key即可调用。