为了保证服务质量和使用体验,我们目前仅支持由平台统一调用大模型,暂不支持用户通过自定义接口或自己的 API Key 来直接访问模型。这样做的原因,主要是我们云端并非只调用大模型,而是采用本地+外部接口+大模型的方式来部署的,单靠大模型目前的功能无法全部实现:
1. 统一提示词管理
当前我们尚未实现完全自动化的提示词工程,提示词的优化很大程度上依赖于用户的反馈。通过云端统一管理,我们可以实时更新和优化提示词策略,及时修复潜在问题。而如果做本地调用,很多插件可能长时间不更新,用户也就无法享受到持续优化带来的内容质量提升。
2. 多语言环境配置
大模型在多语言处理方面仍存在局限,尤其是混合语种提示词时输出语种常常不准确。我们也不可能为一个提示词翻译成上百种语言,所以在我们的服务端,我们建立了多层语言识别机制:
- 主流语言: 通过本地化语言识别引擎快速识别;
- 小语种/疑难语种: 接入阿里云机器翻译(该服务为收费接口);
- 大模型兜底: 使用大模型作为兜底识别手段。
这样我们可以将输入语种与目标文章语种的一致性提升到 98%以上(错误率主要来自于内容太短,语种类似比如中文简/繁样本少的情况下很难准确识别),极大提高内容的可用性。相比之下,如果交由用户端自行处理,语种识别错误率将大幅上升,尤其在多语言网站中,几乎不可用。
3. 评论头像生成
目前大模型无法直接生成用户头像,因此我们需要配合本地的头像管理系统为每条评论自动匹配头像。有些用户可能会建议使用邮箱调用头像服务(如 Gravatar),但该方式不仅合规风险较高,而且命中率极低 —— 随机生成的邮箱能显示头像的不足 10%甚至更低,几乎无法满足使用需求。
4. 数据本地处理
即使我们在提示词中定义了规则,但同一套提示词在大批量生成时一些随机性的信息重复是无法避免。为此,我们在服务器端专门设计了本地+云的方式,处理这些问题,提升内容的真实性和可控性。
5. 平台收费的说明
我们的定价基于实际的运营成本核算,每月 5-10 日为资源包价格调整期,若成本波动不大则维持原价不变。我们计划未来为用户提供 AI 使用月报,让大家清晰了解本月使用情况,包括:
- 使用次数
- Token 消耗量
- 成本构成
目前我们平台的资源包定价标准如下:
- 会员用户: 在大模型使用成本基础上溢价 5%
- 非会员用户: 在大模型使用成本基础上溢价 15%
这部分费用将用于支付服务器使用、第三方接口费用、系统维护等运营成本。