本帖最后由 jf_40317719 于 2025-3-6 21:20 编辑
近期也有不少开发者想把自己的智能硬件接入DeepSeek大模型,本篇就以聆思CSK6大模型
开发板接入DeepSeek大模型为例,分享具体的接入步骤,大家按照文档步骤操作即可。
方案概述:
当前聆思CSK6大模型语音开发板方案是把开发套件当做输入端,文字或图片内容先上传到聆思的大模型平台(LSPlatform),然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能,我们如果要使用其他大模型,只需要从云端更改大模型接入节点,而无需去修改硬件端。
编排模板中包含3条链路,
● 链路1: 可通过注入节点调用DeepSeek节点,并将结果输出到debug1。
● 链路2: 可通过web对话页调用DeepSeek节点,最终将大模型结果输出到对话页面上。
● 链路3: 可通过开发板调用DeepSeek节点,最终将大模型输出的结果进行语音合成实现端侧播报
下载工程模板导入,配置参数后绑定开发板ID即可。
关键参数说明(以火山引擎版为例):
- HOST: rk.cn-beijing.volces.com
- API-KEY:DeepSeek的API-KEY的获取可参考官方文档 获取 API key--火山方舟大模型服务平台-火山引擎
- Model:这里 deepseek-r1-250120 可选择,若要更换其他模型,可自行添加。调用其他模型可参考DeepSeek官方文档 Doubao API 调用指南--火山方舟大模型服务平台-火山引擎
自定义推理点模型名字要通过设置model=ep-xxxxxxxxxxxxx-yyyy来进行调用,详情可参考官方文档 API 调用指南--火山方舟大模型服务平台-火山引擎