【附实操视频】聆思CSK6大模型开发板接入国内主流大模型（星火大模型、文心一言、豆包、kimi、智谱glm、通义千问）

2024-8-22 10:12:02 3313 AI大模型智能硬件

1 主流大模型接入演示和实操讲解本帖最后由 jf_40317719 于 2024-8-22 10:15 编辑多模态交互离不开硬件载体，近期有不少开发者在研究聆思CSK6大模型开发板除了使用出厂示例自带的星火大模型，能不能接入文心一言、通义千问、豆包、智谱glm、kimi等国内的大模型，但由于各家接口和数据格式不一样，调试验证会浪费很多时间。因此本篇以聆思CSK6大模型开发板接入为例，分享具体的接入步骤和接入模板，大家按照文档步骤使用模板操作即可。当前SDK方案是把开发套件当做输入端，文字或图片内容先上传到聆思的大模型平台（LSPlatform），然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能，我们如果要使用其他大模型，只需要从云端更改大模型接入节点，而无需去修改硬件端。链路说明为方便大家实操，设计了3条链路以方便大家调试和验证接入结果，详情如下： ● 链路1: 可通过inject节点调用大模型节点，并将结果输出到output1。 ● 链路2: 可通过web对话页调用大模型节点，最终将大模型结果输出到对话页面上。 ● 链路3: 可通过开发板调用大模型节点，最终将大模型输出的结果进行语音合成实现端侧播报。目前已经接通文心一言、豆包、kimi、智谱glm、通义千问等国内主流大模型，详细模板和操作步骤可以参考附件文档。 0 本主题由 ElecFans小喇叭于 2024-8-22 11:00 审核通过手把手教你在智能硬件上接入国内主流大模型实现语音对话.zip 7.06 MB , 下载次数: 1
举报淘帖0 只看该作者最近下载过的用户(1) 相关推荐 • 【「大模型启示录」阅读体验】对大模型更深入的认知 617 • 【实操文档】在智能硬件的大模型语音交互流程中接入RAG知识库 6665 • 智能硬件接入主流大模型做语音交互（附文心一言、豆包、kimi、智谱glm、通义千问示例） 3035 • 聆思CSK6视觉语音大模型AI开发板入门资源合集（硬件资料、大模型语音/多模态交互/英语评测SDK合集） 4868 • CSK6011与NVIDIA Jetson Nano开发板对比 903 • 聆思CSK6视觉AI开发套件初体验 1648 • 聆思CSK6视觉AI开发套件点灯 + AI功能体验 2023 • 一文详解Ubuntu环境下AI图像识别体验 1478 • CSK6视觉AI开发套件初次体验 2489 • 【创龙TMS320C6748开发板试用】+ 建议出基于模型的开发教程 2306