OpenVINO开发小组
直播中

李霞

8年用户 1341经验值
私信 关注
[问答]

无法在OVMS上运行来自Meta的大型语言模型 (LLM),为什么?


  • 无法在 OVMS 上运行来自 Meta 的大型语言模型 (LLM),例如 LLaMa2。
  • 从 OVMS GitHub* 存储库运行 llama_chat Python* Demo 时遇到错误。

回帖(1)

胡芝恒

2025-3-5 11:32:15
已从 OVMS GitHub* 存储库llama_chat弃用的 Python* 演示 版。
构建 llm_text_generation Python* 演示 ,它使用全新的 MediaPipe Python* 计算器功能,可以更轻松地保存美洲驼模型。
举报

更多回帖

发帖
×
20
完善资料,
赚取积分