0JVk_英特尔的个人主页_电子工程师 - 电子技术论坛

0JVk_英特尔

经验：积分：0

查看完整档案 >>

+关注发私信

他的动态

发布了文章 7 天前

使用PyTorch在英特尔独立显卡上训练模型

《PyTorch 2.5重磅更新：性能优化+新特性》中的一个新特性就是：正式支持在英特尔独立显卡上训练模型！...

0

139次阅读

0条评论
发布了文章 7 天前

使用OpenVINO Model Server在哪吒开发板上部署模型

OpenVINO Model Server(OVMS)是一个高性能的模型部署系统，使用C++实现，并在Intel架构上的部署进行了优化，使用OpenVINO 进行推理，推理服务通过gPRC或REST API提供，使得部署新算法、AI实验变得...

0

127次阅读

0条评论
发布了文章 2024-10-25 16:01

利用OpenVINO搭建本地智能体流水线

智能体 AI Agent 作为大模型的衍生应用，具有对任务的理解、规划与行动能力。它可以通过将一个复杂的用户请求拆分成不同的子任务，并依次调用外部工具来解决这些任务，并将其中每个任务步骤的执行结果，按预先规划的逻辑串联起来，从而达成最终的目...

0

148次阅读

0条评论
发布了文章 2024-10-18 09:39

利用OpenVINO部署Qwen2多模态模型

多模态大模型的核心思想是将不同媒体数据（如文本、图像、音频和视频等）进行融合，通过学习不同模态之间的关联，实现更加智能化的信息处理。简单来说，多模态大模型可以可以理解多种不同模态的输入数据，并输出相应反馈结果，例如图像理解，语音识别，视觉问...

0

247次阅读

0条评论
发布了文章 2024-10-12 09:59

使用OpenVINO和LlamaIndex构建Agentic-RAG系统

RAG 系统的全称是 Retrieval-augmented Generation，本质上是 Prompt Engineering，通过在 Prompt 中注入检索得到的外部数据，可以有效地解决大语言模型在知识时效性和专业性上的不足。但同时...

0

162次阅读

0条评论
发布了文章 2024-10-12 09:55

使用OpenVINO C++在哪吒开发板上推理Transformer模型

OpenVINO 是一个开源工具套件，用于对深度学习模型进行优化并在云端、边缘进行部署。它能在诸如生成式人工智能、视频、音频以及语言等各类应用场景中加快深度学习推理的速度，且支持来自 PyTorch、TensorFlow、ONNX 等热门框...

0

242次阅读

0条评论
发布了文章 2024-10-12 09:51

英特尔如何助力服饰品牌引领风尚

在时尚的海洋中，品牌如同航行者，而趋势则是海上的启明星。...

0

303次阅读

0条评论
发布了文章 2024-10-12 09:46

“智造·芯生无限”Intel AI Summit成功举行

日前，由英特尔主办的“智造·芯生无限” Intel AI Summit在上海虹桥康得思酒店成功举行。此次活动吸引了来自百度、利珀、CODESYS 、诺达佳、智谱AI、浙江人形机器人创新中心、研扬科技、亿琪软件、仪酷智能、千瞳智能科技等众多技...

0

359次阅读

0条评论
发布了文章 2024-10-12 09:41

OpenVINO 2024.4持续提升GPU上LLM性能

本次新版本在整个 OpenVINO 产品系列中引入了重要的功能和性能变化，使大语言模型（LLM）的优化和部署在所有支持的场景中更容易、性能更高，包括边缘和数据中心环境的部署。...

0

244次阅读

0条评论
发布了文章 2024-10-12 09:39

使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型

前面我们分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日，Meta又发布了Llama3.2：一个多语言大型语言模型（LLMs）的集合。...

0

371次阅读

0条评论
发布了文章 2024-10-12 09:36

使用OpenVINO GenAI API在C++中构建AI应用程序

许多桌面应用程序是使用 C++ 开发的，而将生成式AI（GenAI）功能集成到这些应用程序中可能会很具有挑战性，尤其是因为使用像 Hugging Face 这样的 Python 库的复杂性。C++ 结合 OpenVINO Runtime 提...

0

264次阅读

0条评论
发布了文章 2024-9-23 15:57

英特尔物联网赋能千行百业智慧化发展

作为中国四大传统节日之一，“端午食粽”的习俗延续至今，一到端午，制作粽子的订单如潮水般涌来，从工厂生产、物流运输、经营销售，到最终走向餐桌，物联网与人工智能等技术应用在每个环节。...

0

319次阅读

0条评论
发布了文章 2024-9-23 15:52

英特尔出席2024上海·AI大模型盛会

一场属于开发者的技术盛宴“AI大模型：颠覆式创新与落地实践”在上海模速空间完美收官，为所有参与者留下了深刻印象与满满收获。...

0

456次阅读

0条评论
发布了文章 2024-9-23 15:48

英特尔发布至强6处理器产品

以“绿色向新，释放新质生产力”为主题的英特尔至强6能效核处理器新品发布会在北京举行。会上，英特尔重磅推出首款配备能效核的英特尔至强6处理器产品（代号Sierra Forest），为高密度、横向扩展工作负载带来性能与能效的双重提升，同时携手金...

0

292次阅读

0条评论
发布了文章 2024-8-30 17:04

英特尔助力安恒信息加速恒脑大模型推理

如今，安全大模型正在为网络安全行业带来深度变革，在网络安全分析、威胁检测、智能策略制定等方面扮演着重要角色。推动大模型在安全场景落地，不仅需要基于安全领域知识，训练和微调出高质量的安全大模型，还需要面临在用户侧部署所需的性能、成本和灵活性挑...

0

896次阅读

0条评论