0JVk_英特尔的个人主页_电子工程师 - 电子技术论坛

0JVk_英特尔

经验：积分：0

查看完整档案 >>

+关注发私信

他的动态

发布了文章 7 天前

LabVIEW OpenVINO工具包全新升级

自2022年面世以来，凭借其卓越的性能、友好的用户界面以及强大的功能集成，赢得了业界的广泛认可。...

0

164次阅读

0条评论
发布了文章 7 天前

使用vLLM+OpenVINO加速大语言模型推理

随着大语言模型的广泛应用，模型的计算需求大幅提升，带来推理时延高、资源消耗大等挑战。...

0

206次阅读

0条评论
发布了文章 7 天前

基于哪吒开发板部署YOLOv8模型

2024英特尔 “走近开发者”互动活动-哪吒开发套件免费试用 AI 创新计划：哪吒开发板是专为支持入门级边缘 AI 应用程序和设备而设计，能够满足人工智能学习、开发、实训等应用场景。为了测试该开发板的推理性能，同时测试所推出的 OpenV...

0

138次阅读

0条评论
发布了文章 2024-11-14 17:17

英特尔与火山引擎飞连携手升级AI时代企业IT管理体验

在 AI 技术的推动下，企业 IT 管理正经历一场革命。日前，火山引擎飞连新品发布会成功举办。英特尔受邀参与此次活动，并在会上展示了新一代英特尔凌动 x7000 系列处理器等产品，与火山引擎飞连携手升级 AI 时代企业 IT 管理体验。...

0

433次阅读

0条评论
发布了文章 2024-11-10 14:03

英特尔携手浪潮信息从边缘计算向边缘智算迈进

在数字化转型和智能化升级的大背景下，数据的处理和计算能力的部署正逐渐向网络边缘和设备边缘转移。这种转变不仅能够显著降低应用的响应延迟，确保数据安全，还能够减少对集中式云服务和核心网络的依赖，同时提升对多样化应用场景的适应性和服务能力。随着大...

0

710次阅读

0条评论
发布了文章 2024-11-1 14:21

使用PyTorch在英特尔独立显卡上训练模型

《PyTorch 2.5重磅更新：性能优化+新特性》中的一个新特性就是：正式支持在英特尔独立显卡上训练模型！...

0

215次阅读

0条评论
发布了文章 2024-11-1 14:19

使用OpenVINO Model Server在哪吒开发板上部署模型

OpenVINO Model Server(OVMS)是一个高性能的模型部署系统，使用C++实现，并在Intel架构上的部署进行了优化，使用OpenVINO 进行推理，推理服务通过gPRC或REST API提供，使得部署新算法、AI实验变得...

0

177次阅读

0条评论
发布了文章 2024-10-25 16:01

利用OpenVINO搭建本地智能体流水线

智能体 AI Agent 作为大模型的衍生应用，具有对任务的理解、规划与行动能力。它可以通过将一个复杂的用户请求拆分成不同的子任务，并依次调用外部工具来解决这些任务，并将其中每个任务步骤的执行结果，按预先规划的逻辑串联起来，从而达成最终的目...

0

177次阅读

0条评论
发布了文章 2024-10-18 09:39

利用OpenVINO部署Qwen2多模态模型

多模态大模型的核心思想是将不同媒体数据（如文本、图像、音频和视频等）进行融合，通过学习不同模态之间的关联，实现更加智能化的信息处理。简单来说，多模态大模型可以可以理解多种不同模态的输入数据，并输出相应反馈结果，例如图像理解，语音识别，视觉问...

0

298次阅读

0条评论
发布了文章 2024-10-12 09:59

使用OpenVINO和LlamaIndex构建Agentic-RAG系统

RAG 系统的全称是 Retrieval-augmented Generation，本质上是 Prompt Engineering，通过在 Prompt 中注入检索得到的外部数据，可以有效地解决大语言模型在知识时效性和专业性上的不足。但同时...

0

196次阅读

0条评论
发布了文章 2024-10-12 09:55

使用OpenVINO C++在哪吒开发板上推理Transformer模型

OpenVINO 是一个开源工具套件，用于对深度学习模型进行优化并在云端、边缘进行部署。它能在诸如生成式人工智能、视频、音频以及语言等各类应用场景中加快深度学习推理的速度，且支持来自 PyTorch、TensorFlow、ONNX 等热门框...

0

272次阅读

0条评论
发布了文章 2024-10-12 09:51

英特尔如何助力服饰品牌引领风尚

在时尚的海洋中，品牌如同航行者，而趋势则是海上的启明星。...

0

317次阅读

0条评论
发布了文章 2024-10-12 09:46

“智造·芯生无限”Intel AI Summit成功举行

日前，由英特尔主办的“智造·芯生无限” Intel AI Summit在上海虹桥康得思酒店成功举行。此次活动吸引了来自百度、利珀、CODESYS 、诺达佳、智谱AI、浙江人形机器人创新中心、研扬科技、亿琪软件、仪酷智能、千瞳智能科技等众多技...

0

380次阅读

0条评论
发布了文章 2024-10-12 09:41

OpenVINO 2024.4持续提升GPU上LLM性能

本次新版本在整个 OpenVINO 产品系列中引入了重要的功能和性能变化，使大语言模型（LLM）的优化和部署在所有支持的场景中更容易、性能更高，包括边缘和数据中心环境的部署。...

0

281次阅读

0条评论
发布了文章 2024-10-12 09:39

使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型

前面我们分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日，Meta又发布了Llama3.2：一个多语言大型语言模型（LLMs）的集合。...

0

454次阅读

0条评论