[招聘]

【急聘大牛】推理芯片软件架构师（上海）

2025-9-12 11:54:38 4651

0 岗位：推理芯片软件架构师工作地点：上海薪酬：年30-100W 要求：统招本科以上、45岁以内、半导体行业经验联系方式：微信13216177535（欢迎各位大牛加微信聊）工作职责： 1.软件架构设计：主导推理芯片软件栈的整体架构设计，涵盖调度系统、编译系统、计算系统以及分布式系统等关键模块，特别关注对大模型的支持，确保软件架构能高效适配大模型的复杂计算逻辑和海量参数处理需求，保障架构的高效性、可扩展性与稳定性，满足不同应用场景对芯片推理性能的需求。 2.制定性能优化方案：针对大规模分布式推理任务，尤其是大模型的分布式推理，设计并实施软件系统性能优化策略。深入研究芯片架构特点，结合大模型算法优化、资源调度等手段，显著提升推理效率，降低计算资源消耗，实现推理性能的最大化。 3.协同设计与沟通：负责软件组件之间的协同设计，促进各模块间的高效协作。紧密与硬件团队合作，参与软件与硬件的协同设计流程，从软件需求角度，特别是大模型推理对硬件的特殊要求，对硬件设计提出建设性意见，确保软硬件协同工作的流畅性与最佳性能匹配。同时，跨团队协调沟通，推动项目顺利进展，确保各环节按计划交付。 4.技术追踪与创新：密切关注行业最新动态，包括新兴的大模型推理算法、芯片架构技术以及软件优化方法等。基于公司推理芯片架构特点，提出前瞻性的技术建议与创新方案，尤其是在大模型适配与优化方面，为公司产品的技术升级与差异化竞争提供有力支持。积极开展技术储备工作，探索前沿技术在推理芯片软件领域的应用可能性，保持公司技术的领先地位。 5.生态建设与合作：参与公司推理芯片软件生态系统的建设工作，重点关注大模型在各行业的应用生态，与合作伙伴共同探索芯片在大模型相关行业的应用场景，提供技术支持与解决方案。任职要求： 1.教育背景：计算机科学、电子工程、软件工程或相关专业，硕士及以上学历优先。扎实的专业基础为理解和解决复杂的芯片软件架构问题，尤其是大模型相关的架构设计问题提供保障。 2.工作经验：拥有 5 年以上芯片软件设计或相关领域工作经验，其中至少 3 年专注于推理芯片软件架构设计，有大模型推理系统落地部署相关经验者优先。 3.技术能力：深入理解 NPU（神经网络处理器）、GPGPU（通用图形处理器）等硬件的工作原理，熟悉 CUDA等常用软件栈，能够熟练运用相关技术进行编程与优化，了解这些硬件和软件栈在大模型推理中的应用特点。精通 C/C++ 编程语言，熟练掌握 STL 库，具备优秀的编程能力与代码优化技巧，确保软件实现的高效性与稳定性，能应对大模型推理中的高并发、高计算量需求。熟悉基础的程序开发技能，包括算法和数据结构、程序编译与构建、测试案例设计、shell 脚本编写等，具备全面的软件开发素养，能为大模型推理软件的开发提供坚实基础。了解常见 AI 模型的结构与原理，深入理解大模型的架构特点、推理机制及优化方法，如 Transformer 架构等，能够针对大模型进行推理性能优化。熟悉 AI 模型中的算子，尤其是大模型中特殊算子的优化方法，提升芯片对各类模型，特别是大模型的执行效率。掌握分布式系统设计原理，熟悉分布式推理框架（如 TensorFlow Serving、ONNX Runtime Server 等）的使用与优化，了解大模型分布式推理的关键技术，如模型并行、数据并行等，能够设计和实现高效的分布式大模型推理方案。对编译器原理有一定了解，熟悉 LLVM 等编译器框架者优先，能够参与编译系统的设计与优化，提升代码生成质量与执行效率，尤其是针对大模型的编译优化。 4.其他能力：具备优秀的问题解决能力，能够在复杂的技术环境中，特别是大模型推理相关的复杂场景中迅速定位问题根源，并提出有效的解决方案。面对技术难题时保持冷静，运用扎实的技术知识和丰富的经验进行分析和解决。拥有良好的沟通能力和团队协作精神，能够与不同专业背景的团队成员进行高效沟通与合作。在跨部门项目中，协调各方资源，推动项目顺利进行，实现共同目标，尤其是在涉及大模型相关的跨团队合作中。具备较强的学习能力和自我驱动力，能够快速掌握大模型领域的新技术、新方法，并将其应用于实际工作中。在快速发展的芯片与人工智能领域，持续学习和自我提升是保持竞争力的关键。 0 本主题由 liuyongwangzi 于 2025-9-12 13:34 审核通过
2025-9-12 11:54:38　　评论淘帖0 举报相关推荐 • 京东商城急聘硬件架构师 2258 • 【上海】诚聘ava架构师 1548 • 嵌入式软件架构师 8 • 怎样成为软件架构师 3410 • 什么是前端架构师如何成为前端架构师？ 5869 • 什么是架构师架构师的自我修养是什么 3320 • 芯片架构师需要考虑哪些问题 1344 • 什么是架构师 4809 • 架构师最重要的是什么 1625 • 诚聘硬件架构师 1832