职位&公司对比

职位详情

• 北京
• 5-10年
• 本科

• 深度学习
• 模型加速/性能优化
• C/C++
• Python
• 算法工程化经验
• 优秀开源项目经历
• 端侧推理框架
• AI框架

职位描述： 1.负责端侧高性能AI推理框架开来自BOSS直聘发，充分挖掘后端硬件的算力，boss构建业界性能领先的AI框架 2.适配小爱同学各业务算法模型，落地到各种端侧设备上，包含车、手机、IoT设备等 3.负责端侧大模型推理套件开发，优化推理性能，打造智能小爱 4.负责业界AI框架技术跟踪调研，以及学术界技术落地可行性分析 职位要求： 1.统招本科及以上学历，3年以上相关工作经验，熟悉业界开源框架设计实现，包含TFLite、MNN、MindSpore Lite、TVM等，具有框架开发经验更佳 2.熟悉自然语言模型结构，具备模型部署的调试调优能力，了解各种量化、剪枝、稀疏压缩等模型小型化技术，以及算子融合、图优化、访存优化等优化技术 3.熟悉常见开源大模型Llama2、Mistral、Gemma、MoE等模型结构，以及KVCache、PageAttention、FlashAttention、ContinueBatch、Medusa、Eagel等推理优化技术，具有端侧大模型端侧部署经验 4.熟悉CPU、GPU等通用硬件架构，以及相应指令集和算子库，了解一款主流NPU硬件架构和工具链，BOSS直聘比如HTP、APU等 5.具备扎实的C++和Python来自BOSS直聘的编程基础，有丰富的编程经验者优先 6.具有较强的学习和解决问题的能力，拥有良好的团队合作和沟通能力