职位&公司对比

职位详情

• 北京
• 3-5年
• 硕士

• 深度学习
• 机器学习
• 大模型算法
• 图像算法
• 自然语言处理算法
• 模型加速/性能优化
• C/C++
• 大数据处理框架(Spark/Hadoop/Hive)
• 推理部署

工作职责： 1.设计和实施算法以优化大型语言模型在端侧设备上的推理性能。 2.分析和评估不同硬件平台上BOSS直聘模型推理的性能和效率，并提出改进方案。 3.与团队合作BOSS直聘，设计和实施端到端的解决方案，以确保模型在嵌入式设备上的高效部署。 4.研究并应用最新的推理优化技术和工具，以不断提升系统性能。 任职要求： -1.计算机科学、电子工程、直聘数学或相关专业。 2.在机器学习、深度学习领域有丰富的经验，熟悉常用的端侧推理框架（如tvm、mlc、高通qnn等） 3.熟悉kv-cache、paged-attention、flash-attention等优化技术 4.熟悉CPU、GPU、NPU等硬件平台开发。 5. 熟悉常用的推理优化技术，如量化、剪枝、模型压缩等。 6. 具备扎实的编程能力，熟练BOSS直聘使用C/C++、Python。 7.boss良好的团队合作精神和沟通能力，能够与跨部门的团队合作解决复杂的技术问题。