职位&公司对比

职位详情

• 北京
• 5-10年
• 硕士

• 强化学习
• 机器学习
• 模型加速/性能优化
• 分布式训练
• 算法工程化经验
• GPU高性能计算
• Research推理优化

1、负责LLM和Diffusion Model的性能优化； 2、通过TensorRT、量化、剪枝、算子融合、cuda算子编写等性能优化的手段，结合业务需求，将GPU性能发挥到极致； 3、负责ByteDance Research推理优化技术的调研和引入； 4、与算法部门深度合作，进行算法与系统的联合优化。 职位要求 1、本科及以上学历，计算机/BOSS直聘电子/自动化/软件等相关专业，有AI工程优化经验的优先； 2、精通C/C++，精通算法与数据结构，熟悉Python； 3、熟练GPU的高性能计算优化技术，深入理解计算机体系结构，熟悉并行计算优化、访存优化，低比特计算等； 4、具备丰富的基于CUDA的GPU性能优化经验； 5、了解深度学习算法基本原理，熟来自BOSS直聘悉神经网络基本架构和各算子计算方式，了解至少一种深度学习训练框架及其模型文件来自BOSS直聘的解析，如Pytorch、Tensorflow； 6、熟悉TensorRT-LLM、ORCA、VLLM等； 7、了解主流LLMkanzhun 、Diffusion Model，有LLM 、Diffusion Model加速优化经验者优先。