职位&公司对比

职位详情

• 青岛
• 5-10年
• 本科

• Java
• Python
• C++
• Spring
• MySQL
• 架构设计经验
• 不接受居家办公
• LLM

职位描述 负责大模型工程相boss关工作,专注训练和推理稳定性方向,数据化驱动大模型全生命周期相关的工程工作。 1.在训练上,以大模型训练的有效训练时长和GPU利用率为目标,支持大模型训练工作的开展,围绕checkpoint、容错、中断定位等方向建设训练容错能力和配套工具,同时为架构设计、软硬件配平等提供支持。 2.在推理上,以线上推理稳定性和效率为目标,结合高可用能力建设的同时挖掘GPU弹性、VGPU等能力在生产中的应用,支持AI业务高效稳定的开展。 职位要求 1.具有扎实的编程基础,熟悉至少一种开发语言(java,c/c++,python,golang)或者熟悉掌握主流深度学习框架之一,例如TensorFlow/Pytorch等; 2.熟悉Linux操作系统,对Linux系统、网络等基础设施层有一定的了解和知识储备。 3.有大规模集群管理和业务管理、优化经验、产品或者高可用能力建设boss、大模型应用保障等经验优先。 4.具备对应岗位方向(以下其一)的知识储备,熟悉业界及开源常见解决方案者优先: a熟悉GPU、机器学习平台等基础设施,熟悉MLOps、LLMOps方向,熟悉业界或开源垂直领域的解决方案。参与过训练、推理、模型微调、模型优化、GPkanzhunUkanzhun虚拟化等其一方向的相关工作,有大模型经验更佳。 b熟悉至少1种主流深度学习框架开发和使用经验优先,如PyTorch/Triton/TF/TFServing或者主流推理后端使用,如ONNXRuntime/TensorRT/OpenVino.