职位&公司对比

职位详情

• 广州
• 不限
• 本科

• C++
• Python
• MySQL
• Redis
• Oracle
• 推理优化

岗位描述 1、负责LLM等模型的端到端推理优化，包括但不限于模型量化，batcBOSS直聘hing等； 2、负责AI平台的基础设施建设，能快速落地包括工具链/组件在内的工程工作； 3、能持续跟进大模型相关直聘的前沿技术，直聘和业务合作推动相关场景落地。 岗位要求 1、熟练掌握Linux环境下的C/C++，Python语言，有两年以上的相关工程经验； 2、具备扎实的计算机科学功底，对操作系统原理有深入认识，有相关的性能调优或者研发经验； 3、熟悉常见算法和数据结构，具备扎实的编程能力和良好的编程习惯； 4、具备出色的学习能力和问题解决能力，且对推理优化工作有浓厚兴趣，愿意在这方面深入。 有以下经验者优先： 1、熟练使用boss至少一种主流的推理优化框架(TensorRT / vLLM / Triton 等)，对框架原理有一定认识； 2、熟悉至少一种经典深度学习模型及其应用场景，如BERT，LLM等。