职责描述
职位描述
1、参与 momenta 自动驾驶大模型、世界模型的分布式训练框架研发;
2、参与设计、研发、维护团队内部的模型分布式训练框架,擅长分析并深度优化训练各个阶段的性能瓶颈,包括计算效率、通信延迟、显存占用等;
3、结合不断迭代的模型算法逻辑,设计并实现针对性的高效分布式并行训练策略;
职位要求
1、学历背景:计算机相关专业,具备扎实的理论基础和强大的动手能力;
2、编程能力:熟悉Python/C++/CUDA/CUTLASS/Triton编程,熟悉PyTorch框架及其底层实现;
3、线下实习,长期实习6个月,每周实习4天及以上优先。