工作职责
1、负责大模型算法的适配和调优;
2、负责大模型的推理,训练相关的工程优化;
3、负责大模型的推理,训练相关框架的国产芯片适配;
4、根据行业场景需求设计微调工具等;
职位要求
1、计算机科学、人工智能、自然语言处理或相关专业领域;熟悉python/go/C++
2、熟悉常见的深度学习框架,如:Pytorch等
3、了解Megtron,Deepspeed、llama-factory、verl等大模型通用训练框架;
4、了解vLLM,sglang,Transforms等大模型通用推理框架。