使用ktransformers对MOE（混合专家）模型进行3到5倍的提速。在autodl算法社区CodeWithGPU使用 - View it on GitHub