AMD近期宣布了一项重大进展,成功将经过优化的DeepSeek-V3模型集成到其Instinct MI300X GPU上。这一模型通过SGLang进行了强化,专为AI推理设计,旨在提升性能。 事实上,早在去年12月26日,AMD已在Github上发布了支持DeepSeek-V3模型的SGLang v0.4.1版本,为这一集成奠定了基础。