智源研究院宣布,已联合多个芯片厂商共同开发并开源DeepSeek-R1多芯片版本,旨在推动大模型在不同芯片上的适配应用,打破生态墙和算力束缚,构建多元芯片的统一技术栈和开源软硬件生态。此次发布的基于FlagOS的DeepSeek-R1多芯片版本,是业界首次通过统一开源软件栈实现的多芯片开源版本,并给出了严谨的模型对齐结果,确保了开源可用性和统一易用性。
智源研究院副院长兼总工程师林咏华表示,基于FlagOS,用户只需几步即可在支持的AI芯片服务器上完成环境搭建和模型部署,这意味着国产芯片也可以部署满血版DeepSeek-R1。DeepSeek-R1多芯片版本使用同一套开源代码和底层框架,在不同AI芯片架构上实现了推理功能,推动了生态统一与开放。在各个芯片服务器上,均与英伟达芯片上的DeepSeek-R1进行了严格评测,确保效果一致。
多芯片版本的源代码、模型文件以及一站式Docker运行镜像文件已在GitHub、Gitee、Huggingface和魔搭等平台上开放,方便开发者获取。依托各芯片适配的基础镜像,安装FlagOS核心组件,包括异构并行训推框架FlagScale和大模型通用算子库FlagGems。这使得一键部署DeepSeek-R1模型服务和自动分布式推理调优成为可能,同时提供与OpenAI兼容的API,降低了使用门槛,提升了部署效率。