快科技2月6日音问，华为ModelEngine是大模子教师、推理和愚弄缔造的AI平台开云kaiyun官方网站，提供从数据预处理到模子教师、优化及部署的一站式处事。

华为官方示意，ModelEngine现已全面赈济DeepSeek系列模子R1&V3 671B以及蒸馏系列模子，缔造者可通过ModelEngine杀青“一键部署”。

此举省去硬件选型、兼容性考据和环境建树等繁琐次第，大幅谴责企业AI愚弄门槛。

此外华为还示意，ModelEngine通过其高度的通达性和模块化议论，极地面裁汰了DeepSeek的腹地部署时辰。

底下以DeepSeek-R1为例，基于ModelEngine 3步快速完成部署模子

1、登录ModelEngine模子处理页面，上传DeepSeek-R1 FP8权重，然后进行模子权重体式调动，将FP8精度模子权重调动为BF16精度模子权重；

2、在模子处事页面，遴荐BF16精度的模子权再版块，下发推理处事，初始任务部署；

3、ModelEngine使用MindIE推理框架初始DeepSeek-R1推理处事后，赈济OpenAI API 调用作风的推理处事接口和侦察时势；

4、ModelEngine 初始 DeepSeek-R1 推理处事后，平台赈济 OpenAI API 调用作风的推理处事接口和侦察时势，用户不错将该 API 集成到对话、RAG 以及 Agent 愚弄。

到这里，基于ModelEngine稀疏化腹地部署的DeepSeek-R1好意思满版推理处事API也曾就绪了。

用户不错将推理处事API集成到对话愚弄、RAG大要Agent愚弄中，在保证数据安全的前提下，让DeepSeek-R1比好意思全国头部顶流闭源大模子处事智能的才智。

【本文截止】如需转载请务必注明出处：快科技

包袱剪辑：即兴开云kaiyun官方网站

著述推行举报

]article_adlist--> 　　声明：新浪网独家稿件，未经授权辞谢转载。 -->