百度申请混合专家模型自动并行方法专利,能够减少对专家模型类型的限制

金融界2025年4月24日消息,国家知识产权局信息显示,北京百度网讯科技有限公司申请一项名为“一种混合专家模型的自动并行方法、装置、设备和介质”的专利,公开号CN119806829A,申请日期为2024年12月。

专利摘要显示,本公开提供了一种混合专家模型的自动并行方法、装置、设备、介质和程序产品,涉及计算机技术领域,尤其涉及深度学习、人工智能和大模型技术。该方法包括:获取混合专家模型的计算图;确定专家模型的专家权重张量的进程拓扑;所述进程由所述分布式系统中的计算设备支持运行;将全局数据张量,拆分为对应专家模型所需的子数据张量,并设置所述子数据张量的进程拓扑与所对应专家模型的进程拓扑相同;通过专家模型基于输入的子数据张量和专家权重张量进行处理,以输出子结果张量;根据至少一个子结果张量,确定所述混合专家模型的结果张量。本公开实施例的技术方案,能够减少对专家模型类型的限制,实现混合专家模型跨进程的自行并行处理。

天眼查资料显示,北京百度网讯科技有限公司,成立于2001年,位于北京市,是一家以从事互联网和相关服务为主的企业。企业注册资本1342128万人民币。通过天眼查大数据分析,北京百度网讯科技有限公司共对外投资了74家企业,参与招投标项目2855次,财产线索方面有商标信息982条,专利信息5000条,此外企业还拥有行政许可56个。

本文源自:金融界

作者:情报员