一种面向异构环境的大模型混合并行训练方法和系统

被引：0

专利类型：

发明

申请号：

CN202311549421.5

申请日：

2023-11-17

公开(公告)号：

CN117633527A

公开(公告)日：

2024-03-01

发明(设计)人：

赵志刚李传涛王春晓霍吉东李响耿丽婷张俭

申请人：

山东省计算中心（国家超级计算济南中心）齐鲁工业大学（山东省科学院）

申请人地址：

250000 山东省济南市历下区科院路19号

IPC主分类号：

G06F18/214

IPC分类号：

G06N3/126

代理机构：

济南圣达知识产权代理有限公司 37221

代理人：

刘晓玉

法律状态：

公开

国省代码：

山东省济南市

引用

下载

收藏

法律状态

法律状态公告日	法律状态	法律状态信息
2024-03-01	公开	公开
2024-03-19	实质审查的生效	实质审查的生效IPC(主分类):G06F 18/214申请日:20231117

共 50 条

[1]

一种结合冻结机制的异构集群混合并行训练方法及系统 [P].

张竞慧 ;

邹宗霖 ;

钱旭威 ;

钟艾佳 ;

沈典 ;

东方 .

中国专利 :CN121145971A ,2025-12-16

[2]

异构系统的模型并行训练方法、装置和计算机设备 [P].

吴元戎 ;

唐秀 ;

伍赛 ;

汪睿 ;

杨智慧 ;

袁巩生 ;

姚畅 .

中国专利 :CN119536983A ,2025-02-28

[3]

一种面向异构分布式环境的大模型高效训练方法及系统 [P].

张盛 ;

陈泽宇 ;

石力文 ;

曾子杰 ;

季芸 ;

王博闻 ;

林俊 .

中国专利 :CN121072649A ,2025-12-05

[4]

大规模GPU集群混合并行模型训练方法 [P].

莫毓昌 ;

万健 ;

张运涛 ;

王军 .

中国专利 :CN121187764A ,2025-12-23

[5]

面向异构序列负载的灵活大模型训练方法及系统 [P].

崔斌 ;

王驭捷 ;

王士举 ;

竺沈涵 ;

符芳诚 ;

刘新一 ;

赵通 .

中国专利 :CN119886324A ,2025-04-25

[6]

一种用于多模态模型的高效混合并行训练方法 [P].

郭志鹏 ;

柯福阳 ;

刘晓东 ;

李传坤 ;

方铭 ;

张昕怡 .

中国专利 :CN120163267B ,2025-08-01

[7]

一种用于多模态模型的高效混合并行训练方法 [P].

郭志鹏 ;

柯福阳 ;

刘晓东 ;

李传坤 ;

方铭 ;

张昕怡 .

中国专利 :CN120163267A ,2025-06-17

[8]

基于混合并行方式的模型训练方法、装置以及设备 [P].

李凡鑫 ;

赵世雄 ;

崔鹤鸣 ;

王森 ;

陈力 ;

张弓 .

中国专利 :CN118504637A ,2024-08-16

[9]

基于异构混合并行与通信的联合优化分布式训练方法 [P].

王春晓 ;

王雨欣 ;

吴晓明 ;

李传涛 ;

宫勋 ;

王英龙 ;

李锦涛 ;

刘振阳 ;

周智伟 ;

耿文雯 .

中国专利 :CN120578507A ,2025-09-02

[10]

一种可用于异构集群的大模型自适应并行训练方法 [P].

黄振宇 .

中国专利 :CN119938327A ,2025-05-06

← 1 2 3 4 5 →