异构硬件环境大模型推理引擎装置

被引：0

专利类型：

发明

申请号：

CN202411960193.5

申请日：

2024-12-30

公开(公告)号：

CN120069057A

公开(公告)日：

2025-05-30

发明(设计)人：

翟士丹万澎江周同生邓德亮

申请人：

北京海致科技集团股份有限公司

申请人地址：

100085 北京市海淀区学院路甲5号2幢平房B-1011

IPC主分类号：

G06N5/04

IPC分类号：

G06N20/00

代理机构：

北京棘龙知识产权代理有限公司 11740

代理人：

张鑫

法律状态：

实质审查的生效

国省代码：

引用

下载

收藏

法律状态

法律状态公告日	法律状态	法律状态信息
2025-06-17	实质审查的生效	实质审查的生效IPC(主分类):G06N 5/04申请日:20241230
2025-05-30	公开	公开

共 50 条

[1]

多节点异构环境下的大模型推理调度方法及系统 [P].

王雪芳 ;

杨珍豪 .

中国专利 :CN121116653A ,2025-12-12

[2]

大模型推理引擎的参数调优方法及装置 [P].

程珂 ;

王智 ;

胡文 ;

李建国 .

中国专利 :CN118940843A ,2024-11-12

[3]

大模型推理效能动态优化与硬件感知压缩方法 [P].

何芳 ;

随倩轶 ;

张伟 ;

王照亭 ;

杨帆 ;

吴金凤 ;

王迎雪 ;

吴琨 .

中国专利 :CN120494006B ,2025-09-12

[4]

大模型推理效能动态优化与硬件感知压缩方法 [P].

何芳 ;

随倩轶 ;

张伟 ;

王照亭 ;

杨帆 ;

吴金凤 ;

王迎雪 ;

吴琨 .

中国专利 :CN120494006A ,2025-08-15

[5]

基于异构推理的模型推理加速方法、装置、设备及介质 [P].

张钊宁 ;

张立博 ;

梅松竹 ;

乔林波 ;

田植良 ;

李荣春 ;

赖志权 ;

黄震 ;

李东升 .

中国专利 :CN120197700A ,2025-06-24

[6]

基于可信硬件的大模型隐私推理方法、装置和电子设备 [P].

刘卓涛 ;

庞元喆 ;

李晨阳 .

中国专利 :CN121098512A ,2025-12-09

[7]

一种大模型推理方法及基于大模型的推理设备 [P].

刘礼萍 ;

何明 ;

尹从丽 .

中国专利 :CN120338094A ,2025-07-18

[8]

大模型推理系统及其组件 [P].

任彦羽 ;

熊典 .

中国专利 :CN120031137A ,2025-05-23

[9]

一种多硬件混合大模型推理的方法、系统及相关装置 [P].

陈硕 ;

徐雷 ;

邓富城 ;

罗韵 .

中国专利 :CN119539089B ,2025-05-02

[10]

一种多硬件混合大模型推理的方法、系统及相关装置 [P].

陈硕 ;

徐雷 ;

邓富城 ;

罗韵 .

中国专利 :CN119539089A ,2025-02-28

← 1 2 3 4 5 →