使用存储器来增强神经网络中的自注意力

被引：0

专利类型：

发明

申请号：

CN202280067352.1

申请日：

2022-10-06

公开(公告)号：

CN118159985A

公开(公告)日：

2024-06-07

发明(设计)人：

克里斯蒂安·塞盖迪德莱斯利·斯图亚特·哈钦斯马库斯·诺曼·拉贝吴宇怀

申请人：

谷歌有限责任公司

申请人地址：

美国

IPC主分类号：

G06N3/045

IPC分类号：

G06N3/084 G06N3/048 G06N3/063 G06N20/00

代理机构：

中原信达知识产权代理有限责任公司 11219

代理人：

周亚荣;李宝泉

法律状态：

公开

国省代码：

引用

下载

收藏

法律状态

法律状态公告日	法律状态	法律状态信息
2024-06-07	公开	公开
2024-06-25	实质审查的生效	实质审查的生效IPC(主分类):G06N 3/045申请日:20221006

共 50 条

[1]

稀疏注意力神经网络 [P].

阿坎克沙·乔杜里 ;

阿夫罗兹·莫希丁 ;

亨里克·米查列夫斯基 ;

约尼·米卡·卡内尔瓦 ;

卢卡斯·米奇斯瓦夫·凯泽 ;

塞巴斯蒂安·达留什·雅什丘尔 ;

沃伊切赫·加耶夫斯基 .

美国专利 :CN114492759B ,2025-09-26

[2]

稀疏注意力神经网络 [P].

阿坎克沙·乔杜里 ;

阿夫罗兹·莫希丁 ;

亨里克·米查列夫斯基 ;

约尼·米卡·卡内尔瓦 ;

卢卡斯·米奇斯瓦夫·凯泽 ;

塞巴斯蒂安·达留什·雅什丘尔 ;

沃伊切赫·加耶夫斯基 .

中国专利 :CN114492759A ,2022-05-13

[3]

具有门控注意力单元的注意力神经网络 [P].

刘寒骁 ;

华惟哲 ;

戴自航 ;

国·V·勒 .

美国专利 :CN118679484A ,2024-09-20

[4]

使用基于自注意力的神经网络处理图像 [P].

尼尔·马修·廷茅斯·豪斯比 ;

西尔万·格利 ;

雅各布·D·乌斯克雷特 ;

翟晓华 ;

乔治·海戈尔德 ;

卢卡斯·克劳斯·拜尔 ;

亚历山大·科列斯尼科夫 ;

马蒂亚斯·约翰尼斯·洛伦茨·明德雷尔 ;

德克·韦森伯恩 ;

穆斯塔法·德哈尼 ;

阿列克谢·多索维斯基 ;

托马斯·尤尼特斯尼尔 .

中国专利 :CN115605878A ,2023-01-13

[5]

具有并行注意力层和前馈层的注意力神经网络 [P].

阿坎克沙·乔杜里 ;

雅各布·丹尼尔·德夫林 ;

沙兰·纳兰 .

美国专利 :CN118974739A ,2024-11-15

[6]

具有稀疏注意力机制的注意力神经网络 [P].

乔舒亚·蒂莫西·安斯理 ;

圣地亚哥·翁塔尼翁 ;

菲利普·范 ;

曼齐尔·查希尔 ;

古鲁·古鲁甘内什 ;

库马尔·阿维纳瓦·杜贝 ;

阿姆尔·艾哈迈德 .

中国专利 :CN115552417A ,2022-12-30

[7]

具有条件计算的注意力神经网络 [P].

德米特里·列皮欣 ;

黄彦平 ;

奥尔汉·菲拉特 ;

马克西姆·克里昆 ;

陈德颢 ;

诺姆·M·沙泽尔 ;

李赫中 ;

徐元仲 ;

陈智峰 .

中国专利 :CN115516461A ,2022-12-23

[8]

增强具有外部存储器的神经网络 [P].

亚历山大·本杰明·格拉韦斯 ;

伊沃·达尼赫尔卡 ;

乔治·邓肯·韦恩 .

中国专利 :CN111079895A ,2020-04-28

[9]

增强具有外部存储器的神经网络 [P].

亚历山大·本杰明·格拉韦斯 ;

伊沃·达尼赫尔卡 ;

乔治·邓肯·韦恩 .

美国专利 :CN111079895B ,2024-05-28

[10]

增强具有外部存储器的神经网络 [P].

亚历山大·本杰明·格拉韦斯 ;

伊沃·达尼赫尔卡 ;

乔治·邓肯·韦恩 .

中国专利 :CN106462803A ,2017-02-22

← 1 2 3 4 5 →