稀疏注意力神经网络

被引:0
申请号
CN202210116524.1
申请日
2022-02-07
公开(公告)号
CN114492759A
公开(公告)日
2022-05-13
发明(设计)人
阿坎克沙·乔杜里 阿夫罗兹·莫希丁 亨里克·米查列夫斯基 约尼·米卡·卡内尔瓦 卢卡斯·米奇斯瓦夫·凯泽 塞巴斯蒂安·达留什·雅什丘尔 沃伊切赫·加耶夫斯基
申请人
申请人地址
美国加利福尼亚州
IPC主分类号
G06N304
IPC分类号
G06N308 G06N2000
代理机构
中原信达知识产权代理有限责任公司 11219
代理人
周亚荣;邓聪惠
法律状态
公开
国省代码
引用
下载
收藏
共 50 条
[1]
稀疏注意力神经网络 [P]. 
阿坎克沙·乔杜里 ;
阿夫罗兹·莫希丁 ;
亨里克·米查列夫斯基 ;
约尼·米卡·卡内尔瓦 ;
卢卡斯·米奇斯瓦夫·凯泽 ;
塞巴斯蒂安·达留什·雅什丘尔 ;
沃伊切赫·加耶夫斯基 .
美国专利 :CN114492759B ,2025-09-26
[2]
具有稀疏注意力机制的注意力神经网络 [P]. 
乔舒亚·蒂莫西·安斯理 ;
圣地亚哥·翁塔尼翁 ;
菲利普·范 ;
曼齐尔·查希尔 ;
古鲁·古鲁甘内什 ;
库马尔·阿维纳瓦·杜贝 ;
阿姆尔·艾哈迈德 .
中国专利 :CN115552417A ,2022-12-30
[3]
具有门控注意力单元的注意力神经网络 [P]. 
刘寒骁 ;
华惟哲 ;
戴自航 ;
国·V·勒 .
美国专利 :CN118679484A ,2024-09-20
[4]
具有并行注意力层和前馈层的注意力神经网络 [P]. 
阿坎克沙·乔杜里 ;
雅各布·丹尼尔·德夫林 ;
沙兰·纳兰 .
美国专利 :CN118974739A ,2024-11-15
[5]
具有条件计算的注意力神经网络 [P]. 
德米特里·列皮欣 ;
黄彦平 ;
奥尔汉·菲拉特 ;
马克西姆·克里昆 ;
陈德颢 ;
诺姆·M·沙泽尔 ;
李赫中 ;
徐元仲 ;
陈智峰 .
中国专利 :CN115516461A ,2022-12-23
[6]
使用基于自注意力的神经网络处理图像 [P]. 
尼尔·马修·廷茅斯·豪斯比 ;
西尔万·格利 ;
雅各布·D·乌斯克雷特 ;
翟晓华 ;
乔治·海戈尔德 ;
卢卡斯·克劳斯·拜尔 ;
亚历山大·科列斯尼科夫 ;
马蒂亚斯·约翰尼斯·洛伦茨·明德雷尔 ;
德克·韦森伯恩 ;
穆斯塔法·德哈尼 ;
阿列克谢·多索维斯基 ;
托马斯·尤尼特斯尼尔 .
中国专利 :CN115605878A ,2023-01-13
[7]
具有正则化注意力层的神经网络 [P]. 
B·B·何 ;
J·马滕斯 .
英国专利 :CN119487522A ,2025-02-18
[8]
使用存储器来增强神经网络中的自注意力 [P]. 
克里斯蒂安·塞盖迪 ;
德莱斯利·斯图亚特·哈钦斯 ;
马库斯·诺曼·拉贝 ;
吴宇怀 .
美国专利 :CN118159985A ,2024-06-07
[9]
基于注意力的序列转换神经网络 [P]. 
N.M.沙泽尔 ;
A.N.戈梅兹 ;
L.M.凯瑟 ;
J.D.乌兹科雷特 ;
L.O.琼斯 ;
N.J.帕马 ;
I.波洛苏金 ;
A.T.瓦斯瓦尼 .
中国专利 :CN110192206A ,2019-08-30
[10]
增强基于注意力的神经网络以选择性地关注过去的输入 [P]. 
杰克·威廉·雷 ;
安娜·波塔片科 ;
蒂莫西·保罗·利利克拉普 .
中国专利 :CN114467096A ,2022-05-10