Java知识分享网 - 轻松学习从此开始!    

Java知识分享网

Java1234官方群25:java1234官方群17
Java1234官方群25:838462530
        
SpringBoot+SpringSecurity+Vue+ElementPlus权限系统实战课程 震撼发布        

最新Java全栈就业实战课程(免费)

AI人工智能学习大礼包

IDEA永久激活

66套java实战课程无套路领取

锋哥开始收Java学员啦!

Python学习路线图

锋哥开始收Java学员啦!
当前位置: 主页 > Java文档 > 人工智能AI >

transformer 论文阅读理解+代码注释解读 PDF 下载


分享到:
时间:2025-12-01 09:55来源:http://www.java1234.com 作者:转载  侵权举报
transformer 论文阅读理解+代码注释解读
失效链接处理
transformer 论文阅读理解+代码注释解读 PDF 下载


 
 
相关截图:
 


主要内容:

注意力机制是一个很宽泛(宏大》的一个概念,QKV相乘就是注意力,但是他没有规定 QKV
是怎么来的
通过一个查询变量Q,去找到V里面比较重要的东西
假设K==V,然后 QK 相乘求相似度A,然后 AV相乘得到注意力值Z,这个Z 就是 V的另外一
种形式的表示
Q可以是任何一个东西,V也是任何一个东西,K往往是等同于V的(同源》,K和V不同源
不相等可不可以
他没有规定 QKV 怎么来,他只规定 QKV 怎么做



 

 
------分隔线----------------------------

锋哥公众号


锋哥微信


关注公众号
【Java资料站】
回复 666
获取 
66套java
从菜鸡到大神
项目实战课程

锋哥推荐