不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
商业史上有哪些降维打击的经典案例？
自由泳是真的很累啊，怎么办？
为什么这么多人讨厌中国移动？
PostgreSQL 与 MySQL 相比，优势何在？
自己拥有一台服务器可以做哪些很酷的事情？
周杰伦为什么不告粥饼伦黑伦侵犯他的名誉权?
我的电脑硬件不支持硬解422 10bit***，但是用达芬奇可以编辑和导出，这是为什么?
如何评价动物法治论坛将“玉林狗肉节”定性为非法活动？
移动端适配目前最好的解决方案是什么？
如何看待，小米汽车用消费级8gen3soc替代车规级芯片？
黄晓明上戏考博落榜，本人回应「明年再战」，怎样看明星对高学历的追求？上戏博士有多难考？
指挥大规模军团作战很消耗脑力吗？
如何评价鸿蒙电脑无法编写其自身运行的程序？
听说有一门技术叫windows批处理（bat），请问它有什么现实用途？
龙芯 2K3000 处理器正式发布，这款处理器的发布对国产芯片的发展意味着什么？
如何评价茅台暂停京东供货？
中医的发源地是中国，但为什么却在国外被发扬光大呢？
如何系统地学习Rust语言？
未来几年，市场对 AI 人才的需求会集中在哪几个方向？
那些168cm才80来斤的女生，真的现实生活中好看吗?
为什么中国很少有人使用linux？
买到烂尾楼到底该有多绝望？
如何看待“计算机民科“的网站51soez已关站维护一周？
碳纤增强PEEK和玻纤增强PEEK差别在哪？
手养鹦鹉是什么？让鹦鹉到处飞吗？
特斯拉宣布将于 6 月 22 日开始 Robotaxi 公开试运营，这将对自动驾驶行业带来哪些影响？
苹果 macOS Tahoe 26 新 Finder 图标引争议，其争议点主要集中在哪些方面？
为什么 CRT 画质这么好也被淘汰，液晶反而发展的很好？
杨幂论文一年间 AI 率从 0 飙至 91%，为什么会这样？AI 查重到底有没有统一标准？
