当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
人气:发表时间:2025-06-24 22:05:17
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 为什么央视不再报道洛杉矶***了?
- 30岁了,你在深圳过着什么样的生活?
- 你和你老婆是怎么认识的?
- J***a现在好找工作吗?
- 养鱼先晾水,我晾了很久的清水去换水时,发现居然全发霉了,想不明白,求解?
- 阿里网盘为什么没有动静了?
- 字节引入Rust是否代表J***a的缺点Go也没解决?
- 工程师离职,如果领导让你们把自己的技术教会一个人才能走,你们会教吗?
- 陈楚生第一,马嘉祺淘汰,如何评价《歌手 2025》第六期所有歌手的演唱?
- 编程语言 MoonBit 发布 Beta 版,正式进入企业场景应用,会带来哪些影响?
最新资讯文章
- 商城里如何缓存商品信息?
- NAS的盘是否需要一次性买齐?
- 华为自研的仓颉编程语言将于 7 月 30 日开源,这款语言将如何影响未来的开发趋势?
- 有什么关于山西的冷知识?
- 2025 年 6 月,Rust 在 GUI 方面有何大的进展? 你最看好哪个框架?
- 肇庆市怀集县洪水后,赵一鸣零食店被哄抢,物资和收银机里面的几千块钱被哄抢一空,如何评价?
- 韩国掀起打「增高针」风潮,增高针真的能增高吗?会对身体产生哪些影响?
- 中国的歼35A可以吊打十架韩国的KF21吗?
- 美国还有能力建造一艘核动力航母么?
- 如何练出强壮的胸肌?
- 如何看待 Rust 写的 PNG 解码器比 C 实现更快?
- 印度50年内会不会超越中国?
- 有没有免费的语音转文字的软件?
- 如何评价中国电科研发的JY-10防空指挥控制系统成为伊朗防空指挥系统核心?
- MacBook的诱惑在哪里?
- 如何评价鱼皮程序员的OJ项目?
- 可以随身携带一个Linux系统吗?
- “哨兵模式”涉嫌泄密,你支持封杀特斯拉吗?
- 洲际导弹能打到任何地方,为什么还需要轰炸机?
- 一个人山林徒步时都要关注哪些点?