当前位置:当前位置: 首页 >
CUDA真是NVIDIA绝对牢不可破的生态吗?
人气:发表时间:2025-06-24 19:55:15
有人说,我做一款AI芯片,只要原生支持PyTorch就好了呀,用户直接用PyTorch跑模型,根本接触不到CUDA呀。
没错,一般的用户只要在PyTorch层面做应用,但是总是有新的模型架构出来,这些架构都需要做特定的性能优化才能在一个芯片上得到较高的性能,这时候就涉及到算子开发了。
比如说一开始LLM在GPU上的性能不好,后来社区针对Nvidia GPU做了flash attention等的优化才把LLM的性能提升到了比较可观的程度。
CUDA已经被各种开源AI框…。
同类文章排行
- 为什么董明珠攻击小米空调,而公牛却没有攻击小米插座?
- 高中是什么样的啊?很青春吗?
- 缅甸的军阀如果关押着数十万的美国人的话,美国会怎么做?
- 男子被树枝刺伤无视伤口终要截肢,为什么会造成这么严重的后果?被植物划伤后的正确处理方式有哪些?
- 在微软(Microsoft)工作是怎样一番体验?
- 你身边身材最好的女生是什么样?
- golang总体上有什么缺陷?
- 有哪些是你用上了mac才知道的事?
- 杨幂论文一年间 AI 率从 0 飙至 91%,为什么会这样?AI 查重到底有没有统一标准?
- 毕设答辩,老师说node不可能写后台怎么办?
最新资讯文章
- 美剧绝命毒师有哪些让你难以忘怀的细节?
- 有个身高175cm女友是什么体验?
- 一个三甲医院的HIS系统,运营一年下来,他的数据库能有多大?
- ant-design-vue 社区为什么不维护了?
- 为什么这么多人讨厌中国移动?
- Prototype.js 这个库和 J***aScript 的原型链 prototype 有什么关系吗?
- 如何长时间保存重要数据?
- 两个问题:女足工资为什么比男足低?如果中国女足和中国男足打一场谁会赢?
- PHP初学者,我能不能使用PHP来开发桌面应用?
- 大街上看到大白腿,忍不住瞄了两眼,算不算不尊重女性?
- 哪些令你惊艳的AI大语言模型提示词(prompt)?
- 周杰伦为什么不告粥饼伦黑伦侵犯他的名誉权?
- MacOS的哪个设计让你非常恼火?
- golang 与rust 在服务器程序领域相比较,各有什么优劣势?
- 女生被踢裆也会很疼吗?
- 小鹏G7预售价23.58万,何小鹏称其为「全球首款L3级算力的AI汽车」,何为L3级算力?竞争力如何?
- 为什么一部分 Go 布道师的博客不更新了?
- 有个学舞蹈的女朋友是什么体验?
- 有什么是你去了上海才知道的事情?
- 小区车位10万一个,租的话一个月300元,还有必要买车位吗?