在深度学习工程实践中，当训练大型模型或处理大规模数据集时，上述错误信息对许多开发者而言已不陌生。这是众所周知的CUDA out of memory错误——当GPU尝试为张量分配空间而内存不足时发生。这种情况尤为令人沮丧，特别是在已投入大量时间优化模型和代码后 ...

英伟达发布最新版CUDA 13.1，官方直接定性：这是自2006年诞生以来最大的进步。 核心变化是推出全新的CUDA Tile编程模型，让开发者可以用Python写GPU内核，15行代码就能达到200行CUDA C++代码的性能。 Jim Keller参与设计过AMD Zen架构、苹果A系列芯片、特斯拉自动驾驶芯片 ...

近日，科技圈被一则消息彻底引爆：Reddit平台上，开发者johnnytshi分享了一项颠覆性操作—— Claude Code仅耗时30分钟，便成功将一整套完整的CUDA后端代码，移植到了AMD的ROCm平台，而且无需任何中间转换层。

2月5日消息，DeepSeek全球爆火，再一次引发外界对GPU算力限制话题的关注。 据报道，DeepSeek开发的大语言模型绕过了英伟达的CUDA框架，正为未来兼容国产GPU芯片做准备。 众所周知，英伟达的CUDA（Compute Unified Device Architecture，统一运算架构）能大幅降低研发大模型 ...

令人惊叹的是，johnnytshi在短短30分钟内，就把整个CUDA后端移植到了AMD ROCm上，而且中间没用任何翻译层。 另外一个好处当然是，不用费劲去搭像Hipify这种复杂的翻译环境了；直接在命令行（CLI）里就能干活。

Hello folks，我是 Luga，今天我们来深入探讨一下人工智能生态中的基石技术——GPU 编程。作为目前最为流行的两种 GPU 编程框架，CUDA 和 OpenCL 各有何异同？如何选择适合自己的工具？让我们一探究竟。‍ 近年来，GPU（图形处理单元）已从最初的图形 ...

【导读】用英伟达的GPU，但可以不用CUDA？PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。 试问，有多少机器学习小白曾被深度学习框架和CUDA的兼容问题所困扰？ 又有多少开发者曾因为频频闪烁的警报「CUDA版本 ...

当前GPU编程语言竞争本质是生态控制权的争夺。CUDA Tile通过整合英伟达硬件资源构建技术壁垒，TileLang则凭借开放特性重塑开发范式。这场变革不仅影响硬件厂商的市场格局，更将决定AI开发者能否摆脱"铲子决定模型"的被动局面。随着跨平台编译技术的持续进化，未来GPU计算生态或将呈现多极化发展态势，开发者工具链的选择自由度将成为影响产业走向的关键因素。 返回搜狐，查看更多 ...

导语：请不要让缺少预算或者系统不兼容成为探索路上的拦路虎和借口。 雷锋网按：本文作者阿萨姆，本文首发于作者的知乎专栏《数据说》，雷锋网获其授权发布。 背景 在Windows上使用GPU进行深度学习一直都不是主流，我们一般都首选Linux作为深度学习操作 ...

快科技2月5日消息，DeepSeek全球爆火，再一次引发外界对GPU算力限制话题的关注。 据报道，DeepSeek开发的大语言模型绕过了英伟达的CUDA框架，正为未来兼容国产GPU芯片做准备。 众所周知，英伟达的CUDA（Compute Unified Device Architecture，统一运算架构）能大幅降低研发 ...

兼容CUDA这条路，走不通了？ 芯东西3月6日消息，据外媒报道，英伟达已禁止用转译层在其他GPU上跑CUDA软件。 自2021年以来，英伟达已在其在线列出的许可条款中明文禁止使用转译层在其他硬件平台上运行基于CUDA的软件。软件工程师@Longhorn发现这项“禁令”已被 ...

近日在 GPU 技术大会 (GTC) 上，MathWorks 宣布通过使用 Parallel Computing Toolbox 或 MATLAB Distributed Computing Server 实现在MATLAB 应用中提供对 NVIDIA 图形处理器(GPU) 的支持。这项支持可使工程师和科学家加快多种 MATLAB 计算的速度，而无需执行底层编程。 近日在 GPU 技术 ...