本文将分析大语言模型训练的GPU内存需求，主要包括三个方面：训练数十亿参数基于Transformer的LLM时，每个GPU设备需要多少GPU内存；估算内存需求的公式是什么；如果模型无法匹配内存，在实践中应采取哪些措施来减少内存需求。 我敢打赌，每个机器学习工程师 ...

纳米级超低延迟CXL控制器IP利用低成本存储介质，可扩展GPU系统内存至TB级…… 为了突破GPU内存的容量限制并维持其高性能 ...

自从AMD宣布推出Smart Access Memory技术后，AMD Ryzen 5000系列CPU可以访问Radeon RX 6000系列GPU中所有的显存，很多人担心这个功能只能在AMD的3A平台上才能实现。不过现在事情出现了转机，据TOMSHARDWARE报道，AMD会放开对英特尔CPU和英伟达GPU的兼容性限制。 上周英伟达确认 ...

中央处理器（英文Central Processing Unit，CPU）是一台计算机的运算核心和控制核心。CPU、内部存储器和输入/输出设备是电子 ...

去年，NVIDIA (NV) 发布了Amper新架构的GPU，NVIDIA GPU架构的发展类似Intel的CPU，针对不同场景和技术革新，经历了不同架构的演进。 NVIDIA GPU架构白皮书系列，下载链接：NVIDIA GPU架构白皮书 《NVIDIA A100 Tensor Core GPU技术白皮书》 《NVIDIA Kepler GK110-GK210架构白皮书 ...

在大模型蓬勃发展的时代，DeepSeek的出现为国产大算力GPU带来新机遇与挑战，壁仞科技最近有一个交流，在这一背景下的整体解决方案、技术创新及生态建设，探讨国产大算力GPU迎接DeepSeek机遇的策略与发展方向，以期为相关领域提供有价值的参考。 人工智能 ...

近日，西安电子科技大学盛凯教授团队的论文"Cherry: Breaking the GPU Memory Wall for Large-Scale GNN Training via Micro-Batching"被高性能计算领域的国际顶级会议——2025年国际超级计算会议（2025 ACM International Conference on Supercomputing, ACM ICS ...