本节将阐述GPU的内存访问、资源管理等机制。 由此可见，shader直接访问寄存器、L1、L2缓存还是比较快的，但访问纹理、常量缓存和全局内存非常慢，会造成很高的延迟。 上面的多级缓存结构可被称为“CPU-Style”，还存在GPU-Style的内存架构： 这种架构的特点是ALU ...

对于大多数图形渲染开发者，GPU是既熟悉又陌生的部件，熟悉的是每天都需要跟它打交道，陌生的是GPU就如一个黑盒，不知道其内部硬件架构，更无从谈及其运行机制。 本文以NVIDIA作为主线，将试图全面且深入地剖析GPU的硬件架构及运行机制，主要涉及PC桌面级 ...

GPU（图形处理芯片）又称显示核心、视觉处理器、显示芯片，是一种主要用于计算加速领域的微处理器。GPU从早期的图形渲染任务开始，随着软件和硬件技术的持续发展，逐渐扩展至计算加速等领域。GPU的关键组件包括决定其处理能力和运算效率的微架构，以及 ...

本文详细探讨了GPU的重要性、设计初衷及其在AI训练和推理中的应用，同时介绍了CUDA平台及其对GPU计算能力的扩展。通过深入了解GPU和CUDA，读者可以更加明晰当前AI技术发展的趋势和需求，以及如何利用这些技术推动行业的前进。 身处AI时代的我们，想必都听过 ...

安全研究人员 演示 了一种针对 NVIDIA GPU 的新型攻击 Rowhammer 。该攻击可从内存损坏逐步升级至完全控制系统，这标志着硬件层安全风险的重大转变。正如近期学术研究中描述的那样（ Ars Technica 也做过重点报道），这些被称为 ...

GPU作为数据并行处理的核心，是AI服务器的核心增量。根据相关市场统计，全球GPU的市场已经达到了448亿美元的规模，在AI的发展需求下，通用型GPU的市场正在快速成长。 由于GPU可兼容训练和推理，与AI模型构建高度适配，其占据了AI芯片大类市场。2021年H1中国AI ...

Hello folks，我是 Luga，今天我们来聊一下人工智能应用场景 - 构建高效、灵活的计算架构的 GPU 计算共享方案。 众所周知，随着 AI 领域对 GPU 资源需求的不断增长，高效的资源管理变得至关重要。这不仅能够确保系统性能的最优化，还能实现对昂贵 GPU ...

IDTechEx's latest report, "Hardware for HPC and AI 2025-2035: Technologies, Markets, Forecasts", provides data to show that the use of graphics processing units (GPUs) within high performance ...

从总体上来说，Windows 10是一个好系统，虽然我们天天戏称它为“Bug 10”，但不可否认的是，从立项以来，开发团队就一直在努力为它加入新的功能，其中有不少是相当实用的。 比如说，他们在1709这个大版本中，为任务管理器加入了GPU性能监控单元，用户可以 ...