NVIDIA

AMD

功能描述

CUDA

HIP

为C/C++开发GPU加速程序提供全面的环境，API、Runtime、编译器、调试工具等。

OpenCL

OpenCL

面向异构系统通用目的并行编程的开放式、免费标准，也是一个统一的编程环境，便于软件开发人员为高性能计算服务器、桌面计算系统、手持设备编写高效轻便的代码，

OpenACC

并行计算指令，研究人员和技术程序员最常用的GPU并行编程模型。

OpenMP

OpenMP是一套编译器指令、库例程和环境变量的规范，可用于指定Fortran和C/C++程序中的高级并行性。

NVIDIA

AMD

功能描述

NVCC

ROCmCC / HCC

编译器

CUDA-GDB

ROCgdb

debug工具

HIPify

将CUDA原生代码转换为HIP原生c++代码

Nvidia Nsight

ROCm Profiling Tools

性能分析工具

nvidia-smi

rocm-msi

系统管理界面和命令行界面的工具

NVIDIA

AMD

功能描述

cuBLAS

rocBLAS

基本线性代数库（basic linear algebra，BLAS）

cuFFT

rocFFT

快速傅里叶变换库（Fast Fourier Transforms）

CUDA Math Library

标准数学函数库

cuRAND

随机数生成（random number generation，RNG)

cuSOLVER

rocSOLVER

密集和稀疏直接求解器

cuSPARSE

rocSPARSE / rocALUTION

稀疏矩阵BLAS

cuTENSOR

rocWMMA

张量线性代数库

AmgX

用于模拟和隐式非结构化方法线性解算器

NVIDIA

AMD

功能描述

Thrust

Parallel STL / rocThrust

C++并行算法和数据结构库

NVIDIA

AMD

功能描述

nvJPEG

用于JPEG解码的高性能GPU加速库

Nvidia Performance Primitive

提供GPU加速的图像、视频和信号处理功能

Nvidia Video Codec SDK

硬件加速视频编码和解码的一整套API、示例和文档

NVIDIA

AMD

功能描述

NVSHMEM

OpenSHMEM标准的GPU内存，具有扩展以提高GPU性能。

NCCL

RCCL

多GPU、多节点通信

Nvidia

AMD

• cuDNN：深度神经网络基元库

• TensorRT：用于生产部署的高性能深度学习推理优化器和运行时

• Nvidia Riva：用于开发交互式情景AI会话应用的平台

• Nvidia DeepStream SDK：用于基于AI的视频理解和多传感器处理的实时流分析工具包

• Nvidia DLI：用于解码和增强图像和视频以加速深度学习应用的便携式开源库

• MIOpen：AMD的深度学习基元库，提供不同运算符的高度优化和手动调整实现，如卷积、批量归一化、池化、softmax、激活和递归神经网络（RNN）层，用于训练和推理。

• MIGraphX：AMD的图形推理引擎，可加速机器学习模型推理。AMD MIGraphX可以通过直接安装二进制文件或从源代码构建来使用。

• MIVisionX：MIVisionX工具包是一套全面的计算机视觉和机器智能库、实用程序和应用程序，捆绑在一个工具包中。AMD MIVisionX提供高度优化的Khronos OpenVX™和OpenVX™扩展的开源实现沿着支持ONNX和Khronos NNEF™交换格式的卷积神经网络模型编译器和优化器。

Nvidia

AMD

• Nvidia DCGM：数据中心管理

• nvidia-smi：系统管理界面和命令行界面的工具

• Nvidia Nsight：调试和性能分析工具

• ROCm Data Center Tools：数据中心环境中AMD GPU的管理

• rocm-smi：系统管理界面和命令行界面的工具

• ROCm Profiling Tools：性能分析工具

• ROCmDebugger：调试工具