应用介绍
一块现代显卡有上万个计算单元，但它不会自己去跑你的代码——没有对应的编译器和运行时，那些算力对程序来说不存在。CUDA Toolkit 是把这层打通的官方开发套件：nvcc 编译器加一整套 GPU 加速库和调试分析工具，让 C、C++ 和 Fortran 写的程序能把计算密集的部分丢到 GPU 上去跑。
它不止是个编译器。真正省事的是随附的那批库——cuBLAS 做线性代数、cuFFT 做傅里叶变换、cuDNN（另行下载）撑起深度学习、cuSPARSE 处理稀疏矩阵、Thrust 提供类 STL 的并行算法。大多数人不会从零写核函数，而是调这些库；PyTorch、TensorFlow 这类框架底下用的也正是它们。
调试和调优也有配套：Nsight Systems 看整个程序的时间线找瓶颈在 CPU 还是 GPU，Nsight Compute 深入单个核函数看占用率和访存效率，cuda-gdb 和 compute-sanitizer 处理崩溃和内存越界。
免费下载，支持 Windows 和主流 Linux 发行版，需要 NVIDIA 显卡和匹配的驱动版本；安装包比较大（3.6 GB 量级），建议从官方下载页按系统和 CUDA 版本选择。
nvcc 编译器：把 CUDA C/C++ 源码编译成 GPU 可执行的代码，与主机端代码一起链接，支持按目标架构生成或内嵌 PTX 以便向前兼容。
数学与算法库：cuBLAS、cuFFT、cuSPARSE、cuSOLVER、cuRAND 覆盖线性代数、变换、稀疏矩阵、求解器和随机数，Thrust 提供类似 STL 的并行算法接口。
Nsight Systems：全系统时间线分析，看 CPU 和 GPU 各自在忙什么、数据传输和核函数执行怎么重叠，用来定位瓶颈在哪一段。
Nsight Compute：针对单个核函数做细粒度分析，给出占用率、访存吞吐、指令发射等指标和优化建议。
调试与检查：cuda-gdb 可以在 GPU 代码里下断点单步，compute-sanitizer 检查越界访问、竞态和未初始化内存这类问题。
统一内存：支持统一虚拟寻址和统一内存，CPU 与 GPU 可以共用同一份指针，省掉一部分手工的显存拷贝管理。
多语言支持：C 和 C++ 是一等公民，Fortran 通过 CUDA Fortran 支持，Python 等语言则通过各自的绑定库调用底层运行时。
示例与文档：随附大量示例代码和完整的编程指南、最佳实践手册，从入门核函数到访存优化都有覆盖。
跨平台免费：Windows 和主流 Linux 发行版均可免费下载安装，需要配套版本的 NVIDIA 驱动。
它不止是个编译器。真正省事的是随附的那批库——cuBLAS 做线性代数、cuFFT 做傅里叶变换、cuDNN（另行下载）撑起深度学习、cuSPARSE 处理稀疏矩阵、Thrust 提供类 STL 的并行算法。大多数人不会从零写核函数，而是调这些库；PyTorch、TensorFlow 这类框架底下用的也正是它们。
调试和调优也有配套：Nsight Systems 看整个程序的时间线找瓶颈在 CPU 还是 GPU，Nsight Compute 深入单个核函数看占用率和访存效率，cuda-gdb 和 compute-sanitizer 处理崩溃和内存越界。
免费下载，支持 Windows 和主流 Linux 发行版，需要 NVIDIA 显卡和匹配的驱动版本；安装包比较大（3.6 GB 量级），建议从官方下载页按系统和 CUDA 版本选择。
软件功能
nvcc 编译器：把 CUDA C/C++ 源码编译成 GPU 可执行的代码，与主机端代码一起链接，支持按目标架构生成或内嵌 PTX 以便向前兼容。
数学与算法库：cuBLAS、cuFFT、cuSPARSE、cuSOLVER、cuRAND 覆盖线性代数、变换、稀疏矩阵、求解器和随机数，Thrust 提供类似 STL 的并行算法接口。
Nsight Systems：全系统时间线分析，看 CPU 和 GPU 各自在忙什么、数据传输和核函数执行怎么重叠，用来定位瓶颈在哪一段。
Nsight Compute：针对单个核函数做细粒度分析，给出占用率、访存吞吐、指令发射等指标和优化建议。
调试与检查：cuda-gdb 可以在 GPU 代码里下断点单步，compute-sanitizer 检查越界访问、竞态和未初始化内存这类问题。
统一内存：支持统一虚拟寻址和统一内存，CPU 与 GPU 可以共用同一份指针，省掉一部分手工的显存拷贝管理。
多语言支持：C 和 C++ 是一等公民，Fortran 通过 CUDA Fortran 支持，Python 等语言则通过各自的绑定库调用底层运行时。
示例与文档：随附大量示例代码和完整的编程指南、最佳实践手册，从入门核函数到访存优化都有覆盖。
跨平台免费：Windows 和主流 Linux 发行版均可免费下载安装，需要配套版本的 NVIDIA 驱动。
