CUDA
CUDA 是 Nvidia GPU 提供的软件 API。
查看显卡型号
Windows 11,我的电脑 - 右键属性 - 设备管理器 - 显示适配器
例如,我这个 Dell 台式机是:
- NVIDIA GeForce GT 710
- Intel(R) UHD Graphics 630
而我的笔记本则是 AMD 的显卡。
这些 GPU 都不支持 CUDA,GT 710 则是因为太老,也不支持。
查看 pytorch 是否支持 CUDA
> python
Python 3.10.9
Type "help", "copyright", "credits" or "license" for more information.
>>> import torch
>>> torch.__version__
'1.13.1'
>>> torch.cuda.is_available()
False
如果安装的 pytorch 在编译时不支持 CUDA,即便硬件支持,也会显示不支持。
Google Colab 免费 GPU
为了节省训练时间,我使用了 Google Colab 免费的带 GPU 的服务器(开发了一个用于识别图片中指定物体数量的 Android APP),看看检测结果:
import torch
print(f"Setup complete. Using torch {torch.__version__} ({torch.cuda.get_device_properties(0).name if torch.cuda.is_available() else 'CPU'})")
输出:
Setup complete. Using torch 1.13.1+cu116 (Tesla T4)
GPU 相对 CPU 在 pytorch 上的优势
- GPU 图形处理单元
- CPU 中央处理器
GPU 适合可以并行计算的场景。在 pytorch 的使用场景上相对 CPU 要快 50 倍。
较大任务可以分解的任务数量取决于特定硬件上包含的内核数量。 内核是在给定处理器中实际执行计算的单元,CPU通常具有四个,八个或十六个内核,而GPU可能具有数千个。
CPU 版本的 PyTorch 只能在 CPU 上进行计算,无法利用 GPU 在矩阵计算上的优势。
微信关注我哦 👍
我是来自山东烟台的一名开发者,有感兴趣的话题,或者软件开发需求,欢迎加微信 zhongwei 聊聊, 查看更多联系方式