使用RTX 3070 GPU在Windows 11上对PyTorch和Hugging Face的预训练deBerta模型进行故障排除

ff29svar  于 2023-10-20  发布在  Windows
关注(0)|答案(1)|浏览(213)

我在我的桌面上运行Windows 11,它有一个NVIDIA RTX 3070 GPU。我正在使用Hugging Face的AutoModelForSequenceClassification进行NLP任务,我想利用我的GPU进行训练。我已经成功安装了PyTorch 1.9.0和CUDA 11.1,并确认CUDA在我的系统上可用。
然而,当我尝试运行我的脚本时,我遇到了一个ImportError,建议我需要安装加速库。当我尝试这样做时,它不仅失败,而且还将我现有的PyTorch 1.9.0安装替换为2.1.0版本。我尝试了各种命令,如pip install transformers[torch]和pip install accelerate -U,但它们都导致相同的问题。
错误消息还指出,加速至少需要PyTorch 1.10,但我找不到与我的RTX 3070兼容的CUDA版本。
有没有人有一个解决方案,运行一个正确的安装变压器+ Torch +加速?

yc0p9oo0

yc0p9oo01#

我已经在多种组合(OS+硬件)上安装了PyTorch。
我已经使用这些命令成功安装了PyTorch(在虚拟环境中):

  • %pip install --upgrade transformers
  • %pip install --upgrade torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu117
  • %pip install accelerate (will take latest at the time of writing @0.23.0)
  • %pip install evaluate datasets

这些帮助我启动了任何需要HuggingFace的项目。希望能帮到你

相关问题