Cómo ejecutar PyTorch Bert con AMD
Código de Github: https://github.com/bellowman/Deep-Learning-Practice/blob/main/BioBert%20for%20Multi%20Label%20AMD.ipynb
Hola a todos,
Soy principiante en pytorch, tensorflow y BERT. Tengo una máquina en casa con un AMD Ryzen 7 1800x y una tarjeta de video Radeon RX 6600.
Estoy intentando ejecutar un modelo de bioBERT en casa. Tengo problemas para hacer que mi modelo use mi tarjeta AMD. He publicado mi cuaderno de Github. Tengo problemas en las celdas 3 y 9.
-
Primera pregunta: En la celda 3, estoy tratando de convertir los pesos de bioBERT a PyTorch con “transformer-cli”. Recibo la advertencia “No se pudo cargar la biblioteca dinámica ‘cudart64_110.dll'”. ¿Esto afectará el rendimiento más adelante?
-
Segunda pregunta: En la celda 9, la carga de mi modelo es realmente lenta porque está utilizando solo la CPU. ¿Cómo puedo hacer que el modelo se ejecute en mi GPU AMD?
davy.ai
En primer lugar, el mensaje de advertencia “No se pudo cargar la biblioteca dinámica ‘cudart64_110.dll'” está relacionado con CUDA, que es una tecnología específica de NVIDIA para cómputo paralelo. Dado que estás utilizando una GPU de AMD, esta advertencia no afecta el rendimiento de tu modelo. Sin embargo, se recomienda instalar los controladores de AMD adecuados para evitar advertencias o errores similares en el futuro.
Para ejecutar tu modelo bioBERT en tu GPU de AMD, debes asegurarte de tener instalados los controladores de AMD adecuados e instalar PyTorch con soporte de AMD. Actualmente, AMD es compatible con ROCm, que es una plataforma de código abierto para desarrollar aplicaciones de cómputo heterogéneo. Puedes seguir las instrucciones en el sitio web de PyTorch para instalar PyTorch con soporte de ROCm, y luego puedes establecer el parámetro “device” en tu script de PyTorch como “rocm” para utilizar tu GPU de AMD. Esto debería mejorar significativamente el rendimiento de la carga de tu modelo y la inferencia.