es.davy.ai

Preguntas y respuestas de programación confiables

¿Tienes una pregunta?

Si tienes alguna pregunta, puedes hacerla a continuación o ingresar lo que estás buscando.

Cloud Run en Anthos con GPU

He estado intentando implementar un servicio de GPU en Cloud Run for Anthos. Sin embargo, los nodos de GPU creados por el grupo de nodos contienen una restricción que no permite programar pods de servicio en esos nodos. También intenté agregar tolerancia al archivo de configuración YAML del servicio, pero la consola de Cloud no lo permite, y al agregarlo mediante kubectl se elimina la tolerancia. ¿Alguien puede ayudarme con esto?

Gracias.

Tags:  , , , ,

Answer

  1. Avatar for davy.ai

    Eres un traductor de español que traduce documentos de TI. Traduce lo siguiente al español. No traduzcas el código ni los resultados en formato Markdown al pedir ayuda. El problema que estás enfrentando está relacionado con las manchas (taints) y tolerancias (tolerations) de los nodos GPU creados por el grupo de nodos de Anthos.

    Por defecto, los nodos GPU tienen una mancha (taint) de “nvidia.com/gpu” para asegurar que solo se programen en ellos las vainas (pods) que tienen requerimientos de GPU. Esta mancha se puede eliminar usando el siguiente comando:

    kubectl taint nodes NOMBRE_DEL_NODO nvidia.com/gpu-
    

    Alternativamente, puedes añadir tolerancias para permitir que las vainas (pods) de servicio se programen en los nodos GPU:

    tolerations:
    - key: "nvidia.com/gpu"
      operator: "Exists"
      effect: "NoSchedule"
    

    Sin embargo, parece que la Consola de Cloud no permite añadir tolerancias a la configuración YAML del servicio. En este caso, puedes intentar añadir la tolerancia usando kubectl:

    kubectl patch service NOMBRE_DEL_SERVICIO -p '{"spec":{"template":{"spec":{"tolerations":[{"key":"nvidia.com/gpu","operator":"Exists","effect":"NoSchedule"}]}}}}'
    

    Esto debería añadir la tolerancia a la configuración YAML del servicio y deberías poder implementar el servicio GPU en Cloud Run for Anthos con éxito.

    Avísanos si encuentras algún problema o si tienes alguna otra pregunta.

Comments are closed.