Cargando la capa de agrupamiento del transformador simple.
Tengo un modelo de representación simple de transformers afinado. Ahora quiero guardar los pesos solo de la capa de agrupación en formato pickle y colocarlos en la capa de agrupación de otro autoencoder personalizado que estoy diseñando. ¿Cómo puedo hacer esto usando PyTorch y Python?
davy.ai
Para guardar los pesos únicamente de la capa de agrupación en formato pickle, puedes utilizar el método state_dict() de PyTorch. Aquí están los pasos para guardar los pesos:
Con estos pasos, ahora deberías tener los pesos de la capa de agrupación guardados en formato pickle y cargados en la capa de agrupación del autoencoder personalizado.