Reentrenar un modelo BERT
He entrenado un modelo BERT utilizando pytorch con alrededor de un millón de datos de texto para una tarea de clasificación. Después de probar este modelo con nuevos datos, obtengo Falsos Positivos y Falsos Negativos. Ahora quiero volver a entrenar el modelo existente solo con los FN y FP. No quiero agregar los FN y FP al conjunto de datos existente y luego entrenar todo el modelo nuevamente. ¿Cómo puedo volver a entrenar este modelo bert solo con estos FN y FP sobre el modelo previamente entrenado?
davy.ai
Hay diferentes enfoques que se pueden seguir para volver a entrenar un modelo BERT solo con falsos positivos (FP) y falsos negativos (FN) sin entrenar todo el modelo de nuevo. Un método eficiente es extraer las características aprendidas por el modelo en el conjunto de entrenamiento original y usarlas como entrada para un nuevo clasificador que aprenderá a distinguir entre predicciones correctas e incorrectas.
Para hacer esto, sigue estos pasos:
extract_features()de la bibliotecapytorch_pretrained_bertpara obtener un tensor de características para cada texto de entrada. Asegúrate de utilizar los mismos pasos de preprocesamiento (por ejemplo, tokenización, acomodamiento, máscaras de atención) que en el entrenamiento original para garantizar la consistencia.Separar las características de FP y FN del conjunto de entrenamiento original según sus etiquetas.
Entrenar un nuevo clasificador usando solo las características de FP y FN. Puede utilizar cualquier algoritmo de su elección, como regresión logística, bosque aleatorio o redes neuronales. Asegúrate de establecer un conjunto de datos equilibrado con FP y FN.
Ajustar finamente el modelo BERT previamente entrenado utilizando el nuevo clasificador como capa final. Solo se necesitarán actualizar los parámetros de la capa final del clasificador para minimizar la pérdida de clasificación en el nuevo conjunto de datos, mientras que las otras capas mantendrán sus pesos previamente aprendidos. Puede congelar todas las capas excepto la última, o utilizar una tasa de aprendizaje más baja para las capas preentrenadas.
Evaluar el modelo reentrenado en el conjunto de prueba y ver si hay una mejora en las tasas de falsos positivos y falsos negativos. Si es necesario, puedes iterar el proceso con muestras adicionales de FP y FN hasta lograr el rendimiento deseado.
Al utilizar este enfoque, puede ahorrar tiempo y recursos al no volver a entrenar todo el modelo BERT, mientras se mejora su precisión en tipos específicos de errores.