Tag: ALLENNLP
Soy nuevo en procesamiento del lenguaje natural (NLP). Estoy aprendiendo sobre word2vec y tratando de entender cuándo es útil y cuándo no. En este caso, estoy tratando de averiguar si word2vec sería útil para analizar nuevas palabras/úsos a medida que se desarrollan. Me gustaría saber aproximadamente cuántas instancias/muestras (en contexto) . . . Read more
Quiero continuar con el preentrenamiento del modelo BERT en mi propio conjunto de datos. Según entiendo, esto se denomina adaptación de dominio. Por lo tanto, este enfoque será no supervisado. Usaré BertForMaskedLM o BertForPreTraining. ¿Cómo puedo lograr esto usando transformers.Trainer? ¿Qué debe devolver mi clase Dataset en el método __getitem__? . . . Read more
He entrenado un modelo NER de spacy que tiene el texto mapeado a la entidad de Empresa durante el entrenamiento como: John & Doe & One pvt ltd -> Empresa Ahora en algunos casos me doy cuenta de que si se da una oración como la siguiente durante la predicción, . . . Read more
Estaba revisando un documento sobre la detección de sarcasmo que proponía una Red Neuronal LSTM Basada en Atención Híbrida. El modelo incluía algunas características lingüísticas que debían extraerse primero, lo que incluía la Entropía de una palabra en una oración. Desafortunadamente, el documento no lo explica muy bien. La explicación . . . Read more
He entrenado un modelo BERT utilizando pytorch con alrededor de un millón de datos de texto para una tarea de clasificación. Después de probar este modelo con nuevos datos, obtengo Falsos Positivos y Falsos Negativos. Ahora quiero volver a entrenar el modelo existente solo con los FN y FP. No . . . Read more