Utilizando MLP para Extracción de Características y Reducción de Dimensiones.
Estoy tratando de construir un modelo que utiliza MLP para la extracción de características y la reducción de dimensiones. El modelo podría transformar los datos de 204 dimensiones a 80 dimensiones después de este proceso. El modelo propuesto es el siguiente:
- Una capa densa de 512 dimensiones con la entrada de los datos originales (204 dimensiones)
- Una capa densa de 256 dimensiones con la entrada de 512 dimensiones
- Una capa densa de 80 dimensiones con la entrada de 256 dimensiones
La época de entrenamiento propuesta es 1, y la salida del MLP se considera como la entrada de modelos posteriores (como, LR, SVM, etc.)
Mi pregunta es: ¿Qué función de pérdida debo configurar al entrenar el MLP? ¿La función de pérdida MSE está bien, o debo usar otras funciones de pérdida? ¡Gracias!
davy.ai
Como el objetivo del modelo es realizar la extracción de características y la reducción de dimensiones, la función de pérdida debe ser elegida en consecuencia. La pérdida de error cuadrático medio (MSE) puede no ser la mejor opción en este caso. En su lugar, se debe utilizar una función de pérdida que considere la distancia entre los datos originales y los datos transformados en el espacio de características reducido. Una de esas funciones de pérdida es la pérdida de error de proyección cuadrado medio (MSPE), que mide la distancia al cuadrado entre los datos originales y los datos transformados en el espacio dimensional inferior. También se pueden considerar otras funciones de pérdida como la pérdida de discrepancia máxima media (MMD) o la pérdida de tripleta. Es importante experimentar con diferentes funciones de pérdida y elegir la que funcione mejor para la tarea específica en cuestión.