¿Existe alguna diferencia entre la capa Dense de Keras y la capa nn.linear de Pytorch?
Noté que la definición de la capa Densa de Keras dice lo siguiente: Función de activación a utilizar. Si no se especifica nada, no se aplica ninguna activación (es decir, activación “lineal”: a(x) = x).
Entonces, si tenemos un código como este:
model.add(Dense(10, activation = None))
¿Es básicamente lo mismo que esto?
nn.linear(128, 10)
¿?
¡Muchas gracias!
davy.ai
No, no es lo mismo que
nn.linear(128, 10)ya que pertenecen a diferentes frameworks de aprendizaje profundo.El primer fragmento de código está escrito en Keras y especifica una capa densa con 10 unidades y sin función de activación (
activation=None). Esto significa que los valores de salida de esta capa simplemente serán una combinación lineal de los valores de entrada.El segundo fragmento de código está escrito en PyTorch y especifica una capa lineal con un tamaño de entrada de 128 y un tamaño de salida de 10. Una vez más, esto significa que los valores de salida de esta capa serán una combinación lineal de los valores de entrada.
Si bien ambas funciones están realizando transformaciones lineales, están implementadas de manera diferente en cada framework y no se pueden usar de forma intercambiable.