Discriminación de minibatch

1. ¿Qué es la discriminación de minibatch??
2. ¿Cómo se evita el colapso de las GAN de modo??
3. ¿Cómo puedo mejorar mi formación GAN??
4. ¿Por qué GAN es inestable??

¿Qué es la discriminación de minibatch??

La discriminación de minibatch es una técnica discriminativa para redes generativas de adversario en la que discriminamos entre minibatch enteros de muestras en lugar de entre muestras individuales. Esto está destinado a evitar el colapso del generador.

¿Cómo se evita el colapso de las GAN de modo??

Una tasa de aprendizaje cuidadosamente ajustada puede mitigar algunos problemas graves de GAN, como el colapso del modo. En concreto, reduzca la tasa de aprendizaje y vuelva a realizar el entrenamiento cuando se produzca el colapso del modo. También podemos experimentar con diferentes tasas de aprendizaje para el generador y el discriminador.

¿Cómo puedo mejorar mi formación GAN??

Consejos y trucos adicionales

1. Coincidencia de funciones. Desarrollar una GAN usando aprendizaje semi-supervisado.
2. Discriminación de minibatch. Desarrolle funciones en varias muestras en un minibatch.
3. Promedio histórico. Actualiza la función de pérdida para incorporar el historial.
4. Alisado de etiquetas por una cara. ...
5. Normalización de lotes virtuales.

¿Por qué GAN es inestable??

El hecho de que las GAN estén compuestas por dos redes, y cada una de ellas tiene su función de pérdida, resulta en el hecho de que las GAN son inherentemente inestables; profundizando un poco más en el problema, la pérdida del generador (G) puede conducir a la inestabilidad de la GAN. , que puede ser la causa del problema de desaparición del gradiente cuando el ...