ResNet (2015): conexiones residuales para ir más profundo
He et al. presentaron redes residuales que permitieron entrenar cientos de capas y ganaron ILSVRC 2015.
2012–2016
Deep Learning
Redes profundas, ImageNet y el renacer del aprendizaje automático a escala.
GANs (2014): Goodfellow y el juego generador–discriminador
Ian Goodfellow et al. introdujeron las redes generativas antagónicas, abriendo una era de síntesis de imágenes realistas.
Word2Vec (2013): el álgebra de las palabras
Tomas Mikolov y colegas en Google lanzaron Word2Vec, popularizando embeddings densos y analogías tipo rey–hombre+mujer≈reina.
AlexNet (2012): el big bang del deep learning en visión
Krizhevsky, Sutskever y Hinton ganaron ILSVRC 2012 con una CNN profunda en GPUs, derrumbando el error de clasificación.
Preentrenamiento profundo pre-AlexNet: la mesa está puesta
Antes de 2012, Hinton, Bengio y LeCun impulsaron preentrenamiento voraz, autoencoders y evidencia de que redes profundas podían aprender.
Del HMM al DNN en reconocimiento de voz
A inicios de 2010s, redes profundas reemplazaron partes clave de sistemas HMM-GMM y bajaron drásticamente la tasa de error en habla.