En 2006–2007, NVIDIA lanzó CUDA, un modelo de programación para usar GPUs en cómputo general. Investigadores de ML pronto descubrieron que entrenar redes grandes encajaba con el paralelismo SIMD de las GPUs.
Frameworks posteriores (Theano, cuDNN, TensorFlow, PyTorch) se apoyaron en ese stack. El coste por FLOP cayó y el tamaño de modelos creció.
Hoy la geopolítica de chips y la hoja de ruta de NVIDIA son parte de la historia de la IA tanto como cualquier paper de arquitectura.