¿Qué es GPU?
El chip diseñado para gráficos que resultó ser perfecto para entrenar modelos de IA.
// Explicación
La GPU fue creada para videojuegos — procesar millones de píxeles en paralelo. Resulta que entrenar modelos de IA requiere exactamente el mismo tipo de matemática masiva y paralela. Por eso NVIDIA domina el mercado AI: sus GPUs (H100, A100) se convirtieron en el 'oro' de la era AI. Sin suficientes GPUs, no puedes entrenar modelos grandes.
// Ejemplo
Entrenar GPT-4 requirió miles de GPUs NVIDIA corriendo durante semanas. Correr un modelo pequeño como Llama 7B localmente necesita una GPU de ~8GB VRAM.
En inglés: GPU — Graphics Processing Unit