Colección Raschka

Usas inteligencia artificial todos los días, pero no tienes idea de qué ocurre dentro. Esta colección es para quien ya programa en Python y se cansó de invocar modelos ajenos: desarrolladores, científicos de datos, investigadores, docentes y fundadores técnicos listos para cruzar de consumir a construir.

Habilidades:

• Mecanismos de atención, transformadores de estilo GPT y preentrenamiento
• Ajuste fino, clasificación de texto y LoRA
• Evaluación con verificadores, escalado en tiempo de inferencia y autorrefinamiento
• Aprendizaje por refuerzo, GRPO y destilación

Nivel: Intermedio

Requisitos:

• Python intermedio
• Bases de aprendizaje automático
• Una laptop moderna (GPU opcional)

Sebastian Raschka, PhD, es ingeniero de investigación de LLM con más de una década de experiencia en inteligencia artificial. Su trabajo abarca la industria y la academia: implementó soluciones de LLM como ingeniero sénior en Lightning AI e investigó y dio clases como profesor de estadística en la Universidad de Wisconsin–Madison.

Colabora con empresas de Fortune 500 en soluciones de IA y forma parte del Consejo de Código Abierto de la Universidad de Wisconsin–Madison. Se especializa en LLM y en el desarrollo de sistemas de IA de alto rendimiento, con un enfoque profundo en implementaciones prácticas guiadas por código.

Además de investigar, siente una gran pasión por la educación. Es conocido por sus libros superventas sobre aprendizaje automático con Python —Machine Learning with PyTorch and Scikit-Learn y Machine Learning Q and AI— y por sus contribuciones al código abierto. Puedes conocer más sobre él en sebastianraschka.com.

Esa fortaleza profesional es justo lo que sostiene esta colección: explicar temas complejos haciendo que cada detalle sea concreto y mostrando exactamente dónde encaja cada sección en la historia general. Por eso lo respaldan ingenieros de GitHub, científicos de Netflix, Chip Huyen y gente de Google, NVIDIA, LMSYS y AI4Bharat.

Construye un gran modelo de lenguaje (desde cero)

1. Comprender los modelos de lenguaje grandes

• Qué es realmente un LLM y por qué funciona
• Las etapas de su creación: preentrenamiento y ajuste fino

2. Trabajando con datos de texto

• Preparar un conjunto de datos adecuado para el entrenamiento de LLM
• Convertir texto crudo en la materia prima que el modelo entiende

3. Programación de mecanismos de atención

• Implementar los mecanismos de atención línea por línea
• El corazón de los transformadores de estilo GPT, sin librerías que lo escondan

4. Implementación de un modelo GPT desde cero para generar texto

• Planificar y programar todas las partes de un LLM
• Ensamblar la arquitectura completa y generar tus primeras palabras

5. Preentrenamiento en datos no etiquetados

• Construir un flujo de trabajo de entrenamiento completo
• Cargar pesos preentrenados en tu propio modelo

6. Ajuste fino para clasificación

• Ajustar finamente tu LLM para la clasificación de texto
• Entrenarlo con tus propios datos y tu propio caso de uso

7. Ajuste fino para seguir instrucciones

• Usar la retroalimentación humana para que tu LLM siga instrucciones
• Desarrollar un chatbot conversacional convertido en tu asistente personal

Construye un modelo de razonamiento (desde cero)

1. Comprender los modelos de razonamiento

• Qué separa a un LLM que completa texto de uno que razona paso a paso

2. Generación de texto con un LLM preentrenado

• Cómo se genera cada token: softmax, temperatura y muestreo top-p
• Caché KV y el costo real de generar

3. Evaluación de modelos de razonamiento

• Verificadores matemáticos para medir en vez de opinar
• Puntuación de respuestas y log-probabilidades como instrumental de trabajo

4. Mejora del razonamiento con el escalado en tiempo de inferencia

• Prompts de cadena de pensamiento, muestreo, autoconsistencia y Best-of-N
• Elevar el razonamiento sin tocar un solo peso, con sus compromisos de costo y latencia a la vista

5. Escalado en tiempo de inferencia mediante autorrefinamiento

• Cómo funciona de verdad el autorrefinamiento iterativo
• Modos de fallo comunes, incluidos los casos en los que refinar empeora la respuesta

6. Entrenamiento con aprendizaje por refuerzo

• Recompensas verificables y verificadores automáticos para tareas de matemáticas
• Regularización KL y el salto de mejorar el prompt a modificar el modelo

7. Mejorando GRPO para el aprendizaje por refuerzo

• Qué es GRPO y cómo se mejora
• Recompensas de formato y diseño de señales de entrenamiento

8. Destilación de modelos de razonamiento

• Destilar modelos de razonamiento potentes en otros más pequeños y eficientes
• Volver alcanzable lo que antes no lo era, en modelos que sí puedes correr