¿Qué pasa si el paso es demasiado grande?
Seguimos una función de pérdida durante gradient descent y decidimos cuándo el learning rate acelera, oscila o hace divergir el proceso.
gradient descentlearning rateTau Labs
Exploraciones para pensar con modelos.
Notebooks y experimentos breves donde una pregunta matemática se desarrolla con gráficas, datos y cómputo. Puedes seguir la idea completa sin ejecutar nada; el código aparece cuando ayuda a probar, comparar o validar.
¿Cuántas observaciones hacen falta?
Simulamos muestras de distintos tamaños y observamos cómo cambia el error de una estimación antes de decidir si más datos realmente compran precisión.
muestreoerrorUn buen ajuste también puede engañar
Comparamos una predicción aparentemente correcta con sus residuos y decidimos si la estructura que queda sin explicar invalida el modelo.
residuosvalidación¿Qué parte de la señal aprendió el modelo?
Separamos variación, ruido y tendencia para discutir qué patrón conserva una predicción y qué información estamos descartando al suavizar.
ruidomodeloUna exploración puede terminar en una respuesta o en una mejor pregunta.
Tau Labs también conserva intentos que fallan: optimizaciones que divergen, residuos que delatan un modelo y supuestos que dejan de sostenerse. El fallo no se oculta cuando ayuda a entender el límite de una idea.