Imagina que quieres enseñar a un modelo de clasificación de imágenes a distinguir paraguas de sombreros. El primer lote de fotos de paraguas se tomó todas en días de lluvia, y el primer lote de fotos de sombreros, todas en interiores. Al ver cómo juzga ese lote de fotos de entrenamiento, el modelo parece reconocerlos muy bien. Si cambiamos la foto y colocamos el mismo paraguas en un interior, ¿seguirá reconociéndolo?
Vale la pena preguntarse entonces: ¿aprendió el modelo la forma del paraguas o aprovechó de paso el fondo? 《Laboratorio de magia de la IA》 empieza por la información de imagen que recibe la máquina y lleva la misma pregunta después a los contenidos generados, la actuación de los agentes y la revisión humana.
Cómo ve una máquina un paraguas
Si amplías la foto cerca de la punta del paraguas, verás manchas de color. La tela azul del paraguas en la foto, en la representación RGB habitual, puede guardarse como una cuadrícula de valores, y cada celda registra la información de los tres canales rojo, verde y azul. La lección 1 empieza por los píxeles y el color, y luego presenta cómo la visión por computadora busca formas y texturas en las imágenes. La lección 2 organiza esos valores en tensores y plantea por qué hay que preparar los datos antes de enviarlos al modelo. Lección 1 «El ojo digital de la máquina» · Lección 2 «La unidad básica de los datos (tensores)»
Se puede hacer un pequeño ejercicio con papel cuadriculado. Primero dibuja un paraguas y luego vuelve a dibujarlo con otro color de fondo. ¿Qué celdas cambiaron? ¿Qué contornos se mantienen? Una persona reconoce de un vistazo que los dos dibujos son de la misma clase; que la máquina pueda hacerlo depende de cómo aprende de las muestras.
Cambiar por una foto nunca vista
La lección 3 parte de las muestras etiquetadas y también trata el sobreajuste y la generalización. Un modelo sobreajustado depende demasiado de los detalles de las muestras de entrenamiento, y falla con facilidad cuando cambia el lote de imágenes. Para saber si el modelo puede afrontar situaciones nuevas, hay que reservar muestras que no haya visto durante el entrenamiento y comprobarlo con ellas. Lección 3 «Maestro de la clasificación»
Volviendo al paraguas, primero se pueden preparar fotos de sombreros y paraguas con dos tipos de fondo, interior y exterior, y reservar otro grupo para la prueba. Si se descubre que el modelo siempre toma el paraguas de interior por un sombrero, en la siguiente ronda se puede revisar si el fondo está demasiado ligado a la categoría en las muestras de entrenamiento. Un error de reconocimiento ofrece una pista sobre qué comprobar a continuación.
De reconocer imágenes a generarlas y actuar
Reconocer la foto de un paraguas y generar una nueva imagen de paraguas son dos tareas distintas. La lección 6 explica el proceso de generación con modelos de difusión: partir del ruido y eliminarlo poco a poco hasta formar una imagen que cumpla las condiciones. La lección 7 lleva el problema a la acción. Un agente recoge información del entorno, elige acciones y las ejecuta; después de actuar, vuelve a observar cómo cambia el entorno. Por ejemplo, al recorrer un laberinto de papel según reglas, a cada paso hay que volver a juzgar la posición actual. Lección 6 «Arte generativo y modelos de difusión» · Lección 7 «El ciclo central de los agentes»
Antes de creer en el resultado, busca una forma de comprobarlo
La última lección trata los sesgos en los datos, las alucinaciones del modelo y la supervisión humana. Una pregunta adecuada para llevar al aula es: si el resultado está mal, ¿con qué puedo descubrirlo? En la clasificación de imágenes, se puede buscar una foto con un fondo completamente distinto. En las respuestas generadas, se puede volver al material original para buscar pruebas. Y en los sistemas que actúan, también se puede pensar qué paso debería confirmar una persona. Lección 10 «Ética, sesgos y simbiosis entre humanos y máquinas»
El curso está dirigido a estudiantes de secundaria y también es adecuado para padres y docentes que quieran que sus hijos comprendan los principios básicos de la IA. Se puede empezar por la lección 1 de los materiales en chino simplificado y las preguntas que la acompañan: primero descomponer una foto conocida en píxeles y luego volver a pensar qué foto llevar la próxima vez para ponerlo a prueba. Entrar en AI004 «Laboratorio de magia de la IA»