Imaginez que vous appreniez à un modèle de classification d'images à distinguer les parapluies des chapeaux. Les premières photos de parapluies ont toutes été prises sous la pluie, les premières photos de chapeaux toutes en intérieur. Face à ces photos d'entraînement, le modèle semble très bien s'en sortir. Mais si l'on prend une nouvelle photo, où le même parapluie est posé en intérieur, saura-t-il encore le reconnaître ?
Il vaut alors la peine de se demander si le modèle a réellement appris la forme du parapluie, ou s'il s'est simplement appuyé sur l'arrière-plan. 《Le laboratoire magique de l'IA》 part de l'information visuelle que reçoit la machine, puis porte la même question sur les contenus générés, l'action des agents et la vérification humaine.
Comment une machine voit un parapluie
Si vous agrandissez la photo autour de la pointe du parapluie, vous verrez des blocs de couleur. La toile bleue du parapluie, dans la représentation RVB courante, peut être stockée sous forme de cases numériques, chacune enregistrant l'information des trois canaux rouge, vert et bleu. La leçon 1 présente d'abord les pixels et les couleurs, puis explique comment la vision par ordinateur cherche des formes et des textures dans une image. La leçon 2 organise ces valeurs en tenseurs et examine pourquoi il faut préparer les données avant de les envoyer au modèle. Leçon 1 « L'œil numérique de la machine » · Leçon 2 « L'unité de base des données (le tenseur) »
On peut faire un petit exercice sur papier quadrillé. Dessinez d'abord un parapluie, puis redessinez-le avec une autre couleur de fond. Quelles cases ont changé ? Quels contours subsistent ? Un humain reconnaît d'un coup d'œil que les deux dessins appartiennent à la même catégorie ; que la machine y parvienne ou non dépend de la manière dont elle apprend à partir des exemples.
Changer pour une photo jamais vue
La leçon 3 part des exemples étiquetés et aborde aussi le surapprentissage et la généralisation. Un modèle en surapprentissage dépend trop des détails des exemples d'entraînement et échoue facilement sur un autre lot d'images. Pour juger si un modèle peut traiter des situations nouvelles, il faut réserver des exemples qu'il n'a pas vus pendant l'entraînement. Leçon 3 « Le maître de la classification »
Revenons au parapluie : on peut d'abord préparer des photos de chapeaux et de parapluies sur fonds intérieur et extérieur, puis réserver un autre groupe pour le test. Si l'on constate que le modèle prend toujours les parapluies en intérieur pour des chapeaux, on peut, au tour suivant, vérifier si l'arrière-plan est trop fortement lié à la catégorie dans les exemples d'entraînement. Une erreur de reconnaissance fournit une piste pour la prochaine vérification.
De reconnaître une image à en générer une et à agir
Reconnaître la photo d'un parapluie et générer une nouvelle image de parapluie sont deux tâches différentes. La leçon 6 explique le processus de génération à l'aide des modèles de diffusion : partir du bruit, le débruiter progressivement, et former une image conforme aux conditions. La leçon 7 amène ensuite la question du côté de l'action. Un agent collecte des informations sur son environnement, choisit une action et l'exécute, puis observe comment l'environnement a changé après l'action. Par exemple, pour suivre un labyrinthe sur papier selon des règles, il faut réévaluer sa position à chaque pas. Leçon 6 « Art génératif et modèles de diffusion » · Leçon 7 « La boucle centrale des agents »
Avant de croire un résultat, trouver un moyen de le vérifier
La dernière leçon traite des biais dans les données, des hallucinations des modèles et de la supervision humaine. Une question adaptée à la classe est celle-ci : si le résultat est faux, avec quoi puis-je m'en apercevoir ? Pour la classification d'images, on peut chercher une photo dont l'arrière-plan est totalement différent. Pour une réponse générée, on peut retourner aux sources pour chercher des preuves. Pour un système capable d'agir, on peut aussi réfléchir à l'étape qui devrait être confirmée par un humain. Leçon 10 « Éthique, biais et symbiose homme-machine »
Le cours s'adresse aux élèves du collège, ainsi qu'aux parents et aux enseignants qui souhaitent aider leurs enfants à comprendre les principes de base de l'IA. On peut commencer par la première leçon du support en chinois simplifié et les petites questions qui l'accompagnent : décomposer d'abord une photo familière en pixels, puis se demander quelle photo utiliser pour le prochain test. Accéder à AI004 « Le laboratoire magique de l'IA »