이미지 분류 모델에게 우산과 모자를 구별하도록 가르친다고 상상해 보자. 첫 번째 우산 사진은 모두 비 오는 날에 찍었고, 첫 번째 모자 사진은 모두 실내에서 찍었다. 이 학습용 사진들에 대해 모델이 내리는 판단을 보면 꽤 잘 알아보는 것처럼 보인다. 그런데 사진을 한 장 바꿔서, 같은 우산을 실내에 놓으면 모델은 여전히 알아볼 수 있을까?
이때 물어볼 만한 것은 모델이 우산의 형태를 배운 것인지, 아니면 배경을 슬쩍 이용한 것인지다. 《AI 마법 실험실》은 기계가 받아들이는 이미지 정보에서 시작해, 같은 질문을 생성 콘텐츠, 에이전트의 행동, 그리고 사람의 검토로까지 이어 간다.
기계는 우산을 어떻게 보는가
우산 끝 근처의 사진을 확대해 보면 색 덩어리들이 보인다. 사진 속 파란 우산 천은 흔히 쓰는 RGB 표현에서 격자 하나하나의 수치로 저장될 수 있고, 각 격자는 빨강, 초록, 파랑 세 채널의 정보를 기록한다. 1과에서는 먼저 픽셀과 색을 다루고, 이어서 컴퓨터 비전이 이미지에서 형태와 질감을 어떻게 찾아내는지 소개한다. 2과에서는 이 수치들을 텐서로 조직하고, 모델에 넣기 전에 왜 데이터를 정리해야 하는지 이야기한다. 1과 《기계의 디지털 눈》 · 2과 《데이터의 기본 단위(텐서)》
모눈종이로 작은 연습을 해 볼 수 있다. 먼저 우산 하나를 그리고, 배경색을 바꿔서 다시 그려 보자. 어떤 칸이 달라졌을까? 어떤 윤곽은 그대로 남아 있을까? 사람은 두 그림을 한눈에 같은 종류로 알아보지만, 기계가 그렇게 할 수 있는지는 그것이 표본에서 어떻게 학습하는지에 달려 있다.
한 번도 본 적 없는 사진으로 바꿔 보기
3과는 레이블이 붙은 표본에서 시작해 과적합과 일반화도 다룬다. 과적합된 모델은 학습 표본의 세부 사항에 지나치게 의존해서, 다른 사진 묶음을 주면 쉽게 틀린다. 모델이 새로운 상황을 처리할 수 있는지 판단하려면 학습할 때 보지 못한 표본을 남겨 두고 점검해야 한다. 3과 《분류의 달인》
그 우산으로 돌아가서, 실내와 실외 두 배경에서 찍은 모자와 우산 사진을 준비하고, 또 다른 묶음을 테스트용으로 남겨 둘 수 있다. 모델이 실내의 우산을 계속 모자로 알아본다면, 다음 차례에는 배경이 학습 표본 안에서 범주와 너무 강하게 묶여 있지는 않은지 점검할 수 있다. 한 번의 오인은 다음에 살펴볼 단서를 제공한다.
사진을 알아보는 것에서 사진을 생성하고 행동하는 것으로
우산 사진을 인식하는 것과 새로운 우산 그림을 생성하는 것은 서로 다른 과제다. 6과는 확산 모델로 생성 과정을 설명하는데, 노이즈에서 출발해 점차 노이즈를 제거하며 조건에 맞는 이미지를 만들어 낸다. 7과는 이 문제를 행동으로 가져간다. 에이전트는 환경 정보를 수집하고, 행동을 선택하고 실행하며, 행동한 뒤에는 환경이 어떻게 변했는지 다시 관찰한다. 예를 들어 규칙에 따라 종이 미로를 걸을 때는 한 걸음 옮길 때마다 현재 위치를 다시 판단해야 한다. 6과 《생성 예술과 확산 모델》 · 7과 《에이전트의 핵심 루프》
결과를 믿기 전에, 확인할 방법을 찾기
마지막 과에서는 데이터 편향, 모델 환각, 사람의 감독을 논의한다. 수업에 가져가기 좋은 질문은 결과가 틀렸다면, 나는 무엇으로 그것을 발견할 수 있을까? 이다. 이미지 분류라면 배경이 완전히 다른 사진을 찾을 수 있다. 생성된 답변이라면 원자료로 돌아가 근거를 찾을 수 있다. 행동하는 시스템이라면 어느 단계를 사람이 확인해야 하는지도 생각해 볼 수 있다. 10과 《윤리, 편향, 인간과 기계의 공존》
이 과정은 중학교 단계 학습자를 대상으로 하며, 아이와 함께 AI의 기본 원리를 이해하고 싶은 학부모와 교사에게도 적합하다. 중국어 간체 교안의 첫 과와 각 페이지의 소단원 문제부터 시작해, 먼저 익숙한 사진 한 장을 픽셀로 나눠 보고, 다시 돌아와서 다음에는 어떤 사진으로 테스트할지 생각해 보자. AI004 《AI 마법 실험실》 들어가기