오목 프로그램의 착수 전략을 짠다고 상상해 보자. 규칙은 이미 설명했고, 바둑판도 제대로 표시된다. 이제 남은 일은 프로그램이 가장 좋은 한 수를 고르게 하는 것처럼 보인다. 그런데 탐색을 시작하는 순간, 상대의 모든 응수마다 더 많은 변화가 이어진다. 바둑을 두기도 전에 계산 시간이 먼저 부족해진다.
이 작은 곤경은 인공지능의 중요한 문제 하나를 눈앞에 드러낸다. 정보와 시간, 계산 자원에는 모두 경계가 있는데, 시스템은 어떻게 근거 있는 선택을 하는가? 이미 AI 도구를 익숙하게 쓰는 사람이라면, 이런 문제를 직접 다루는 일 자체가 기술의 내부로 다가가는 기회가 된다.
홍콩이공대학교(PolyU) COMP5511 《Artificial Intelligence Concepts》(인공지능 개념) 수업은 탐색, 지식 표현, 추론, 머신러닝을 아우른다. EvoClass의 현재 수업 자료에서는 학습 경로가 Transformer, 대규모 언어 모델, 에이전트로 더 나아간다. 바둑판에서 출발해 가는 길에는 서로 다른 과제가 놓여 있고, 그 과정에서 "선택한다는 것"을 끊임없이 다시 들여다보게 된다.
첫 수를 두기 전에, 먼저 취사선택을 배운다
모든 가능성을 다 계산할 가치가 있다면, 프로그램은 금세 거대한 탐색 공간에 빠진다. 한정된 시간 안에 착수하려면 어떤 국면을 먼저 고려할지, 어떤 기준으로 평가할지, 어디까지 탐색하고 멈출지를 정해야 한다.
겉보기에 "속도가 부족하다"는 문제일 뿐이던 것이 이렇게 방법의 선택 문제로 바뀐다.
탐색 전략: 비정보 탐색과 휴리스틱 탐색에서는 학습자가 서로 다른 탐색 방식을 비교할 수 있고, 적대적 탐색과 제약 충족에서는 상대의 선택까지 자신의 판단에 넣어야 한다. 몇 수 앞을 더 보는 일, 국면을 어떻게 평가할지, 불필요한 계산을 어떻게 줄일지가 구체적인 의미를 갖게 된다.
수업의 오목 실험은 하나의 관찰 창을 제공한다. 전략 하나를 바꾸고, 프로그램을 실행한 뒤, 착수와 소요 시간을 비교해 볼 수 있다. 눈앞에서 유리해 보이는 한 수가 이후의 허점을 남길 수 있고, 더 깊이 탐색하려면 더 많은 계산 비용을 치러야 한다.
코드가 실제로 돌아가기 시작하면, 알고리즘 이름 뒤에 숨은 취사선택이 비로소 눈에 보인다. 학습에도 분명한 손잡이가 생긴다. 이번 선택을 설명하고, 그 설명을 검증할 방법을 찾는 것이다.
손글씨 이미지로 바뀌면, 문제도 달라진다
오목의 착수 규칙은 명확하게 적어 둘 수 있지만, 손글씨 숫자의 모양은 하나하나 규정하기 어렵다. 같은 "3"도 누군가는 둥글게 쓰고, 누군가는 납작하게 쓰며, 어떤 사람은 획이 거의 붙어 있다.
규칙을 계속 보태면 당장의 몇 개 표본은 해결할 수 있겠지만, 새로운 필체는 여전히 나타난다. 과제는 여기서 다른 방향으로 돌아선다. 모델에 데이터를 주고, 인식에 쓸 수 있는 규칙성을 학습하게 하는 것이다.
하지만 표본 한 무더기를 학습했다고 해서 모든 새로운 상황을 처리할 수 있는 것은 아니다.
COMP5511의 EvoClass 실험 자료에는 손글씨 숫자 분류가 포함되어 있고, 강의 내용은 전통적인 머신러닝에서 신경망과 컴퓨터 비전으로 이어진다. 학습자에게 해 볼 만한 작은 연습이 있다. 잘못 분류된 사례 몇 개를 남겨 두고, 모델이 무엇을 무엇으로 인식했는지 살펴본 뒤, 데이터와 방법으로 돌아가 원인을 찾아보는 것이다.
이 경로를 따라 시퀀스 모델링과 Transformer로 들어가면, 관심은 시퀀스와 문맥으로 더 옮겨 간다. 이어서 대규모 언어 모델을 배우면, 익숙한 채팅 인터페이스 뒤편에도 더 파고들 수 있는 기술적 실마리가 생긴다.
다음으로 수업은 문제를 화면 밖으로 밀어낸다. 답이 실제 한 번의 조작을 거쳐야 완성된다면, 시스템은 어떻게 이어 가야 하는가?
답 이후에, 또 한 번의 행동이 있다
자료 한 건을 찾고, 코드 한 토막을 실행하고, 돌아온 정보에 따라 작업을 계속하는 일은 모두 시스템이 외부 도구와 연결되어야 한다. 계획을 생성한 뒤에도 요청을 보내고, 결과를 읽고, 다음 단계가 여전히 합당한지 판단해야 한다.
Lab 11의 에이전트와 도구 호출 실습은 학습자를 이 지점으로 데려간다. 언어 모델을 외부 도구와 연결하고, 사고와 행동, 피드백이 어떻게 하나의 연속된 과정을 이루는지 관찰한다.
이때 주목할 만한 것은 쉽게 지나치는 한 단계, 즉 도구가 이미 결과를 돌려준 뒤 시스템이 그것을 어떻게 쓰는가이다. 반환된 내용이 불완전할 수 있고, 조작이 실패할 수도 있다. 재시도할지, 방법을 바꿀지, 멈출지는 그에 맞는 근거가 있어야 한다.
서두의 바둑판 위 문제가 또 다른 형태로 다시 나타난다. 한 번의 선택이 눈앞의 상황을 바꾸었고, 다음 판단은 그 변화를 고려해야 한다.
탐색 프로그램과 언어 모델은 작동 방식이 다르다. 그러나 이들을 같은 학습 경로에 놓으면, 처음부터 끝까지 관통하는 하나의 관찰 방식을 연습할 수 있다. 먼저 과제를 명확히 하고, 그다음 시스템이 어떻게 행동하는지 보고, 마지막으로 결과로 원래의 판단을 점검하는 것이다.
한 번의 실험을, 자신의 판단으로
시스템이 실제 과제에 영향을 미치기 시작하면, 실행 성공 여부만으로는 부족하고 신뢰성, 편향, 사용 경계를 함께 고려해야 한다. AI 윤리, 안전과 정렬은 이러한 문제를 수업에 포함시켜, 기술적 구현과 사람의 책임을 같은 그림 안에 놓는다.
이 수업을 공부할 때는 아주 작은 과제를 스스로에게 남겨 둘 수 있다. 실험을 실행하기 전에 예상을 적고, 결과를 본 뒤 예상과 다른 지점 한 곳을 기록하고, 이어서 관련 강의 단원으로 돌아가 그 차이를 설명해 보는 것이다.
그 차이는 뜻밖의 착수일 수도, 잘못 인식된 이미지일 수도, 에이전트가 무시한 도구 피드백 하나일 수도 있다. 그것이 다음 학습의 방향을 제시하고, 각 장의 개념과 자신의 관찰을 연결해 준다.
EvoClass의 COMP5511 수업 페이지에서는 강의 단원을 따라 지식의 흐름을 세우고, 실험으로 들어가 문제를 다시 가져올 수 있다. 관심 있는 주제를 먼저 고르고, 모의 연습과 함께 이해를 점검할 수도 있다.
다시 그 바둑판으로 돌아가면, 프로그램은 여전히 한정된 시간 안에 다음 수를 골라야 한다. 이제 그것을 점검할 방법이 더 많아졌다. 탐색이 어떻게 펼쳐지는지, 평가의 근거가 무엇인지, 그리고 결과가 애초의 설계를 뒷받침하는지 살펴보면 된다.
AI를 이해하는 일은 이렇게 한 개의 바둑돌에서 시작할 수 있다.
수업 기본 정보는 PolyU 공식 과목 설명을 참조했고, 구체적인 장과 실험 소개는 EvoClass의 현재 수업 내용을 근거로 했다. 본문의 강의 링크는 영어 학습 자료를 가리킨다.