Представьте, что вы пишете стратегию ходов для программы, играющей в гомоку (крестики-нолики на доске). Правила объяснены, доска отображается корректно, и, казалось бы, остаётся только заставить программу выбрать лучший ход. Но как только начинается перебор вариантов, каждый ответ соперника порождает всё новые ветвления. Партия ещё не начата, а времени на вычисления уже не хватает.
Эта небольшая дилемма выводит на первый план важный вопрос искусственного интеллекта: как система делает обоснованный выбор, когда информация, время и вычислительные ресурсы ограничены? Для тех, кто уже привык пользоваться инструментами ИИ, попробовать разобраться в такой задаче — возможность заглянуть внутрь технологии.
Курс COMP5511 «Artificial Intelligence Concepts» (Концепции искусственного интеллекта) в Гонконгском политехническом университете (PolyU) строится вокруг поиска, представления знаний, рассуждений и машинного обучения. В текущих материалах курса на EvoClass траектория обучения продолжается темами Transformer, больших языковых моделей и агентов. Начиная с игровой доски, по пути встречаются разные задачи, и вопрос «как сделать выбор» постоянно рассматривается заново.
Прежде чем сделать первый ход, нужно научиться выбирать
Если бы все возможные варианты стоило просчитывать, программа быстро утонула бы в огромном пространстве поиска. Чтобы сделать ход за ограниченное время, нужно решить, какие позиции рассматривать в первую очередь, по каким критериям их оценивать и в какой момент прекратить поиск.
Задача, которая на первый взгляд кажется просто «недостатком скорости», превращается в выбор метода.
В разделе «Стратегии поиска: неинформированный и эвристический поиск» учащиеся могут сравнить разные способы исследования; а в разделе «Состязательный поиск и удовлетворение ограничений» нужно включить выбор соперника в собственные оценки. Просчёт на несколько ходов вперёд, оценка позиции и сокращение лишних вычислений обретают конкретный смысл.
Лабораторная работа по гомоку в курсе даёт окно для наблюдения. Можно изменить одну стратегию, запустить программу и сравнить сделанные ходы и затраченное время. Ход, который кажется выгодным сейчас, может оставить брешь в дальнейшем; более глубокий поиск требует больших вычислительных затрат.
Когда код действительно запускается, компромиссы, стоящие за названиями алгоритмов, становятся видимыми. У учёбы появляется ясная точка опоры: объяснить этот выбор и найти способ проверить объяснение.
Меняем картинку с рукописной цифрой — и задача меняется
Правила ходов в гомоку можно чётко записать, а вот внешний вид рукописных цифр трудно задать по пунктам. Одну и ту же «3» кто-то пишет круглой, кто-то плоской, а у кого-то штрихи почти сливаются.
Продолжая дописывать правила, можно решить несколько текущих примеров, но всё равно встретятся новые варианты написания. Задача разворачивается в другом направлении: предоставить модели данные, чтобы она выучила закономерности, пригодные для распознавания.
Но обучение на наборе примеров не означает способности справиться с любыми новыми случаями.
Лабораторные материалы COMP5511 на EvoClass включают классификацию рукописных цифр, а лекции переходят от традиционного машинного обучения к нейронным сетям и компьютерному зрению. Для учащегося полезное небольшое упражнение — сохранить несколько ошибочных классификаций, посмотреть, что модель приняла за что, и затем вернуться к данным и методам в поисках причины.
Продолжая этот путь к разделу «Моделирование последовательностей и Transformer», фокус смещается к последовательностям и контексту. Затем, при изучении больших языковых моделей, за знакомым интерфейсом чата появляются технические线索, которые можно исследовать дальше.
Далее курс выводит вопрос за пределы экрана: как системе действовать дальше, если ответ можно получить только путём реального действия?
После ответа нужно ещё одно действие
Найти материал, запустить фрагмент кода, продолжить работу с учётом полученной информации — всё это требует связи системы с внешними инструментами. После формирования плана нужно отправить запрос, прочитать результат и определить, остаётся ли следующий шаг разумным.
Практика работы с агентами и вызовами инструментов в Lab 11 подводит учащегося к этому этапу: связать языковую модель с внешними инструментами и понаблюдать, как размышление, действие и обратная связь образуют непрерывный процесс.
Теперь можно сосредоточить внимание на шаге, который легко упустить, — на том, как именно система использует результат после того, как инструмент его вернул. Возвращённое содержимое может быть неполным, а операция — завершиться неудачей; повторная попытка, смена метода или остановка требуют соответствующих оснований.
Проблема с игровой доской из начала статьи снова возникает в другой форме. Один выбор изменил текущую ситуацию, и следующее решение должно учитывать это изменение.
Механизмы поисковой программы и языковой модели различаются. Помещая их в одну траекторию обучения, можно тренировать единый способ наблюдения: сначала уточнить задачу, затем посмотреть, как действует система, и в конце проверить результаты с помощью полученных данных, соотнося их с исходными суждениями.
Превратить один эксперимент в собственное суждение
Когда системы начинают влиять на реальные задачи, успешный запуск нужно рассматривать вместе с надёжностью, смещениями и границами применения. Раздел «Этика ИИ, безопасность и выравнивание» включает эти вопросы в курс, помещая техническую реализацию и человеческую ответственность в одну картину.
Изучая этот курс, можно дать себе совсем небольшое задание: перед запуском эксперимента записать ожидания; после получения результата отметить одно место, где он отличается от ожидаемого; затем вернуться к соответствующему лекционному разделу и попытаться объяснить расхождение.
Этим расхождением может быть неожиданный ход, неверно распознанная картинка или проигнорированная агентом обратная связь от инструмента. Оно задаёт направление для следующего шага в обучении и связывает понятия из разделов с собственными наблюдениями.
На странице курса COMP5511 на EvoClass можно выстроить脉络 знаний по лекционным разделам, затем перейти к лабораторным работам и вернуться к вопросам; а можно сначала выбрать интересующую тему и проверить понимание с помощью симуляционных упражнений.
Вернувшись к той партии, программа по-прежнему должна выбрать следующий ход за ограниченное время. Но теперь у вас есть больше способов проверить её: посмотреть, как разворачивается поиск, каковы основания оценки и подтверждают ли результаты исходный замысел.
Понять ИИ можно, начав с одной такой фигуры на доске.
Основная информация о курсе приведена согласно официальному описанию курса PolyU; конкретные разделы и описание лабораторных работ основаны на текущем содержании курса на EvoClass. Ссылки на занятия в тексте ведут на учебные материалы на английском языке.