Классическое Deep learning (глубокое обучение) искусственного интеллекта напоминает создание скульптуры. «Я беру глыбу мрамора и отсекаю от нее все лишнее», как говорил Огюст Роден. Разработчики берут «пустую» нейросеть и обучают ее определенным задачам посредством множества примеров, например — угадать, что на картинке, и выбрать верный вариант. Ученые из МФТИ дерзнули пойти дальше и обучить сильный интеллект — модель искусственной психики ADAM с неограниченным горизонтом планирования своего поведения и мышления. О том, что такое сильный ИИ, мы узнали у Сергея Шумского, заведующего лабораторией когнитивных архитектур Исследовательского центра прикладных систем искусственного интеллекта МФТИ.
Сейчас почти каждая вторая техническая новость рассказывает о применении «технологий ИИ». Специалисты же считают, что к интеллекту это не имеет отношения. То есть, несмотря на то, что ИИ уже давно умеет не только угадывать картинки, но и отлично их рисовать, не только читать тексты, но и писать стихи, рассказы и сценарии, масштаб его мышления весьма невелик, он пассивный, так как ограничивается решением задач, которые ставит человек. Парадокс в том, что искусственный интеллект давно может обыграть человека в шахматы, но при этом он по-прежнему слабый, так как элементы целеполагания, творчества и созидания остаются за разработчиком.
Сильный ИИ — это моделирование творческой личности, способной к рациональному мышлению. В отличие от «классического» логического ИИ, ключевым аспектом здесь является свобода принятия своих решений не только на уровне планирования достижения поставленных целей, но и в плане свободного целеполагания. Агент самостоятельно ставит задачи и решает их. Для этого ему необходима мотивация. По сути, все наши поступки вызваны мотивацией: у живых систем это выживание, у личности — цель, которой она желает достичь. Искусственному интеллекту также вполне реально заложить такую мотивацию, над чем и работают ученые.
ИИ ставится цель заработать в ходе обучения как можно больше очков, создается схема поощрений и наград (подкреплений). И чем сложнее задачи, за которые даются награды, тем больше этапов требуется для их решения, тем сложнее задача планирования целенаправленного поведения и тем сильнее интеллект. Все как у людей: я не буду испытывать бытовых проблем в жизни, если получу высокооплачиваемую и нужную обществу профессию, для этого я должен хорошо учиться в школе и получить дополнительные знания, посещая курсы подготовки в престижном вузе. Поступив в этот вуз, я буду хорошо учиться, получу желаемую профессию и т. д. Личность начинает структурировать свою деятельность, чтобы увеличить интеграл ожидаемых поступлений.
Это и есть общий подход к построению сильного искусственного интеллекта, который реализуют в лаборатории когнитивных архитектур МФТИ. Вся сложность целенаправленного поведения — выстраивание длинной цепочки целей и задач на будущее. Это очень непросто. Обычный когнитивный (мыслительный) акт у человека длится около половины секунды, что соответствует, например, сказанному слову, но выстроить план на год вперед — значит, спланировать миллиарды когнитивных актов в соответствии со своими желания и потребностями.
Очевидно, что для этого требуется иерархическая структура мышления: набросать общий план и разбить его на этапы, детально рассмотреть каждый из них и решить, таким образом, задачу комбинаторного взрыва (много долгосрочных планов). Такое иерархическое планирование люди, как правило, и используют в жизни. Проблема состоит в том, чтобы научить ИИ самостоятельно вырабатывать иерархии планов своего поведения и добиваться их реализации в постоянно меняющихся условиях. И чем больше горизонт планирования — тем сильнее интеллект (и у человека, и у машины).
Сергей Шумский: «Мы предлагаем систематический подход к созданию сильного ИИ и придерживаемся гегелевского метода “от абстрактного — к конкретному”, последовательно разбирая тему интеллекта на трех уровнях: функциональном, алгоритмическом и уровне имплементации. Такой подход “сверху вниз” позволяет выявить оптимальный для понимания интеллекта уровень моделирования мозга и сконструировать искусственный интеллект по тем же лекалам. Наша команда создала биологически обоснованную модель искусственного мозга. Мы назвали ее ADAM и сейчас проводим тестирование на решении простых задач. Это алгоритмы для выстраивания иерархического мышления, и чем задачи сложнее, тем больше этажей мышления требуется построить».
Пока тестируются и отлаживаются модели с двумя-тремя слоями, но в идеале можно строить и многоэтажные конструкции — «алгоритмические небоскребы». Чем больше этажей, тем более сложные задачи способна решать система. При этом ИИ необходимо не только обучаться, но также не забывать предыдущих знаний. В идеале процесс должен перейти от машинного обучения к воспитанию. Для этого необходимо привить роботу систему человеческих ценностей.
Создание сильного ИИ равносильно разработке целостной искусственной психики вместо моделирования ее отдельных подсистем в виде искусственных глубоких нейросетей. Ученые рассмотрели устройство человеческого мозга как систему со множеством уровней, число которых и отличает нас от других млекопитающих. Уровней у нас больше, что и позволило человечеству создать свой язык общения, разработать абстрактное мышление и нарастить огромный базис знаний, который передается от поколения к поколению. К настоящему моменту в лаборатории создан прототип модели сильного ИИ ADAM, способный неограниченно наращивать количество своих уровней и расти без ограничений горизонта планирования и сложности решения задач. Все упирается только в вычислительные мощности.
