«Считать, что мы создали технологию, которая будет обманывать людей, — наивно»

Трудно ли создать машинный сверхинтеллект? Поможет ли ИИ перейти к новому технологическому укладу? И как обучать искусственный разум на малом количестве примеров?  Какие сложности возникают при взаимодействии с умными роботами, обсудили с директором центра когнитивного моделирования МФТИ, руководителем научной группы «Нейросимвольная интеграция» в Институте искусственного интеллекта AIRI Александром Пановым.

— Александр Игоревич, вы один из ведущих специалистов в сфере искусственного интеллекта. Как вы оцениваете его роль в современном обществе?

— Искусственный интеллект — это комплексное явление. С одной стороны, оно относится к области фундаментальной науки. Причем это направление активно развивается, в нем постоянно предлагают новые подходы, создают алгоритмы и модели. С другой стороны, технологии на основе ИИ сейчас реализуют в огромном количестве прикладных приложений. Пожалуй, впервые в истории человечества происходит такое быстрое и масштабное внедрение научных достижений в различные системы и устройства для практических применений в повседневную жизнь. Множество стартапов активно разрабатывают новые услуги в этой сфере.

В том числе ИИ стал общедоступным инструментом для управления машинами и для обработки информации. Каждый из нас, даже не осознавая, использует их в том или ином виде — от приложений для гаджетов до программного обеспечения для атомных станций. В сложных системах ИИ применяют для прогнозирования и управления процессами. К примеру, в банковском секторе эти подходы используют в скоринге — оценке риска невозврата кредитов. 

— Как вы оцениваете уровень российской науки на фоне мирового научного сообщества в сфере искусственного интеллекта?

— В некоторых направлениях наши ученые безусловно лидируют. В частности, в разработке эффективных алгоритмов, которые позволяют экономить вычислительные мощности. Также в области машинного обучения с подкреплением у нас есть команды, которые работают лучше всех в мире. Однако, скажем так, это области, которые не у всех на слуху.

Есть и другие направления, в которых мы не первые, но стараемся не отстать и поддерживаем необходимый уровень компетенций. При этом, в основном, повторяем то, что уже сделано за границей. Например, такая ситуация сложилась в языковых моделях, на которых строится работа популярных приложений типа Chat GPT.

У российской науки есть свои особенности. Например, в сфере ИИ наш подход интересен тем, что это направление тесно связано с другими дисциплинами. Например, психологией, нейрофизиологией и другими. Это существенно обогащает исследования.

— Вы себя ощущаете российским ученым или частью мирового научного сообщества?

— Я горжусь, что принадлежу к советско-российской школе искусственного интеллекта. Мой учитель Геннадий Осипов был учеником Дмитрия Александрович Поспелова, основателя советской научной школы по ИИ. Вокруг них сложился большой коллектив ученых. У этой школы, как и у других, есть недостатки и преимущества. Тем не менее это оформленная система научных взглядов, которая позволяет глубоко видеть проблемы и передавать знания и опыт через поколения.

— Какие у вас сильные и слабые стороны?

— Среди слабых сторон можно отметить нетерпеливость. Возможно, это связано с молодостью. В частности, есть нудные вещи, с которыми нужно смириться и делать их качественно и хорошо. Даже если они кажутся скучными, для кого-то они важны, и это необходимо принять. Однако иногда не хватает терпения, и это подчас сказывается на моей профессиональной деятельности.

Среди сильных сторон выделил бы коммуникативные способности. Я умею организовывать команду, договариваться с коллегами, составлять план исследования и организовывать пространство для генерации идей.

— Как вы пришли в науку и как пришли к искусственному интеллекту?

— В детстве, когда спрашивали, кем буду, стандартным ответом было — инженером. Поэтому, вероятно, и моя работа связана с инженерной тематикой. Правда, с научным уклоном. В школе учился в Новосибирском Академгородке в классе с уклоном в физику. Увлекался разными дисциплинами. Из достижений — победы на всероссийских олимпиадах по химии. Потом поступил в НГУ на физфак, в подразделение, которое специализировалось на автоматизации физических процессов. Это научное программирование оборудования. Помимо учебы работал в Институте ядерной физики имени Г. И. Будкера, где занимался анализом данных для ускорителей частиц.

В это время увлекся программированием и встретился с такими понятиями, как «семантика» и «интеграция знаний» и другими. Изучая эти темы, узнал о методах искусственного интеллекта. Затем случайно узнал о существовании Российской ассоциации искусственного интеллекта. Ее президентом был Геннадий Семенович Осипов. Написал ему перед поступлением в магистратуру МФТИ, и он посоветовал пойти к нему, что я и сделал. Во время учебы в магистратуре познакомился со всеми представителями российской школы искусственного интеллекта, и начал активно заниматься этими проблемами. Затем поступил в аспирантуру и написал кандидатскую. В общих чертах так сложилась моя траектория как ученого.

— Какой была первая система искусственного интеллекта, созданная вами?

— Одно из слабых мест ИИ — области, где нужно принимать решения на основе ограниченных сведений. Сперва я занимался такими проблемами. А именно вопросами анализа данных и машинного обучения на малых данных с помощью подхода, который сейчас называют ДСМ-методом. Кстати, разработчик ДСМ-подхода — отечественный ученый Виктор Константинович Финн. Название методу он дал по инициалам философа Джона Стюарда Милля, чей способ рассуждения лег в основу автоматического порождения гипотез.

Его преимущества в том, что он позволяет без знаний о предметной области, но с помощью логических построений сформулировать в автоматическом режиме правдоподобные и достоверные гипотезы. Такой способ востребован в системах с ограниченным набором данных. Используя эти подходы, я разработал алгоритмы, которые сразу показали результативность в области психологии. В целом такие алгоритмы имеют большую практическую пользу, поскольку хорошо работают с малым количеством сведений. Тем самым они дополняют статистические методы (например, нейросети), которые эффективны на больших выборках. 

— Что нужно сделать, чтобы российская наука в этой отрасли догнала лидеров?

— Стратегия государства в сфере развития ИИ в целом правильная. Очевидно, что в нашей стране уделяют много внимания научным исследованиям, проводят конференции, финансируют прикладные исследования. При этом открываются новые образовательные программы, выдаются гранты — как на прикладные проекты и стартапы, так и на фундаментальные работы.

Считаю, что условия, чтобы достичь значимых успехов, созданы. Однако научный поиск — это сложный и многогранный процесс. Он зависит не только от финансирования, но и от человеческого фактора. Чтобы его задействовать, нужно создавать и укреплять научные группы, где бы накапливалась «критическая масса» знаний. В итоге количество перейдет в качество, что позволит совершить рывок.

— Где искусственный интеллект будет наиболее востребован?

— Трудно дать однозначный ответ. Многое зависит от специфики конкретных отраслей. Очевидно, что в самых популярных устройствах, таких как смартфоны и ноутбуки, их адаптируют в первую очередь. Чем больше мы пользуемся такими гаджетами, тем больше нуждаемся в сервисах, которые улучшают их работу. Поэтому стремительно растет спрос на «умные» приложения — голосовые ассистенты, переводчики, программы для улучшения фотографий и многие другие.

Применение ИИ в промышленности и экономике различно в разных странах. Например, в России «Сбер» заявляет, что благодаря методам в финансовой сфере ИИ прибыль входящих в его экосистему компаний увеличилась примерно на треть. В Тайване же эти технологии широко внедряют для автоматизации и роботизации производственных процессов и конвейерных линий. 

— Может ли ИИ стать инструментом прорыва к новому технологическому укладу?

— Возможно, это так. ИИ занимает важное место в том, что мы понимаем под прогрессом. Он оказывает влияние на все сферы и существенно изменяет формат работы, общения, поиска информации и ее анализа. Также ИИ помогает создавать новые бизнесы. Однозначно это важный катализатор развития современного общества. Однако сложно сказать, придаст ли он скачкообразное ускорение науки и технологиям или все же мы останемся в рамках планомерного постепенного развития.

Причем говоря об успехах ИИ, следует сказать, что в этой сфере много нерешенных задач. Возможно, некоторые из них фундаментально неразрешимы. Как, например, полеты быстрее скорости света или вечный двигатель.

— Приведите примеры возможно неразрешимых фундаментальных проблем?

— Например, разработки в области Общего искусственного интеллекта (Artificial General Intelligence). В этом направлении ученые стремятся создать программный комплекс, который, подобно человеческому сознанию, может самообучаться выполнять задачи, для которых поначалу не создавался. Другими словами, речь идет о создании систем, которые способны думать, рассуждать и принимать самостоятельные решения. Такие машины будут обладать разумом человеческого уровня, а в перспективе — сверхинтеллектом.

Однако чтобы создать системы, которые не просто генерируют тексты или картинки и развлекают пользователей в телефонах, нужно связать модели ИИ с реальным миром. Но нет хороших архитектур, которые позволят реализовать это.

— Над чем сейчас работает ваша команда?

— Над приложениями ИИ, которые связаны с робототехникой. В том числе решаем задачи адаптации беспилотных устройств к выполнению действий в незнакомой внешней среде. В связи с этим делаем акцент на так называемых Базовых поведенческих моделях (Foundation Behavior Models). Они представляют собой нейросетевые алгоритмы, в результате которых машины обучаются на заранее собранных данных и человеческих примерах, а затем дообучаются в среде на собственном опыте. Это многообещающий путь к созданию универсальных и удобных для пользователей роботов.

Также мы развиваем методы Обучения с подкреплением (Reinforcement Learning). Это метод, при котором ИИ усваивает новые знания и навыки, взаимодействуя с окружающей средой. Процесс основан на имитации человеческого познания путем проб и ошибок. При этом алгоритмы, которые направлены на достижение цели, в системе управления агентом усиливаются, а отвлекающие от цели, наоборот, игнорируются.

— Можете рассказать про ваши достижения и интересные продукты, созданные вашей группой?

— Кроме программного обеспечения, мы совершенствуем технические системы для управления роботами. Наша команда — одна из ведущих в разработке систем навигации внутри помещений.

В частности, мы стремимся улучшить работу сенсоров и датчиков, которые принимают и передают данные от окружающей среды. Одно из направлений, в котором наша команда хорошо продвинулась, это разработка систем компьютерного зрения с помощью обычных камер — без дорогих лазерных лидаров. Мы показываем, как эффективно решить такие задачи. Причем в процессе навигации роботы обучаются, и полученный опыт используют уже в других незнакомых помещениях. Это важно, когда в памяти робота нет готовой карты, но требуется, чтобы он быстрее изучил пространство. 

Есть и другие разработки: совместно с индустриальными партнерами мы создаем системы управления для роботов-курьеров и роботов-ассистентов. В том числе с помощью языковых команд. Также мы сводим воедино различные системы управления роботом — локализации, компьютерного зрения, машинного обучения, планирования поведения и другие. В России мало кто занимается этим, и мы делаем это на высоком мировом уровне.

— В связи с развитием ИИ в обществе возникают опасения. Например, они связаны с тем, насколько правильная информация, которую генерируют такие системы? Будет ли ИИ правдивым? Вы ощущаете эту проблему?

— В целом любые исследования в области критических технологий — будь то атомная физика, ракетостроение или искусственный интеллект — могут быть использованы во вред человеку. Однако считать, что мы создали технологию, которая будет обманывать людей, — наивно.

Я скептически отношусь к появлению у искусственного интеллекта личности. Скорее, правильно рассматривать его как инструмент. И риск — в том, как правильно его применять. Умение пользоваться ИИ требует воспитания и подготовки общества. По-хорошему, для этого нужно пройти обучение и сдать экзамен, как на права на вождение автомобилем.

— Возможно дело в той информации, которую используют для машинного обучения?

— Конечно. Доступ к данным и их правильная подготовка играют ключевую роль. И если посмотреть на последние релизы в сфере создания языковых моделей, то можно отметить, что разработчики свободно выкладывают их описание и архитектуру. При этом практически не публикуют данные, на которых обучалась модель, и методику их подготовки и очистки. Однако эта часть требует наибольших затрат и эксклюзивных источников. И именно их все стремятся сохранить в тайне.

Однако проблема с информацией существовала всегда. Еще в древности люди задумывались, кому и что показать, а что скрыть, как правильно обработать информацию. Это классическая задача, которая остается актуальной и в наше время. Сейчас она стала более выпуклой благодаря современным инструментам.

— Может ли ИИ быть оружием? Если да, то насколько опасным?

— Да, ИИ может быть оружием, но ровно в той же степени, как и любой другой предмет. Например, когда швея шьет шарф, то не задумывается, что он может стать средством удушения. 

Также абсолютно любой инструмент можно использовать как на пользу, так и во вред. В том числе и ИИ. Причем мы наглядно видим, как это происходит. Например, сейчас нейросети легко подделывают голоса или изображения. Но это проблема не системы, а людей. То есть их воспитания, а также законодательного регулирования.

— Еще специалисты видят проблему в том, что люди перекладывают на ИИ решение проблем. Не превратится ли человечество исключительно в операторов ИИ, утратив полезные навыки?

— Такая проблема существует. Однако ее тоже можно решать с помощью воспитания и образования. Обратимся к примеру с автомобилем. Ведь управляя им, человек тоже становится оператором. Но стало ли ему от этого хорошо или плохо?.. Да, он стал меньше двигаться, зато высвободил огромное количество времени за счет увеличения скорости передвижения. Освободившееся время можно потратить с пользой на науку или творчество. А нехватка физических нагрузок компенсируется спортом.

Системы искусственного интеллекта — как автомобили. Они помогают выполнять рутинные задачи. Это позволяет больше времени уделять решению более полезных задач. Но чтобы не терять навыки и поддерживать мозг в функционально готовом состоянии, нужно тренировать его и время от времени решать эти рутинные задачи самостоятельно.

— У вас есть дети? Как вы их воспитываете? Есть ли у них ограничения по взаимодействию с гаджетами, общению в соцсетях?

— Есть сын Тимофей. Понимаю ваш вопрос и считаю, что детей нужно воспитывать в гармонии с современными технологиями. С одной стороны, они должны быть морально и психологически готовы правильно использовать все доступные инструменты: смартфоны, телефоны и компьютерные игры. Однако для сохранения баланса им также необходимо уделять время живому общению с родителями, друзьями и другими людьми.

В последнее время, кстати, замечаю такую потребность у молодежи. Например, среди студентов снова стала популярна игра в мафию. А это занятие, где участники вербально и ментально взаимодействуют друг с другом: смотрят в глаза, думают о внутреннем мире своих товарищей. Популярность этих игр подтверждает, что молодые люди осознают, что чрезмерное увлечение информационными технологиями и погружение в виртуальный мир могут лишить их чего-то важного. Поэтому они стремятся развивать живое общение.

— Какие вызовы сейчас стоят перед учеными в сфере искусственного интеллекта?

— Важно найти способы эффективно приспособить системы ИИ для фундаментальных исследований. Тогда они существенно расширят возможности ученых. При этом, как уже говорил, главный вызов заключается в том, чтобы ознакомить конечных пользователей правильно использовать эти технологии.

В целом есть тривиальные, но не менее значимые проблемы. Например, как правильно организовать процесс научной работы. Мы уже десятилетие пользуемся одними и теми же методиками и наборами параметров. А это сигнал, что следует что-то менять, чтобы двигаться дальше. 

При поддержке гранта Минобрнауки России в рамках федерального проекта «Популяризация науки и технологий» № 075-15-2024-571 и всемерной поддержке Физтех-Союза.