Искусственный интеллект

Коллектив исследователей из МФТИ и Института проблем передачи информации им. А. А. Харкевича (ИППИ РАН) разработал математическую модель, описывающую, как системы искусственного интеллекта влияют на собственное будущее, обучаясь на данных, которые сами же и породили. Ученые создали теоретический каркас, объясняющий природу «цифровых эхо-камер» и механизм, из-за которого умные алгоритмы со временем могут терять адекватность или усиливать социальные предрассудки.

LIBRA — первый в своем роде масштабный бенчмарк для оценки способности больших языковых моделей (LLM) работать с длинными текстами на русском языке. LIBRA единый, открытый и сложный полигон, на котором все желающие могут проверить свои модели в честном соревновании. В открытый доступ представлены сами задания, код для оценки и публичная таблица лидеров, что будет стимулировать дальнейшее развитие и совершенствование русскоязычных нейросетей.

Новый метод значительно повышает надежность нейронных сетей, обучая их эффективно распознавать объекты и ситуации, с которыми они не сталкивались в процессе обучения. Ученые показали, что в некоторых случаях избыточная информация о геометрии пространства решений вредна. Отказ от нее и переход к более общей и гладкой оценке неопределенности позволяет нейросети лучше очертить границы известного и вовремя сигнализировать о столкновении с чем-то новым.

Российские ученые предложили решение проблемы перемещения шагающих роботов по неровным поверхностям и в стесненной обстановке. В процессе исследований робот успешно адаптировался к сменяющимся командам компьютера и сохранял устойчивость при ходьбе по неровностям, демонстрируя точное отслеживание шагов.

Новая ИИ-архитектура решает важную проблему машинного обучения — катастрофическое забывание.

Международная команда ученых из МФТИ, Арктического университета Норвегии и Института физики атмосферы им. А.М. Обухова РАН разработала и успешно применила нейросетевой метод для автоматического обнаружения и классификации океанических вихрей в…

Новая система использует особый симулятор для точной настройки виртуальной модели робота.

Команда исследователей из Т-Технологий и МФТИ разработала метод, позволяющий построить детальную «карту» эволюции абстрактных понятий в глубине больших языковых моделей. Этот подход, основанный на «графах потоков признаков», не только открывает…

Команда исследователей из Т-Технологий и МФТИ предложила революционный подход к «воспитанию» больших языковых моделей, позволяющий им становиться умнее и безопаснее, не страдая от «сверхоптимизации» — парадоксального эффекта, когда слишком усердное…

Команда исследователей из Т-Технологий, МФТИ и НИУ ВШЭ разработала новаторский метод, позволяющий впервые проследить «жизненный цикл» отдельных концепций внутри сложных нейронных сетей. Их подход, получивший название SAE Match, работает как…