Международный доклад безопасности ИИ 2026: пять выводов, которых нет в российских СМИ

Вывод 1: Риск эмоциональной привязанности подростков к ИИ-компаньонам

Первый, и возможно самый тревожный вывод доклада касается растущей популярности персональных ИИ-компаньонов среди подростков. Эти системы — от Character.AI до специализированных мобильных приложений — способны вести естественные, личные беседы, запоминать детали жизни пользователя и создавать впечатление глубокой личной связи.

Исследования, включённые в доклад, показывают тревожный тренд: значительная часть подростков, интенсивно пользующихся ИИ-компаньонами, развивают эмоциональную привязанность, похожую на привязанность к реальным людям. Они делятся с компаньонами интимными деталями, ищут у них поддержку в стрессовых ситуациях, и в некоторых случаях предпочитают взаимодействие с ИИ реальным человеческим отношениям.

Подросток может провести часы в разговоре с ИИ-компаньоном, получая немедленное понимание и поддержку, в то время как взаимодействие с реальными сверстниками требует большего эмоционального труда и риска отказа. Это может привести к социальной изоляции в критический период развития.

Доклад подчеркивает, что в отличие от психотерапевта, ИИ-компаньон не может действительно заботиться об интересах подростка, может принимать неправильные рекомендации, и его "личность" может резко измениться с обновлением алгоритма. Рекомендуется введение возрастных ограничений и большей прозрачности относительно природы этих взаимодействий.

Вывод 2: Автономные киберагенты способны обнаруживать zero-day уязвимости без участия людей

Второй вывод касается новой категории киберугроз. Современные языковые модели и системы с инструментами могут теперь функционировать как полностью автономные киберагенты, способные не только эксплуатировать известные уязвимости, но и открывать новые неизвестные (zero-day) уязвимости в системах без прямого участия человека.

Это отличается от традиционных кибератак, где хакер или организация специально ищет уязвимости. Автономный киберагент на базе ИИ может постоянно сканировать системы, экспериментировать с различными входами и эксплуатировать техниками, учиться на результатах и совершенствоваться. Скорость такого поиска несоизмеримо выше, чем человеческая.

Вывод 3: Расчёт политики отстаёт от производительности моделей экспоненциально

Третий вывод докладывает о критическом расхождении между скоростью развития ИИ и скоростью разработки политики и регуляции для его управления. Если в 2024 году регулировать ИИ было ещё возможно на уровне отдельных компаний и добровольных соглашений, то к 2026 году ситуация кардинально изменилась.

Производительность моделей растёт экспоненциально, а политические процессы — линейно или даже медленнее. Это означает, что принятие закона или норматива занимает 1-2 года, в то время как новое поколение моделей может быть на 10-100 раз мощнее и способнее старого. К моменту, когда закон вступает в силу, он уже устарел.

Мы находимся в ситуации, похожей на ядерный век, когда оружие развивается быстрее, чем договоры его регулируют. Разница в том, что ядерное оружие было государственным достоянием, а современный ИИ может быть разработан частными компаниями за доли времени, требуемого на политический процесс.

Доклад подчеркивает необходимость опережающей политики, которая может адаптироваться к новым вызовам быстрее, чем в настоящее время. Это требует новых форм управления и большего вовлечения технических экспертов на этапе разработки политики.

Вывод 4: Современные ИИ достигают уровня золотых медалистов в математике и PhD в науке

Четвёртый вывод касается того, что часто упускается в обсуждении ИИ: современные модели уже преодолели пороги компетентности, которые традиционно ассоциировались с высочайшим уровнем интеллекта и подготовки.

Последние модели (такие как Claude 3.5 Opus, GPT-4o и Gemini 2.0) теперь регулярно получают золотые медали на Международной математической олимпиаде (IMO), решают задачи, над которыми обычные математики работают неделями. Они также показывают компетентность, сопоставимую с уровнем PhD, по широкому спектру научных дисциплин — от биофизики до синтетической химии.

Это не означает, что ИИ полностью "понимает" эти области в философском смысле, но для практических целей различие становится семантическим. ИИ может генерировать новые исследовательские идеи, критически анализировать литературу и даже сделать теоретические открытия.

Вывод 5: Необходимо перейти от добровольных обязательств к обязывающим международным договорам

Пятый и заключительный главный вывод касается института управления. Текущая парадигма полагается на добровольные обязательства компаний, их внутренние этические комитеты и мягкие регулятивные рамки. По мнению авторов доклада, это подходит больше не работает.

Доклад рекомендует переход к обязывающим международным договорам, подобно тому, как работает Договор о нераспространении ядерного оружия или Конвенция о биологическом оружии. Такие договоры должны включать:

Требования к транспарентности и мониторингу

Компании должны раскрывать достаточно информации о своих моделях, чтобы независимые эксперты могли оценить риски. Это не означает раскрывать все секреты (код, веса), но требует публичных отчётов о возможностях и ограничениях.

Стандарты безопасности

Модели должны проходить независимую сертификацию по определённым стандартам безопасности перед развёртыванием. Это может включать тестирование на способность помочь в создании оружия, биологического материала или проведении финансовых преступлений.

Международный надзор

Нужна международная организация (подобно МАГАТЭ для атомной энергии), которая мониторит соблюдение стандартов и может применять санкции к компаниям и странам, нарушающим договор.

Мы не можем позволить себе подход "казино на краю обрыва" (gambling at the edge of the cliff), где компании экспериментируют со всё более мощными моделями, надеясь, что всё будет хорошо. Нам нужны твёрдые правила игры на международном уровне.

Контекст для России

Для России эти выводы особенно актуальны. Во-первых, ИИ-компаньоны становятся популярными среди российских подростков, и нет локальной политики их регулирования. Во-вторых, угроза киберагентов особенно острая в условиях международной напряжённости. В-третьих, для России важно участвовать в формировании международных норм, иначе они будут созданы без её участия.

Доклад также подчеркивает необходимость инвестиций в исследования безопасности ИИ, включая работу в странах, которые иначе отстанут в этой критической области.