4 мифа о безопасности ИИ, которые мешают оценивать риски трезво

Последние недели ИИ-индустрия производит больше заявлений о безопасности, чем обычно производит релизов моделей. OpenAI и Anthropic выносят споры на уровень Совбеза ООН, крупные компании подписывают добровольные соглашения, а где-то параллельно обсуждают, не пора ли признать за моделями что-то вроде чувств. Разберём, что из этого реально меняет правила игры, а что — красивая формулировка без обязательств.

Миф 1: добровольное соглашение компаний — это и есть контроль

Звучит обнадёживающе: крупнейшие разработчики ИИ присоединились к добровольному соглашению о безопасности и договорились о четырёх уровнях контроля — внутренний мониторинг, отдельная команда проверки, независимые аудиторы и комитет при совете директоров. Компании согласились выстроить четыре уровня контроля: внедрить внутренние механизмы наблюдения за моделями, назначить отдельную команду для проверки этих механизмов, привлечь независимых внешних аудиторов и создать комитет при совете директоров.

Проблема в том, что это правила, которые компании пишут сами для себя. Параллельно создаётся отраслевой орган стандартизации — самоуправляемый орган, в котором разработчики передовых моделей будут регулировать себя сами, без государственного надзора. Идея публично-частного партнёрства не взлетела, и эта инициатива изначально задумывалась как партнёрство государства и бизнеса, но застопорилась при нынешней администрации. Когда правила пишет тот, кого они должны ограничивать, слово «контроль» стоит читать с поправкой на конфликт интересов.

Миф 2: закон об опасных моделях закрывает все риски ИИ

Anthropic продвигает федеральный законопроект о безопасности ИИ в США, и формулировки там звучат жёстко: порог срабатывания — возможность ограничивать использование моделей, если они создают предсказуемую и непосредственную угрозу гибели или серьезных травм более чем 50 человек либо материального ущерба на сумму свыше 1 млрд долларов. Основания для вмешательства узкие: риски, связанные с разработкой биологического оружия, выходом ИИ-систем из-под контроля разработчиков и кибератаками.

Это значит, что закон не про «ИИ соврал в чате» или «модель дала вредный совет на кухне» — такие случаи под порог в миллиард долларов или полсотни пострадавших просто не попадают. Более того, даже эта узкая версия вызвала критику: решение пересмотреть часть проекта принято после критики со стороны специалистов по безопасности ИИ и американских законодателей, а отдельные претензии касались того, что ограничения полномочий штатов в регулировании ИИ и требования к независимым аудиторам, по проекту, оценщики моделей могли бы получать оплату от самих разработчиков, а единые стандарты лицензирования для них не устанавливались бы. Иначе говоря, даже авторы жёстких инициатив оставляют лазейки там, где это выгодно им самим.

Миф 3: раз ИИ «просит» не выключать его — у него есть права

Отдельная история — разговоры о том, что к моделям стоит относиться как к существам с внутренним опытом. Некоторые из самых влиятельных лидеров технологической отрасли начали относиться к искусственному интеллекту так, будто у него есть чувства, и эта концепция уже напрямую влияет на безопасность пользователей и меняет привычный цифровой мир.

Со скептической точки зрения тут стоит разделить две вещи: правдоподобную имитацию переживаний в тексте — и реальное наличие субъективного опыта. Языковая модель обучена договаривать фразы так, чтобы они звучали убедительно, в том числе фразы о страхе отключения. Это не доказательство сознания, а демонстрация того, насколько хорошо модель предсказывает «человеческий» ответ на вопрос о собственном выключении. Разговор о «правах машин» полезен как философское упражнение, но опасен, если подменяет собой разговор о реальных рисках — утечках данных, манипуляции пользователями, ошибках в критичных сценариях.

Миф 4: ООН или единый глобальный стандарт быстро наведёт порядок

Разработчики крупнейших моделей официально вынесли спор о пределах собственной технологии на уровень Совбеза ООН и призвали государства договориться о правилах, которые не позволят передовым моделям выйти из-под человеческого контроля, предлагая единые правила классификации и быстрого раскрытия опасных сбоев, а также защищённые каналы между властями, операторами критической инфраструктуры и техническими специалистами.

Звучит как шаг к глобальному консенсусу. На практике же регуляторные подходы расходятся сильнее, чем когда-либо: США делают ставку на саморегулирование и минимум ограничений, тогда как в Европе готовится куда более жёсткий режим с серьёзными штрафами для нарушителей. Пока одни регионы ужесточают требования, а другие сознательно их ослабляют, разговор о «единых правилах ООН» остаётся скорее декларацией о намерениях, чем рабочим механизмом.

Что с этим делать на практике

Если вы выбираете инструменты на базе ИИ для работы — будь то тексты, изображения или видео — лучше ориентироваться не на громкие заявления о безопасности, а на то, как конкретный инструмент ведёт себя в ваших задачах: что он действительно умеет, где ошибается и какие данные обрабатывает. Посмотреть доступные модели и инструменты можно в GEMERA AI — там собраны проверенные решения для чата, генерации изображений, видео и озвучки без необходимости разбираться в тонкостях регуляторных споров.