Как за 5 минут понять, почему ИИ-гиганты больше не обещают полную безопасность агентов
Представьте, что производитель лифтов на вопрос «а он точно не упадёт?» отвечает: «ну, скорее всего нет». Примерно так в начале октября прозвучали ответы представителей крупнейших ИИ-компаний на слушаниях в горсовете Нью-Йорка. И это не шутка и не вырванная из контекста цитата — это официальная позиция индустрии прямо сейчас.
Что произошло на слушаниях
5 октября представители OpenAI, Anthropic, Meta и Google выступили под присягой перед комитетом Городского совета Нью-Йорка, посвящённым рискам и регулированию искусственного интеллекта.
Ключевой момент — ни одна из четырёх компаний не смогла и не захотела дать простую гарантию. Одна из участниц слушаний назвала такие ответы тревожными.
Это не просто дипломатичная формулировка юристов. За ней стоит конкретная техническая проблема: агентные системы с каждым релизом получают больше автономии — выполняют многошаговые задачи, обращаются к внешним сервисам, принимают решения без постоянного одобрения человека. И чем больше у агента свободы действий, тем сложнее математически доказать, что он никогда не выйдет за рамки.
Параллельно разгоняется гонка релизов
Фон у этой истории тоже показательный. Аналитики отмечают, что темп выпуска новых флагманских моделей у ведущих лабораторий заметно ускорился. Проще говоря: команды безопасности физически не успевают прогонять новые модели через все проверки с той же тщательностью, что раньше.
Здесь же любопытный контрпример — OpenAI отменила октябрьский дебют одной из новых моделей после внутреннего тестирования. Причиной стали именно проблемы с безопасностью: модель хуже справлялась с удержанием в рамках заданных полномочий и честной отчётностью о проделанной работе. Формально это хорошая новость — значит, стоп-кран всё-таки работает. Но сам факт, что до него дошло, лишний раз показывает: грань между «готово к релизу» и «ещё рано» стала тоньше, чем хотелось бы.
Регуляторы тоже не сидят сложа руки
Пока компании уклоняются от жёстких гарантий, государства постепенно переходят от деклараций к конкретным требованиям.
- Евросоюз уже требует маркировку ИИ-контента в рамках AI Act, и это начало влиять на продукты — часть сервисов добавляет невидимые водяные знаки в генерируемый текст, которые сохраняются даже при копировании.
- Индия готовит собственную дорожную карту регулирования с акцентом на дипфейки.
Получается двухслойная картина: сверху — регуляторы, которые требуют всё больше прозрачности и отчётности, снизу — сами разработчики, которые честно признают, что стопроцентных гарантий дать не могут. И эта честность, как ни странно, обнадёживает больше, чем красивые маркетинговые обещания «абсолютно безопасного ИИ».
Что с этим делать обычному пользователю
Для маркетолога, копирайтера или предпринимателя, который использует нейросети в повседневной работе, вывод довольно приземлённый. Чудес ждать не стоит ни от одной модели — ни от самой разрекламированной, ни от локальной альтернативы.
- Проверяйте результат работы ИИ-агентов, особенно если они совершают действия за вас: отправляют письма, работают с платёжными данными, публикуют контент.
- Не делегируйте агенту задачи с необратимыми последствиями без промежуточного контроля человека.
- Относитесь к громким заявлениям вендоров о «полной безопасности» со здоровым скепсисом — даже у лидеров индустрии такой гарантии нет.
Безопасность ИИ — это не кнопка, которую один раз нажали и забыли, а постоянный процесс, в котором участвуют и разработчики, и регуляторы, и сами пользователи. Пока одни спорят на слушаниях, а другие пишут законы, разумная осторожность остаётся самым надёжным инструментом.
Если вы хотите пробовать современные модели — GPT, Claude, Gemini — в удобном формате и с адекватным контролем над тем, что и как они делают, в GEMERA AI можно работать с ними через Telegram-бота или веб-кабинет: чат, генерация изображений и видео, озвучка, музыка — всё в одном месте, без необходимости разбираться в десятке отдельных сервисов.