ИИ пишет собственный код: Anthropic заявила о самовоспроизводящемся ИИ
Anthropic опубликовала исследование, которое показывает: ИИ-системы начали активно участвовать в создании новых поколений моделей. Более того, этот процесс идёт быстрее, чем предполагали эксперты и регуляторы. Компания привела конкретные цифры: сегодня свыше 80% кода, интегрированного в системы Anthropic, генерируется самой моделью Claude. До запуска Claude Code в начале 2025 года этот показатель был значительно ниже. Инженеры компании увеличили производительность труда примерно в восемь раз по сравнению с 2024 годом, объединяя намного больше кода в день.
Как быстро растут возможности моделей
Anthropic приводит хронологию прогресса. В начале 2024 года Claude Opus 3 справлялся с задачами по написанию кода за несколько минут. Год спустя Claude Sonnet 3.7 выполнял задания, на которые уходило около 90 минут. В последней версии Claude Opus 4.6 система справляется с заданиями, на которые уходило до 12 часов, без участия человека. Время, за которое ИИ решает задачи без ошибок, удваивается примерно каждые четыре месяца.
На бенчмарке SWE-bench, отслеживающем способность ИИ устранять реальные проблемы с кодом в открытых проектах, передовые модели за два года прошли путь от слабых результатов к почти идеальным показателям. Аналогичная картина на бенчмарке CORE-Bench, оценивающем воспроизводимость результатов научных исследований: точность моделей выросла с 20% в 2024 году до показателей, приближающихся к идеальным.
Что это означает для индустрии
Джек Кларк, соучредитель и глава политического отдела Anthropic, подчеркнул, что прогресс в области искусственного интеллекта ускоряется, а не замедляется. Компания планирует обсудить эти вопросы с американскими законодателями в ближайшие месяцы. Цель — информировать регуляторов о возможных тенденциях в отрасли до того, как они станут необратимыми.
Anthropic признаёт, что между современными системами и полностью автономным ИИ существуют значительные различия. На данный момент люди определяют цели, оценивают результаты и выбирают приоритетные направления исследований. Однако компания предупреждает о необходимости разработки инструментов контроля, которые должны соответствовать темпам развития технологий, чтобы будущие системы соответствовали целям и интересам общества.
Практические шаги для команд и разработчиков
Что делать командам, которые используют ИИ-ассистентов в разработке:
- Внедрите процессы проверки кода, сгенерированного ИИ. Даже если модель пишет 80% кода, каждый коммит должен проходить ревью человеком. Автоматизированные тесты, линтеры и статические анализаторы становятся критичными.
- Ограничьте доступ ИИ к критичным системам. Используйте песочницы, ограничивайте права на запись в продакшн-окружения, контролируйте доступ к секретам и API-ключам.
- Отслеживайте, какой код пишет ИИ, а какой — люди. Это поможет понять, где модель справляется хорошо, а где нужен человеческий контроль. Ведите метрики: процент ИИ-кода, число ошибок, время на исправление.
- Обучайте команду работать с ИИ-ассистентами. Умение писать точные промпты, проверять выводы модели и корректировать её действия — новые навыки для инженеров.
- Планируйте архитектуру и приоритеты сами. ИИ хорошо справляется с реализацией, но стратегические решения — зона ответственности людей.
Риски самовоспроизводящегося ИИ
Самовоспроизводящийся ИИ — это не фантастика, а текущая реальность для компаний вроде Anthropic. Риски очевидны:
- Накопление ошибок. Если модель пишет код, который обучает следующую модель, ошибки могут накапливаться и закрепляться в каждом поколении.
- Потеря контроля над целями. Если ИИ начинает определять, какие задачи решать, он может выбрать направления, не совпадающие с интересами людей.
- Непрозрачность решений. Чем больше кода пишет ИИ, тем сложнее человеку понять, как работает система и почему она приняла то или иное решение.
- Зависимость от одного провайдера. Если 80% кода пишет одна модель, компания становится зависимой от её доступности, политики провайдера и качества обновлений.
Anthropic предупреждает: инструменты контроля должны развиваться с той же скоростью, что и сами модели. Регуляторы, исследователи и компании должны работать вместе, чтобы будущие системы оставались безопасными и управляемыми.
Что делать прямо сейчас
Для команд, которые активно используют ИИ-ассистентов, рекомендации простые:
- Установите плагин Security Guidance в Claude Code — он блокирует опасные паттерны до записи файла.
- Настройте автоматические проверки кода: линтеры, тесты, статические анализаторы вроде Snyk или Semgrep.
- Ограничьте доступ ИИ к продакшн-окружениям через песочницы и сетевые политики.
- Ведите метрики: процент ИИ-кода, число ошибок, время на исправление — это поможет понять, где модель справляется, а где нужен человек.
- Обучайте команду: умение работать с ИИ-ассистентами — новый базовый навык для инженеров.
ИИ уже пишет большую часть кода в передовых компаниях. Вопрос не в том, использовать ли его, а в том, как контролировать этот процесс и сохранять управление над целями и приоритетами. Anthropic открыто говорит о рисках и призывает индустрию действовать сейчас, пока темп развития ещё позволяет выстроить надёжные механизмы контроля.
Попробуйте модели Claude и другие ИИ-инструменты в GEMERA AI — через Telegram-бота или веб-кабинет. Генерация текста, кода, изображений и видео в одном месте, без VPN и лишних подписок.