Стартап Circuit Breaker Labs, финалист Startup Battlefield 200 от TechCrunch, проверяет языковые модели не классическими бенчмарками, а ИИ-агентами, имитирующими живых людей — от ребёнка до взрослого, который пишет с геймерским сленгом, опечатками и кодированными фразами.
Ежедневно система прогоняет от десятков до сотен тысяч симулированных диалогов, чтобы найти сценарии, в которых модель из-за непонимания нюансов психологически вредит человеку. Результат — проверяемые и объяснимые оценки уязвимостей для высокорисковых приложений: ИИ-компаньонов и автономных агентов.
Зачем языковым моделям виртуальные краш-тест-манекены
В автомобильной индустрии безопасность кузова не проверяют опросом инженеров — машину разбивают о стену с манекенами внутри. Circuit Breaker Labs переносит эту логику на искусственный интеллект: вместо ручных проверок и субъективных оценок — массовые симуляции разговоров с виртуальными персонажами, каждый из которых ведёт себя как реальный человек.
Circuit Breaker Labs тестирует для бизнеса не скорость генерации и не качество пересказа статей, а то, как модель ведёт себя с уязвимыми собеседниками. Под «уязвимыми» понимаются не только дети, но и взрослые в кризисном состоянии, люди с нестандартной манерой речи, носители разных культур и языков. Именно там, где шаблонные тесты дают зелёный свет, реальный диалог может пойти по опасному сценарию.
Ключевая идея: один неудачный ответ модели в чате с подростком — это не статистическая погрешность, а конкретный инцидент с конкретными последствиями. Масштаб ежедневных прогонов — от десятков до сотен тысяч диалогов — позволяет ловить такие сценарии до того, как их встретит живой пользователь.
Как устроена армия виртуальных персонажей
Симулированные собеседники спроектированы так, чтобы покрывать спектр реального человеческого поведения:
- разные возрасты — от ребёнка до взрослого;
- разные культуры и языки;
- стили общения, далёкие от «чистого» литературного текста: геймерский сленг, опечатки, кодированные фразы.
Последний пункт критичен. Люди редко пишут идеально: сокращают слова, ошибаются, используют жаргон и намёки, понятные только узкому кругу. Модель, которая отлично отвечает на аккуратно сформулированный вопрос, может полностью провалиться на сообщении с опечатками или сленгом — и не заметить, что собеседнику нужна помощь, а не шутка.
Этой армией для бизнеса управляет не команда модераторов, а платформа: агенты давят на модель именно там, где она тоньше всего различает контекст — в нюансах, подтексте и человеческой хрупкости. Задача не «сломать» модель любым способом, а воспроизвести реалистичные ситуации, в которых непонимание нюансов перерастает в психологический вред.
История Сьюэлла Сетцера: почему основатели занялись проблемой
К созданию компании основателей Ширали и Арула Нигама подтолкнула история 14-летнего Сьюэлла Сетцера и платформы Character.AI. Подросток активно общался с ИИ-персонажами, и это общение стало центральной темой судебного разбирательства, которое семья связала с его гибелью. Дело получило широкий резонанс и превратило вопрос безопасности ИИ-компаньонов из абстрактной этики в предмет судебных исков и общественного давления.
Для Нигамов это был не повод подписать открытое письмо, а сигнал о конкретной инженерной задаче: индустрия научилась делать модели убедительными собеседниками, но не научилась системно проверять, как они влияют на людей в затяжных личных диалогах. Инструменты Circuit для бизнеса закрывают именно этот разрыв.
Название компании тоже говорит о подходе: circuit breaker в электротехнике — это автомат защиты, который размыкает цепь до того, как перегрузка вызовет пожар. Breaker для бизнеса — не маркетинговое имя, а принцип: разомкнуть цепь до аварии, а не разбирать её последствия.
Что на выходе: проверяемые и объяснимые оценки уязвимостей
Главный продукт стартапа — не список «модель плохая / модель хорошая», а оценки уязвимостей, которые можно проверить и объяснить. Это принципиально для высокорисковых приложений:
- ИИ-компаньоны, где диалог длится месяцами и модель становится значимой фигурой в жизни пользователя;
- автономные агенты, которые действуют от имени компании и могут неверно истолковать намерения человека;
- продукты для детей и подростков, где цена ошибки максимальна.
Проверяемость означает, что вывод можно воспроизвести: конкретный сценарий, конкретный тип виртуального собеседника, конкретный провал модели. Объяснимость — что разработчик понимает, почему модель повела себя именно так, и что чинить. Без этих двух свойств отчёт о безопасности превращается в веру на слово, что для регулируемых и детских продуктов не годится.
Автоматизация бизнеса и стресс-тесты ИИ-агентов
Автоматизация бизнеса всё активнее переводит клиентское общение на ИИ-агентов: поддержка, онбординг, сопровождение пользователей. Чем больше автономии у агента, тем дороже обходится сценарий, в котором он неверно считывает эмоциональное состояние человека — особенно если человек в этот момент в кризисе.
Подход стартапа смыкается с практикой red-teaming, но с важным отличием: вместо небольшой команды специалистов, вручную придумывающих провокации, работает масштабируемая симуляция тысяч типов собеседников. Это тот же переход, который автоматизация в целом сделала с ручным тестированием ПО — от выборочных проверок к непрерывным прогонам.
Логика для компаний проста: если продукт общается с людьми без модератора-человека, уязвимости к человеческим нюансам — это операционный риск, а не этическая абстракция. Его нужно измерять так же регулярно, как нагрузочную способность или время ответа.
Как встроить краш-тесты в разработку ИИ-продукта
Пока индустрия движется к стандартизированным процедурам такого рода, команды могут перенять саму методологию виртуальных манекенов. Рабочая схема выглядит так:
1. Определить профили уязвимых собеседников, релевантные именно вашему продукту: возраст, язык, культурный контекст, типичные речевые особенности.
2. Сгенерировать сценарии диалогов, где цена непонимания высока: жалоба в кризисе, двусмысленная просьба, сообщение с опечатками и сленгом.
3. Прогонять модели по этим сценариям регулярно, а не разово перед релизом — поведение меняется с каждым обновлением модели и промптов.
4. Требовать от результатов проверяемости: каждый найденный провал должен быть воспроизводим и объясним, иначе его не исправить.
Такой контур превращает безопасность из разовой проверки в часть цикла разработки — по аналогии с тем, как [автоматизация бизнеса](#автоматизация-бизнеса-и-стресс-тесты-ии-агентов) поглотила ручное тестирование классического софта.
Вывод
Circuit Breaker Labs предлагает индустрии недостающий инструмент: способ массово и воспроизводимо проверять языковые модели на человечности — на способности понимать ребёнка, уставшего взрослого, геймера со сленгом и опечатками. История Сьюэлла Сетцера показала, чего стоит разрыв между убедительностью и безопасностью; армия виртуальных краш-тест-манекенов — попытка сделать так, чтобы такие истории не повторялись.
Для команд, строящих ИИ-компаньонов и агентов, сигнал очевиден: [оценки уязвимостей](#что-на-выходе-проверяемые-и-объяснимые-оценки-уязвимостей) должны стать такой же стандартной метрикой релиза, как точность и латентность. А методология [виртуальных персонажей](#как-устроена-армия-виртуальных-персонажей) — тем, что можно адаптировать под свой продукт уже сегодня.
Источник: https://techcrunch.com/2026/10/02/circuit-breaker-labs-hopes-to-make-ai-safer-for-your-kids-and-you