Что выпустила CTGT

Компания CTGT выпустила Concordance — инструмент с открытым исходным кодом для выяснения, почему ИИ-приложение принимает разные решения при выполнении одной задачи. Релиз включает протокол тестирования, эталонную реализацию и экспериментальные данные. По заявлению компании, ПО распространяется по лицензии Apache 2.0, допускающей коммерческое использование и изменение; платную или размещённую в облаке версию Concordance CTGT не планирует. Описание инструмента опубликовано на странице проекта.

Concordance появилась из задачи, с которой CTGT столкнулась в собственной системе для работы с требованиями соответствия. Обработка одного руководства по розничному банковскому обслуживанию четырежды выдала разные списки обязательств. В одном результате пропало требование эскалировать серьёзную проблему руководителю по комплаенсу.

Почему менялись результаты

В эксперименте обработали девятистраничное руководство с помощью Qwen3.8-27B и режима детерминированного вывода SGLang. Четыре запуска извлекли 32, 31, 33 и 33 обязательства, но все результаты различались. При этом модель одинаково ответила на все 74 повторявшихся запроса, если сами запросы были идентичны.

По анализу CTGT, приложение меняло содержимое запросов из-за идентификаторов загрузки, переменного порядка списка из 30 маршрутов и расширявшегося реестра тем. В одном примере различались только четыре строки с идентификаторами в запросе длиной 12 525 символов; после этого модель сочла пять правил разрешения конфликтов справочной информацией и не включила соответствующее обязательство в результат.

CTGT заменила идентификаторы постоянными метками, отсортировала список и запускала каждый тест в отдельной среде. В пяти последующих запусках система выдала одинаковые 34 обязательства. Для сравнения сохранённых результатов идентификаторы загрузок пришлось предварительно нормализовать.

Что проверяет инструмент

Concordance фиксирует точные запросы и ответы модели, сопоставляет результаты на последовательных этапах и помогает найти место, где они впервые расходятся. Так можно различить два случая: модель по-разному ответила на одинаковый запрос или приложение изменило сами запросы.

В отдельном тесте CTGT Qwen3.8-27B совпала с контрольным ответом во всех 800 запросах при детерминированной конфигурации. Это показатель точного совпадения текста, а не правильности ответов. В банковском эксперименте повторное воспроизведение запроса, вызвавшего ошибочную классификацию, восемь раз подряд воспроизвело ту же ошибку.

Ограничения результатов

Эксперимент описывает одну систему CTGT и обработку одного документа; он не показывает, насколько часто подобные расхождения возникают в корпоративных внедрениях. Кроме того, приложение, использованное в проверке, не входит в открытый релиз. CTGT также не показала, что Concordance автоматически предотвращает нарушения политик: инструмент помогает обнаружить нестабильность и её источник, но повторяемое решение не обязательно верно.

По словам основателя и генерального директора CTGT Сирила Горллы, компания советует в первую очередь проверять решения с операционными последствиями — например, одобрения, отметки о нарушениях и обязательства по комплаенсу. Для этого нужно сохранять запросы и ответы вызовов модели, повторять тесты после изменений моделей, промптов или исходных документов и сверять результаты с примерами, для которых известен ожидаемый ответ.