64% компаний сталкивались с уверенно неверными ответами ИИ-агентов
За последние полгода 64% компаний обнаружили, что ИИ-агент дал уверенно неверный ответ из-за проблем в корпоративных данных: например, использовал устаревшие сведения или неправильное определение показателя. Ошибки самой модели в опрос не включали. Среди тех, кто столкнулся с такой проблемой, 49% сообщили, что это случалось неоднократно. 💡
Что известно
За последние полгода 64% компаний обнаружили, что ИИ-агент дал уверенно неверный ответ из-за проблем в корпоративных данных: например, использовал устаревшие сведения или неправильное определение показателя. Ошибки самой модели в опрос не включали. Среди тех, кто столкнулся с такой проблемой, 49% сообщили, что это случалось неоднократно. 💡
Опрос VentureBeat Intelligence охватил 130 представителей организаций со 100 и более сотрудниками. Исследователи также сравнили компании с семантическим слоем — общим набором определений, который помогает агентам и бизнес-аналитике одинаково понимать данные. Среди тех, кто внедряет или испытывает такой слой, о сбоях сообщили 78%; среди тех, кто только рассматривает его или не планирует внедрение, — 37%.
Почему показатели так различаются, опрос не выяснял. Возможно, компании с семантическим слоем лучше замечают ошибки, потому что могут сверить ответ с согласованными определениями. Возможно и обратное: некоторые начали создавать такой слой уже после проблем с данными.
При этом семантический слой редко становится главным источником контекста для агентов: так ответили лишь 23% компаний, где он работает. Чаще агенты ищут информацию в документах (32%) или обращаются напрямую к действующим системам (21%). За последние месяцы доля компаний, использующих прямые запросы к таким системам, выросла с 11% до 21%. 🚀