«Галлюцинации» ИИ: классификация, причины и методы борьбы

Дата:

Ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций

Эксперты ВТБ выделили главные методы борьбы с «галлюцинациями» ИИ – созданием текстов, кажущихся достоверными, но содержащих ложную информацию, неточные сведения или ссылки на недействительные источники. Эти ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций.

Лев Меркушов, руководитель направления разработки ИИ-решений ВТБ, отметил:

— Иногда ИИ предлагает несуществующие книги или нереальные условия продукта. Модель не проверяет факты, а выбирает наиболее вероятный ответ, что делает ошибки правдоподобными и вводящими в заблуждение. Сократить число галлюцинаций можно, формулируя четкие запросы. Более точная формулировка снижает вероятность фантазий модели. Однако самый надежный способ – проверка результатов человеком.

Алексей Пустынников, лидер команды разработки моделей, подчеркнул важность понимания характера ошибок ИИ. Языковые модели не понимают смысл информации и не проверяют ее достоверность, поэтому сбои проявляются по-разному: искажение данных, создание вымышленных сведений или неправильное следование инструкциям.

Пустынников разделил галлюцинации на несколько типов: фактические (ошибки в проверяемой информации), фабрикация фактов (придумывание неподтверждаемых данных или преувеличение их значения) и галлюцинации при следовании инструкциям (выполнение другой операции, игнорирование контекста или логические ошибки).

Причины галлюцинаций связаны с особенностями обучения и работы языковых моделей, которые формируют ответы на основе вероятностных связей, а не на понимании фактов. Нехватка или противоречивость информации заставляет их «додумывать» ответ. Ограничения обучающей выборки и отсутствие доступа к проверке фактов в реальном времени также играют роль.

Меркушов добавил, что сложные задачи повышают вероятность ошибок. Для их снижения рекомендуется продуманная постановка вопросов, разбитие сложного запроса на простые шаги, использование систем поиска информации в проверенных базах данных, дообучение моделей на данных из конкретной области и применение защитных механизмов для отслеживания ответов.

В банке применяются каскадные решения, где несколько моделей последовательно обрабатывают данные. Эксперты также уделяют внимание качеству исходных данных, включая фильтрацию и проверку материалов специалистами.

Использование ИИ требует ответственного отношения к качеству данных, прозрачности алгоритмов и контролю за результатами. Это позволяет внедрять ИИ-инструменты, которые действительно помогают бизнесу, минимизируют ошибки и формируют доверие клиентов.

Фото: freepik.com/Автор: Dc Studio 

0
0

Обновленная купюра со скрытыми изображениями появится в Новосибирске

В Новосибирск вскоре поступит обновленная купюра номиналом 1000 рублей. Об этом редакции Infopro54 сообщили в пресс-службе Сибирского ГУ ЦБ.

— Совсем скоро она начнет поступать в кредитные организации Новосибирской области, — говорится в комментарии, полученном редакцией.

Читать полностью

Новосибирцы сняли в банках более 150 млрд рублей налички

За два месяца 2026 года новосибирцы сняли в банкоматах и кассах банков почти 152 миллиарда рублей налички. Причем в феврале эта сумма увеличилась до 82,3 млрд (в январе 69,4 млрд).

Впрочем, по сравнению с предыдущими годами, интерес к наличным средствам в регионе падает. Так за два месяца 2024 года жители региона сняли почти 180 млрд (из них 98 в феврале), за два месяца 2025 — около 170 млрд (87,3 млрд). Об этом в ответ на запрос редакции Infopro54 сообщили в пресс-службе Сибирского ГУ ЦБ.

Читать полностью

Молодежь активно переоформляет Пушкинские карты

На текущий момент ВТБ выпустил свыше 6 миллионов Пушкинских карт, а количество реализованных с их помощью билетов перевалило за 5 миллионов. С начала текущего года объем средств, потраченных на приобретение билетов на культурные события, превысил 3 миллиарда рублей.

Банк начал свою работу в качестве нового оператора данной программы с 1 января. С начала года наблюдается высокая активность среди молодежи, которая переоформляет карты и активно ими пользуется. Так, только за прошлый месяц было оформлено более 400 тысяч карт, и реализовано около 2 миллионов билетов на общую сумму свыше 1 миллиарда рублей.

Читать полностью

Четверть промышленного поголовья КРС в Новосибирской области была застрахована

В Национальном союзе агростраховщиков редакции Infopro54 рассказали о том, что по итогам 2025 года на условиях господдержки сельхозпроизводителями региона было застраховано 69 тысяч голов крупного рогатого скота (около 25% промышленного поголовья), 227 тысяч голов свиней (80%) и 3,7 млн голов птицы (51%). Для сравнения, годом ранее (по итогам 2024 года) было застраховано 20 тысяч голов КРС, 208 тысяч голов свиней, 4,2 млн голов птицы, пояснил президент Национального союза агростраховщиков Корней Биждов.

— Страхование поголовья сельхозживотных в России с господдержкой было введено с 2013 году, в настоящий момент оно пользуется высоким спросом — по данным в России застраховано 48% поголовья (при усреднении по всем видам). Основной мотив к страхованию — высокий риск потерь от опасных инфекционных болезней животных (АЧС, птичий грипп, ящур, бруцеллез и другие), — отметил Биджов.

Читать полностью

«Мы знаем о ситуации»: новосибирские депутаты прокомментировали забой коров в районах области

Вопрос с карантинным забоем скота в районах Новосибирской области стоит на контроле правительства региона. Об этом корреспонденту редакции Infopro54 во время пресс-подхода сообщил председатель аграрного комитета регионального парламента Денис Субботин.

— Мы знаем об этой ситуации, вопрос стоит на контроле правительства и управления ветеринарии. За комментарием на эту тему лучше обратиться в управление ветеринарии, а по поводу компенсаций — в правительство, — добавил Субботин.

Читать полностью

Рынок взыскания в России уходит от слова «коллектор»

Объем задолженности, которая потенциально может быть передана в работу коллекторам, сегодня на треть больше, чем год назад, а по ипотечным кредитам — вдвое больше.

— Доля проблемных кредитов находится на максимальном уровне за пять лет. При этом выдача новых кредитов замедляется ― и дело не только в отсутствии спроса. Доля одобренных кредитов снизилась, а четверо из пяти заемщиков получают отказ, — констатирует руководитель образовательной программы «Финансовая экономика: инвестиции, банки, страхование» НГУЭУ Тамара Попова.

Читать полностью
Прямым текстом

Подпишитесь на новости
Подпишитесь на рассылку самых актуальных новостей.


Выражаю согласие на обработку персональных данных, указанных при заполнении формы подписки на рассылку новостей в соответствии с Политикой конфиденциальности

Я согласен (согласна)

 
×
Поиск по автору:
×
Март 2026
Пн Вт Ср Чт Пт Сб Вс
 1
2345678
9101112131415
16171819202122
23242526272829
3031  
×





    Выражаю согласие на обработку персональных данных, указанных при заполнении формы «Предложить новость» в соответствии с Политикой конфиденциальности
    Я согласен (согласна)


    ×

    Эксклюзивный материал

    Материалы, отмеченные значком , являются эксклюзивными, то есть подготовлены на основе информации, полученной редакцией infopro54.ru. При цитировании, перепечатке ссылка на источник обязательна

    ×

      Участие в конференции бесплатно






      Формат участия:


      Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

      ×

        Участие в конференции бесплатно







        [recaptcha size:compact]
        Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

        ×
        На нашем сайте используются файлы cookie. Продолжая пользоваться сайтом, Вы подтверждаете свое согласие на использование файлов cookie в соответствии с условиями их использования
        Понятно
        Политика конфиденциальности