«Галлюцинации» ИИ: классификация, причины и методы борьбы

Дата:

Ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций

Эксперты ВТБ выделили главные методы борьбы с «галлюцинациями» ИИ – созданием текстов, кажущихся достоверными, но содержащих ложную информацию, неточные сведения или ссылки на недействительные источники. Эти ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций.

Лев Меркушов, руководитель направления разработки ИИ-решений ВТБ, отметил:

— Иногда ИИ предлагает несуществующие книги или нереальные условия продукта. Модель не проверяет факты, а выбирает наиболее вероятный ответ, что делает ошибки правдоподобными и вводящими в заблуждение. Сократить число галлюцинаций можно, формулируя четкие запросы. Более точная формулировка снижает вероятность фантазий модели. Однако самый надежный способ – проверка результатов человеком.

Алексей Пустынников, лидер команды разработки моделей, подчеркнул важность понимания характера ошибок ИИ. Языковые модели не понимают смысл информации и не проверяют ее достоверность, поэтому сбои проявляются по-разному: искажение данных, создание вымышленных сведений или неправильное следование инструкциям.

Пустынников разделил галлюцинации на несколько типов: фактические (ошибки в проверяемой информации), фабрикация фактов (придумывание неподтверждаемых данных или преувеличение их значения) и галлюцинации при следовании инструкциям (выполнение другой операции, игнорирование контекста или логические ошибки).

Причины галлюцинаций связаны с особенностями обучения и работы языковых моделей, которые формируют ответы на основе вероятностных связей, а не на понимании фактов. Нехватка или противоречивость информации заставляет их «додумывать» ответ. Ограничения обучающей выборки и отсутствие доступа к проверке фактов в реальном времени также играют роль.

Меркушов добавил, что сложные задачи повышают вероятность ошибок. Для их снижения рекомендуется продуманная постановка вопросов, разбитие сложного запроса на простые шаги, использование систем поиска информации в проверенных базах данных, дообучение моделей на данных из конкретной области и применение защитных механизмов для отслеживания ответов.

В банке применяются каскадные решения, где несколько моделей последовательно обрабатывают данные. Эксперты также уделяют внимание качеству исходных данных, включая фильтрацию и проверку материалов специалистами.

Использование ИИ требует ответственного отношения к качеству данных, прозрачности алгоритмов и контролю за результатами. Это позволяет внедрять ИИ-инструменты, которые действительно помогают бизнесу, минимизируют ошибки и формируют доверие клиентов.

Фото: freepik.com/Автор: Dc Studio 

0
0

У новосибирцев в июне резко выросла просрочка по кредитам

По результатам первого полугодия 2026 года просрочка по банковским кредитам (без учета ипотеки) в Новосибирской области составила почти 33 млрд рублей. Это на 6,7% больше, чем годом ранее. Для сравнения в целом по России рост просрочки составил 4,7%, констатируют аналитики коллекторского агентства «Долговой Консультант».

В абсолютных цифрах просрочка в регионе выросла почти на 2,2 млрд за полгода, при этом только за июнь рост составил 700 млн рублей, то есть почти треть. Этот тренд актуален в целом по России

Читать полностью

Объем эквайринга в Новосибирской области вырос на 70% за полгода

За первые полгода 2026 года ВТБ зафиксировал рост объема эквайринговых операций в Новосибирской области – на 70% по сравнению с тем же периодом 2025 года. Банк подтверждает тенденцию к увеличению популярности бесконтактных платежей среди потребителей.

С начала текущего года число торгово-сервисных точек, подключенных к эквайрингу в регионе, возросло на 15%. Финансовая организация отмечает, что наибольшая доля безналичных транзакций, включая оплату по QR-коду, приходится на автомобильные салоны, медицинские учреждения, крупные продуктовые сети и заведения общественного питания.

Читать полностью

«Мама, дай денег»: большинство россиян дают детям карманные деньги с начальной школы

Спор о карманных деньгах, которые дают детям, обычно ведётся вокруг суммы и возраста — «сколько и со скольки лет», — хотя ключевой вопрос лежит не здесь, а в том, привязаны ли деньги к учебным успехам или домашним обязанностям, или ребёнок получает их безусловно, как часть заботы о нём. У обеих моделей есть последствия, которые редко проговаривают вслух. Об этом редакции Infopro54 рассказала Юлия Дружинина, заведующий кафедрой отечественной и всеобщей истории НГПУ, кандидат исторических наук, доцент.

В России карманные деньги регулярно выдают своим детям 46,6% родителей, и еще 29% делают это по запросу. При этом 75% родителей в целом выделяют детям средства, а 44% начинают это делать с начальной школы. Большинство детей тратят карманные деньги на сладости, напитки, фастфуд (81,2%) и развлечения (52,4%) (Исследование финтех-компании ЮMoney и компании «Альфа-деньги». — Ред.)

Читать полностью

Число жалоб новосибирцев на банки выросло в полтора, а на МФО — в два раза

С января по июнь 2026 года количество жалоб на потребительское кредитование в Новосибирской области возросло в полтора раза. По информации Сибирского главного управления Банка России, жители региона обратились с претензиями к коммерческим банкам около двух тысяч раз.

— Содержание и характер жалоб говорят об активности раздолжнителей — недобросовестных компаний, которые обещают людям списать все долги без последствий, — отметили в территориальном подразделении ЦБ.

Читать полностью

Сибиряки чаще других россиян самостоятельно определяют зарплатный банк

Согласно опросу ВТБ, в котором приняли участие 1500 человек из всех регионов России, основным требованием к зарплатным картам остается бесплатное обслуживание и отсутствие скрытых комиссий. Этот фактор оказался для большинства опрошенных важнее, чем размер кэшбэка или процент на остаток.

Тем не менее за кажущимся единообразием предпочтений кроются существенные региональные особенности. Жители Сибири чаще других ценят удобство мобильного приложения и скорость переводов, что объясняется большими расстояниями между городами и активным внутрирегиональным перемещением. На Дальнем Востоке же привлекательность зарплатной карты во многом определяется наличием бесплатных подписок на сторонние сервисы, предлагаемые банками. Это свидетельствует о том, что в данном регионе банк рассматривается не просто как место хранения денег, а как партнер по предоставлению комплексных услуг.

Читать полностью

ПСБ и МЧС объединили усилия для финансовой помощи пострадавшим от ЧС

Министерство по делам гражданской обороны, чрезвычайным ситуациям и ликвидации последствий стихийных бедствий (МЧС России) совместно с ПСБ расширяют спектр помощи для людей, оказавшихся в трудной ситуации из-за чрезвычайных происшествий. Об этом было официально заявлено после подписания соответствующего соглашения главой МЧС России Александром Куренковым и председателем ПСБ Петром Фрадковым.

Данное соглашение предполагает запуск новой программы, предоставляющей льготные кредиты жителям регионов, пострадавших от бедствий, а также их близким. Благодаря этой инициативе, граждане смогут оформить потребительский кредит в ПСБ на сумму до 300 тысяч рублей без необходимости предоставления залога. Средства могут быть использованы для восстановления или приобретения имущества, утраченного вследствие чрезвычайной ситуации. За финансовой поддержкой можно обратиться в течение трех месяцев с момента возникновения ущерба и ухудшения жилищных условий.

Читать полностью
Прямым текстом

Подпишитесь на новости
Подпишитесь на рассылку самых актуальных новостей.

Выражаю согласие на обработку персональных данных, указанных при заполнении формы подписки на рассылку новостей в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.

Я согласен (согласна)

 
×
Поиск по автору:
×
Август 2026
Пн Вт Ср Чт Пт Сб Вс
 12
3456789
10111213141516
17181920212223
24252627282930
31  
×





    Выражаю согласие на обработку персональных данных, указанных при заполнении формы «Предложить новость» в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.
    Я согласен (согласна)

    ×

    Эксклюзивный материал

    Материалы, отмеченные значком , являются эксклюзивными, то есть подготовлены на основе информации, полученной редакцией infopro54.ru. При цитировании, перепечатке ссылка на источник обязательна

    ×

      Участие в конференции бесплатно






      Формат участия:

      [yandex_captcha yandex_captcha-816]
      Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

      ×

        Участие в конференции бесплатно








        Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

        ×
        На нашем сайте используются файлы cookie. Продолжая пользоваться сайтом, Вы подтверждаете свое согласие на использование файлов cookie в соответствии с условиями их использования
        Понятно
        Политика конфиденциальности