«Галлюцинации» ИИ: классификация, причины и методы борьбы

Дата:

Ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций

Эксперты ВТБ выделили главные методы борьбы с «галлюцинациями» ИИ – созданием текстов, кажущихся достоверными, но содержащих ложную информацию, неточные сведения или ссылки на недействительные источники. Эти ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций.

Лев Меркушов, руководитель направления разработки ИИ-решений ВТБ, отметил:

— Иногда ИИ предлагает несуществующие книги или нереальные условия продукта. Модель не проверяет факты, а выбирает наиболее вероятный ответ, что делает ошибки правдоподобными и вводящими в заблуждение. Сократить число галлюцинаций можно, формулируя четкие запросы. Более точная формулировка снижает вероятность фантазий модели. Однако самый надежный способ – проверка результатов человеком.

Алексей Пустынников, лидер команды разработки моделей, подчеркнул важность понимания характера ошибок ИИ. Языковые модели не понимают смысл информации и не проверяют ее достоверность, поэтому сбои проявляются по-разному: искажение данных, создание вымышленных сведений или неправильное следование инструкциям.

Пустынников разделил галлюцинации на несколько типов: фактические (ошибки в проверяемой информации), фабрикация фактов (придумывание неподтверждаемых данных или преувеличение их значения) и галлюцинации при следовании инструкциям (выполнение другой операции, игнорирование контекста или логические ошибки).

Причины галлюцинаций связаны с особенностями обучения и работы языковых моделей, которые формируют ответы на основе вероятностных связей, а не на понимании фактов. Нехватка или противоречивость информации заставляет их «додумывать» ответ. Ограничения обучающей выборки и отсутствие доступа к проверке фактов в реальном времени также играют роль.

Меркушов добавил, что сложные задачи повышают вероятность ошибок. Для их снижения рекомендуется продуманная постановка вопросов, разбитие сложного запроса на простые шаги, использование систем поиска информации в проверенных базах данных, дообучение моделей на данных из конкретной области и применение защитных механизмов для отслеживания ответов.

В банке применяются каскадные решения, где несколько моделей последовательно обрабатывают данные. Эксперты также уделяют внимание качеству исходных данных, включая фильтрацию и проверку материалов специалистами.

Использование ИИ требует ответственного отношения к качеству данных, прозрачности алгоритмов и контролю за результатами. Это позволяет внедрять ИИ-инструменты, которые действительно помогают бизнесу, минимизируют ошибки и формируют доверие клиентов.

Фото: freepik.com/Автор: Dc Studio 

Евгения Бондаренко: Верховный суд разъяснил, почему блокируются сделки россиян с иностранцами

Из плюсов: зарубежным правообладателям придется доказывать присутствие на территории России, чтобы предъявлять иски о контрафакте товарных знаков

0
0

Новая 100-рублёвая купюра появится в кошельках новосибирцев

Банк России с 10 июля 2026 года вводит в обращение модернизированную банкноту номиналом 100 рублей. Новая купюра, выпуск которой посвящен Центральному федеральному округу, получила усиленный защитный комплекс и обновленное оформление оборотной стороны.

Дизайн лицевой стороны купюры остался прежним — на ней изображен фрагмент Спасской башни Московского Кремля с курантами. Основным изображением оборотной стороны стал Ржевский мемориал Советскому Солдату, а также стилизованная карта Центрального федерального округа. Преобладающие цвета банкноты — оливковый и оранжевый. В нижней правой части лицевой стороны теперь расположен QR-код, который ведет на страницу сайта Банка России с подробным описанием всех защитных признаков.

Читать полностью

ПСБ снизил процентные ставки по ипотечным программам

ПСБ пересмотрел условия предоставления жилищных займов, снизив процентные ставки на 0,4 п.п. по ряду предложений. Это коснулось как стандартной ипотеки на готовое жилье, так и военных ипотечных программ, а также услуг по рефинансированию.

Теперь приобрести квартиру на вторичном рынке можно по ставке от 17,79%. Для столичного региона, Санкт-Петербурга и Ленинградской области, а также Краснодарского края максимальный лимит займа составит 50 миллионов рублей, тогда как для остальных субъектов Российской Федерации — 25 миллионов. Требуется первоначальный взнос от 20,01% стоимости приобретаемой недвижимости.

Читать полностью

Объем господдержки по ПДС вырос на 73,5%

По итогам текущего года объем софинансирования, перечисленный на счета клиентов негосударственного пенсионного фонда (НПФ) ВТБ в рамках программы долгосрочных сбережений (ПДС), увеличился в 1,7 раза по сравнению с показателями 2025 года, достигнув отметки в 27 миллиардов рублей. В общей сложности государственной поддержкой воспользовался 1 миллион клиентов фонда.

Увеличилось и количество граждан, получивших максимальную сумму софинансирования – 36 тысяч рублей. Их число возросло на 64% относительно прошлого года, составив 607 тысяч человек.

Читать полностью

Электронные гарантии стали основным инструментом для малого и среднего бизнеса

С ростом объема закупок госкомпаний наблюдается повышенный интерес со стороны малого и среднего бизнеса (МСБ) к документарным продуктам. С начала 2026 года число клиентов, прибегающих к банковским гарантиям, выросло на 31%, а объем выданных электронных гарантий увеличился на 76%. Такие данные были представлены Русланом Еременко, членом правления ВТБ, на международной промышленной выставке Иннопром-2026.

Согласно статистике банка, с начала текущего года увеличилось как количество клиентов, оформивших банковские гарантии, на 31% по сравнению с аналогичным периодом прошлого года, так и общее число выданных гарантий — на 25%.

Читать полностью

Июньский всплеск: объем выдачи «семейной» ипотеки вырос на 75% в России

По данным ВТБ, в июне наблюдался значительный всплеск активности по программе «семейной» ипотеки. Количество сделок по сравнению с предыдущим месяцем увеличилось более чем на 65%, а их общий объем превысил майские показатели на свыше 75%. Всего за этот период граждане оформили порядка 2,8 тысячи таких займов на сумму около 20 миллиардов рублей.

В результате, на долю «семейной» ипотеки по итогам июня пришлось 38% всех выданных банком жилищных кредитов. Спрос на эту программу продемонстрировал второй по величине результат в текущем году, уступив лишь январскому пику, когда было заключено около 4,1 тысячи договоров на 27 миллиардов рублей.

Читать полностью

За три года средняя выплата по ОСАГО в Новосибирской области выросла на 46%

Российский союз автостраховщиков (РСА) сообщил, что за первые пять месяцев 2026 года средняя выплата по ОСАГО в стране выросла на 9,1%, достигнув 120 775 рублей, а средняя премия по годовым полисам увеличилась на 3,9%, составив 7 577 рублей. В мае 2026 года эти показатели составили 128 950 рублей и 7 654 рубля соответственно. Президент РСА Евгений Уфимцев отметил, что рост премий был ожидаемым.

В Новосибирской области, по данным, предоставленным РСА редакции Infopro54, за первые пять месяцев 2026 года средняя выплата по ОСАГО составила 149 295 рублей. В аналогичном периоде 2023 года этот показатель был равен 102 160 рублям. Таким образом, за три года (с мая 2023 по май 2026) средняя выплата по ОСАГО в регионе выросла на 46,1%. Средняя страховая премия по ОСАГО в Новосибирской области за январь-май 2026 года составила 11 536 рублей. В тот же период 2023 года она была на уровне 7 452 рублей.

Читать полностью

Евгения Бондаренко: Верховный суд разъяснил, почему блокируются сделки россиян с иностранцами

Из плюсов: зарубежным правообладателям придется доказывать присутствие на территории России, чтобы предъявлять иски о контрафакте товарных знаков

Баннер
Бизнес календарь
Прямым текстом

Подпишитесь на новости
Подпишитесь на рассылку самых актуальных новостей.

Выражаю согласие на обработку персональных данных, указанных при заполнении формы подписки на рассылку новостей в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.

Я согласен (согласна)

 
×
Поиск по автору:
×
Июль 2026
Пн Вт Ср Чт Пт Сб Вс
 12345
6789101112
13141516171819
20212223242526
2728293031  
×





    Выражаю согласие на обработку персональных данных, указанных при заполнении формы «Предложить новость» в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.
    Я согласен (согласна)

    ×

    Эксклюзивный материал

    Материалы, отмеченные значком , являются эксклюзивными, то есть подготовлены на основе информации, полученной редакцией infopro54.ru. При цитировании, перепечатке ссылка на источник обязательна

    ×

      Участие в конференции бесплатно






      Формат участия:

      [yandex_captcha yandex_captcha-816]
      Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

      ×

        Участие в конференции бесплатно








        Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

        ×
        На нашем сайте используются файлы cookie. Продолжая пользоваться сайтом, Вы подтверждаете свое согласие на использование файлов cookie в соответствии с условиями их использования
        Понятно
        Политика конфиденциальности