«Галлюцинации» ИИ: классификация, причины и методы борьбы

Дата:

Ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций

Эксперты ВТБ выделили главные методы борьбы с «галлюцинациями» ИИ – созданием текстов, кажущихся достоверными, но содержащих ложную информацию, неточные сведения или ссылки на недействительные источники. Эти ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций.

Лев Меркушов, руководитель направления разработки ИИ-решений ВТБ, отметил:

— Иногда ИИ предлагает несуществующие книги или нереальные условия продукта. Модель не проверяет факты, а выбирает наиболее вероятный ответ, что делает ошибки правдоподобными и вводящими в заблуждение. Сократить число галлюцинаций можно, формулируя четкие запросы. Более точная формулировка снижает вероятность фантазий модели. Однако самый надежный способ – проверка результатов человеком.

Алексей Пустынников, лидер команды разработки моделей, подчеркнул важность понимания характера ошибок ИИ. Языковые модели не понимают смысл информации и не проверяют ее достоверность, поэтому сбои проявляются по-разному: искажение данных, создание вымышленных сведений или неправильное следование инструкциям.

Пустынников разделил галлюцинации на несколько типов: фактические (ошибки в проверяемой информации), фабрикация фактов (придумывание неподтверждаемых данных или преувеличение их значения) и галлюцинации при следовании инструкциям (выполнение другой операции, игнорирование контекста или логические ошибки).

Причины галлюцинаций связаны с особенностями обучения и работы языковых моделей, которые формируют ответы на основе вероятностных связей, а не на понимании фактов. Нехватка или противоречивость информации заставляет их «додумывать» ответ. Ограничения обучающей выборки и отсутствие доступа к проверке фактов в реальном времени также играют роль.

Меркушов добавил, что сложные задачи повышают вероятность ошибок. Для их снижения рекомендуется продуманная постановка вопросов, разбитие сложного запроса на простые шаги, использование систем поиска информации в проверенных базах данных, дообучение моделей на данных из конкретной области и применение защитных механизмов для отслеживания ответов.

В банке применяются каскадные решения, где несколько моделей последовательно обрабатывают данные. Эксперты также уделяют внимание качеству исходных данных, включая фильтрацию и проверку материалов специалистами.

Использование ИИ требует ответственного отношения к качеству данных, прозрачности алгоритмов и контролю за результатами. Это позволяет внедрять ИИ-инструменты, которые действительно помогают бизнесу, минимизируют ошибки и формируют доверие клиентов.

Фото: freepik.com/Автор: Dc Studio 

0
0

Банкротства с задержкой: в Новосибирской области растёт число несостоятельных компаний

В третьем квартале 2026 года в Новосибирской области опубликовано 46 сообщений об открытии конкурсного производства в отношении юридических лиц и крестьянских фермерских хозяйств против 32 годом ранее. Прирост составил 43,75%. За девять месяцев показатель достиг 130 — на 26,2% больше, чем за аналогичный период 2025 года, когда было опубликовано 103 сообщения.

Евгения Бондаренко, управляющий партнёр юридической компании «Юсконсалт», юрист-стратег, профессиональный медиатор, налоговый консультант, автор книги «Партнерское соглашение на «салфетке» или как создать безопасный бизнес-союз» констатирует, что региональная динамика заметно опережает общероссийскую. Однако объяснять её только ухудшением экономической ситуации текущего года было бы неточно.

Читать полностью

Спрос на новостройки сохраняется, несмотря на изменение условий семейной ипотеки

ВТБ проанализировал, как распределялись выдачи семейной ипотеки за первый месяц действия обновлённых условий. Главная тенденция — спрос сместился из столичных агломераций в регионы. За девять месяцев на Москву, Санкт‑Петербург и их области вместе приходилось практически каждая вторая сделка (46%), а в октябре — лишь каждая третья (30%).

Согласно данным банка, столичная доля в выдачах семейной ипотеки уменьшилась с 24% в январе-сентябре до 15% в октябре, а по Московской области — с 9% до 5%. В Санкт‑Петербурге значение опустилось с 10% до 6%, тогда как в Ленинградской области оно осталось практически неизменным (3%).

Читать полностью

«На нас смотрят «дочки» и «внучки» корпораций»: оператор особой экономической зоны «Новосибирск» хочет увеличить ее площадь

Компания ООО «Северный парк развития» обратилась в правительство области и региональный парламент с ходатайством о переводе земельного участка площадью 346,2 гектаров, расположенного в Прокудском сельсовете, из категории земель сельхозназначения в земли промышленности для размещения ОЭЗ промышленно-производственного типа.

— Целью перевода указанного земельного участка является увеличение площади особой экономической зоны «Новосибирск». По данному вопросу есть положительное решение Минсельхоза России, — подчеркнул руководитель департамента имущества, земельных отношений Новосибирской области Роман Шилохвостов.

Читать полностью

Новосибирцы стали активнее брать кредиты

ВТБ фиксирует стабильный рост в розничном кредитовании Новосибирской области. За 9 месяцев населению выдано на 13% больше займов, чем годом ранее. Главной движущей силой остаются кредиты наличными — на них приходится половина всех выдач.

По данным банка, в третьем квартале продажи таких кредитов увеличились на 79%. Всё большую популярность приобретает рефинансирование — на фоне удешевления ставок.

Читать полностью

Выдача ипотечных кредитов в России выросла на 23% за 10 месяцев

Согласно предварительным расчётам ВТБ, за десять месяцев текущего года в России было выдано ипотечных кредитов примерно на 3,8 трлн рублей. Относительно того же периода 2025-го данный результат оказался выше на 23%.

После повышенного спроса, наблюдавшегося месяцем ранее из-за корректировки условий семейной госпрограммы, в октябре жилищное кредитование, как и предполагалось, замедлилось. Специалисты банка оценивают октябрьский объём выдачи в 308 млрд рублей. Месяцем ранее, в сентябре, совокупные продажи ипотеки на рынке были больше 617 млрд рублей, тогда как в октябре 2025 года они составляли порядка 484 млрд рублей.

Читать полностью

Накопительные счета стали основным источником прироста сбережений россиян в 2026

Согласно прогнозу ВТБ, к завершению 2026 года сумма средств, размещенных россиянами на накопительных счетах, преодолеет отметку в 11 трлн рублей. За первые девять месяцев текущего года на счета данного типа пришлось свыше 90% общего увеличения объема сбережений граждан в кредитных организациях.

Отличительная особенность накопительных счетов состоит в том, что проценты по ним начисляются, а владелец вправе забрать деньги в любой момент, не утратив при этом накопленный доход. Именно этим объясняется активный приток средств россиян: вкладчики распределяют свои сбережения между долгосрочной и ликвидной составляющими, переводя определенную долю средств со срочных депозитов и с текущих счетов.

Читать полностью
Прямым текстом
Ноябрь 2026
Пн Вт Ср Чт Пт Сб Вс
 1
2345678
9101112131415
16171819202122
23242526272829
30  

@import «https://mailganer.com/static/widget/css/mg-form.css»;
#mg-form {
background-color: #2e6f6f !important;
}
#mg-form button {
background-color: #E07232 !important
}

Подпишитесь на новости
Подпишитесь на рассылку самых актуальных новостей.

Выражаю согласие на обработку персональных данных, указанных при заполнении формы подписки на рассылку новостей в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.

Я согласен (согласна)

 
Поиск по автору:





    Выражаю согласие на обработку персональных данных, указанных при заполнении формы «Предложить новость» в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.
    Я согласен (согласна)

      Участие в конференции бесплатно






      Формат участия:

      [yandex_captcha yandex_captcha-816]
      Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

        Участие в конференции бесплатно








        Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

        Эксклюзивный материал

        Материалы, отмеченные значком , являются эксклюзивными, то есть подготовлены на основе информации, полученной редакцией infopro54.ru. При цитировании, перепечатке ссылка на источник обязательна

        На нашем сайте используются файлы cookie. Продолжая пользоваться сайтом, Вы подтверждаете свое согласие на использование файлов cookie в соответствии с условиями их использования
        Понятно
        Политика конфиденциальности