«Галлюцинации» ИИ: классификация, причины и методы борьбы

Дата:

Ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций

Эксперты ВТБ выделили главные методы борьбы с «галлюцинациями» ИИ – созданием текстов, кажущихся достоверными, но содержащих ложную информацию, неточные сведения или ссылки на недействительные источники. Эти ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций.

Лев Меркушов, руководитель направления разработки ИИ-решений ВТБ, отметил:

— Иногда ИИ предлагает несуществующие книги или нереальные условия продукта. Модель не проверяет факты, а выбирает наиболее вероятный ответ, что делает ошибки правдоподобными и вводящими в заблуждение. Сократить число галлюцинаций можно, формулируя четкие запросы. Более точная формулировка снижает вероятность фантазий модели. Однако самый надежный способ – проверка результатов человеком.

Алексей Пустынников, лидер команды разработки моделей, подчеркнул важность понимания характера ошибок ИИ. Языковые модели не понимают смысл информации и не проверяют ее достоверность, поэтому сбои проявляются по-разному: искажение данных, создание вымышленных сведений или неправильное следование инструкциям.

Пустынников разделил галлюцинации на несколько типов: фактические (ошибки в проверяемой информации), фабрикация фактов (придумывание неподтверждаемых данных или преувеличение их значения) и галлюцинации при следовании инструкциям (выполнение другой операции, игнорирование контекста или логические ошибки).

Причины галлюцинаций связаны с особенностями обучения и работы языковых моделей, которые формируют ответы на основе вероятностных связей, а не на понимании фактов. Нехватка или противоречивость информации заставляет их «додумывать» ответ. Ограничения обучающей выборки и отсутствие доступа к проверке фактов в реальном времени также играют роль.

Меркушов добавил, что сложные задачи повышают вероятность ошибок. Для их снижения рекомендуется продуманная постановка вопросов, разбитие сложного запроса на простые шаги, использование систем поиска информации в проверенных базах данных, дообучение моделей на данных из конкретной области и применение защитных механизмов для отслеживания ответов.

В банке применяются каскадные решения, где несколько моделей последовательно обрабатывают данные. Эксперты также уделяют внимание качеству исходных данных, включая фильтрацию и проверку материалов специалистами.

Использование ИИ требует ответственного отношения к качеству данных, прозрачности алгоритмов и контролю за результатами. Это позволяет внедрять ИИ-инструменты, которые действительно помогают бизнесу, минимизируют ошибки и формируют доверие клиентов.

Фото: freepik.com/Автор: Dc Studio 

Алла Моисеева: Розовые очки у современных предпринимателей часто разбиваются стеклами внутрь

Проверка будущих и имеющихся сотрудников на полиграфе становится насущной необходимостью для бизнеса

0
0

Портфель кредитов для подрядчиков ИЖС превысил 10 миллиардов рублей

Общий объем кредитных договоров, заключенных ВТБ с подрядчиками среднего и малого бизнеса, занятыми в сфере индивидуального жилищного строительства, перешагнул рубеж в 10 миллиардов рублей. За прошедший год портфель подобных сделок продемонстрировал двадцатикратное увеличение. Это стало возможным благодаря расширению банком программы поддержки подрядчиков, которая была успешно выведена из стадии пилотного тестирования и стала полномасштабным банковским продуктом. Об этих показателях сообщил Денис Бортников, заместитель президента – председателя правления ВТБ, во время проведения конкурса «Бизнес Баттл» в Омске.

Он подчеркнул, что наблюдается стабильный подъем интереса подрядчиков к использованию эскроу-счетов в ИЖС. Данный механизм является одним из основных факторов, стимулирующих развитие рынка индивидуального жилья, укрепляя доверие застройщиков и покупателей, привлекая больше профессиональных игроков и открывая новые перспективы для строительства. Объем предоставленных банком кредитных средств организациям малого и среднего бизнеса превзошел 10 миллиардов рублей, продемонстрировав рост в 20 раз за один год. Это свидетельствует о высоком спросе на актуальные финансовые решения и значительном потенциале для дальнейшего развития сегмента ИЖС по всей России.

Читать полностью

Проект из НСО признан лучшим в грантовом конкурсе для краеведческих музеев России

В рамках II конкурса корпоративной программы поддержки краеведческих музеев России, организованного банком ВТБ и фондом «ВТБ-Страна», победу одержал проект «Искусство — видеть» из Новосибирской области. Награда присуждена Историко-краеведческому музею им. Н.Я. Савченко, расположенному в Татарском районе. Финансирование позволит создать всесторонне адаптированную среду для посетителей с нарушениями зрения, включая изготовление тактильных копий экспонатов и разработку специальной навигационной системы.

Проект «Красота внутри. Краеведческие музеи России» будет реализован до конца 2027 года.

Читать полностью

Годовая инфляция в Новосибирской области в июне ускорилась до 5,8% (видео)

Мария Трегуб, Эксперт Сибирского ГУ Банка России:

— В июне больше всего подорожали непродовольственные товары. Цены на услуги выросли менее ощутимо, а на продовольствие — несущественно.

Читать полностью

Впервые Россия и Китай объединили данные о дальневосточных леопардах

На сегодняшний день на охраняемых территориях, расположенных в двух странах, обитает 223 особи, тогда как в начале 2000-х годов их насчитывалось всего 35. Эти данные были получены в результате совместной оценки специалистов национального парка «Земля леопарда» (Россия, Владивосток, ВТБ выступает Хранителем леопарда) и Северо-Восточного национального парка тигра и леопарда (Китай).

Исследователи из России и Китая подтвердили, что на территории резервата «Земля больших кошек» зафиксировано не менее 223 дальневосточных леопардов, включая взрослых животных и детенышей. Из них 135 особей обитают в российском нацпарке «Земля леопарда», а 115 – в китайском Северо-восточном национальном парке тигра и леопарда. При этом 27 леопардов являются трансграничными, то есть их учет ведется в обеих странах. Совместная работа ученых демонстрирует высокую результативность природоохранных мер. Важным показателем жизнеспособности популяции является гендерное соотношение, где на одну самку приходится 1,1 самца, что свидетельствует о стабильном состоянии вида.

Читать полностью

ПСБ повысил ставки по популярным вкладам для физических лиц

ПСБ пересмотрел условия по наиболее популярным среди физических лиц депозитам, сделав их еще привлекательнее.

По продукту «Народный вклад» новые клиенты смогут рассчитывать на максимальную ставку в 30% годовых при сроке размещения средств в 32 дня. При более длительном размещении, на 91 день, доходность составит 22%, а на 150 дней — 20%. Минимальная сумма для открытия такого вклада — 10 000 рублей, максимальная — 50 000 рублей. Отдельные, более выгодные условия предусмотрены для новых вкладчиков, оформляющих перевод пенсии в ПСБ: при открытии депозита на 91 день ставка составит 27%, а на 150 дней — 25%.

Читать полностью

Прибыль ВТБ в 1 полугодии составила 225,2 млрд рублей

Заместитель председателя правления ВТБ Дмитрий Пьянов отметил, что главная задача в первой половине года заключалась в грамотном управлении капиталом. Целенаправленное кредитование, подкрепленное восстановлением чистой процентной маржи и увеличением основных доходов, а также секьюритизация клиентских займов и избавление от непрофильных активов способствовали существенному повышению достаточности капитала. Это, в свою очередь, позволило обеспечить акционерам щедрые дивиденды. Исходя из текущих тенденций развития бизнеса и прогнозов на второе полугодие, ожидания по ключевым финансовым показателям Группы не изменились.

На конец отчетного периода, 30 июня 2026 года, общий объем кредитного портфеля (до вычета резервов) составил 25,6 триллионов рублей, что на 4,5% больше по сравнению с началом года. Группа продолжила перераспределять структуру кредитного портфеля, отдавая приоритет корпоративному сегменту и снижая темпы роста розничного кредитования, что способствует более эффективному использованию капитала.

Читать полностью

Алла Моисеева: Розовые очки у современных предпринимателей часто разбиваются стеклами внутрь

Проверка будущих и имеющихся сотрудников на полиграфе становится насущной необходимостью для бизнеса

Прямым текстом

Подпишитесь на новости
Подпишитесь на рассылку самых актуальных новостей.

Выражаю согласие на обработку персональных данных, указанных при заполнении формы подписки на рассылку новостей в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.

Я согласен (согласна)

 
×
Поиск по автору:
×
Август 2026
Пн Вт Ср Чт Пт Сб Вс
 12
3456789
10111213141516
17181920212223
24252627282930
31  
×





    Выражаю согласие на обработку персональных данных, указанных при заполнении формы «Предложить новость» в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.
    Я согласен (согласна)

    ×

    Эксклюзивный материал

    Материалы, отмеченные значком , являются эксклюзивными, то есть подготовлены на основе информации, полученной редакцией infopro54.ru. При цитировании, перепечатке ссылка на источник обязательна

    ×

      Участие в конференции бесплатно






      Формат участия:

      [yandex_captcha yandex_captcha-816]
      Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

      ×

        Участие в конференции бесплатно








        Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

        ×
        На нашем сайте используются файлы cookie. Продолжая пользоваться сайтом, Вы подтверждаете свое согласие на использование файлов cookie в соответствии с условиями их использования
        Понятно
        Политика конфиденциальности