«Галлюцинации» ИИ: классификация, причины и методы борьбы

Дата:

Ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций

Эксперты ВТБ выделили главные методы борьбы с «галлюцинациями» ИИ – созданием текстов, кажущихся достоверными, но содержащих ложную информацию, неточные сведения или ссылки на недействительные источники. Эти ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций.

Лев Меркушов, руководитель направления разработки ИИ-решений ВТБ, отметил:

— Иногда ИИ предлагает несуществующие книги или нереальные условия продукта. Модель не проверяет факты, а выбирает наиболее вероятный ответ, что делает ошибки правдоподобными и вводящими в заблуждение. Сократить число галлюцинаций можно, формулируя четкие запросы. Более точная формулировка снижает вероятность фантазий модели. Однако самый надежный способ – проверка результатов человеком.

Алексей Пустынников, лидер команды разработки моделей, подчеркнул важность понимания характера ошибок ИИ. Языковые модели не понимают смысл информации и не проверяют ее достоверность, поэтому сбои проявляются по-разному: искажение данных, создание вымышленных сведений или неправильное следование инструкциям.

Пустынников разделил галлюцинации на несколько типов: фактические (ошибки в проверяемой информации), фабрикация фактов (придумывание неподтверждаемых данных или преувеличение их значения) и галлюцинации при следовании инструкциям (выполнение другой операции, игнорирование контекста или логические ошибки).

Причины галлюцинаций связаны с особенностями обучения и работы языковых моделей, которые формируют ответы на основе вероятностных связей, а не на понимании фактов. Нехватка или противоречивость информации заставляет их «додумывать» ответ. Ограничения обучающей выборки и отсутствие доступа к проверке фактов в реальном времени также играют роль.

Меркушов добавил, что сложные задачи повышают вероятность ошибок. Для их снижения рекомендуется продуманная постановка вопросов, разбитие сложного запроса на простые шаги, использование систем поиска информации в проверенных базах данных, дообучение моделей на данных из конкретной области и применение защитных механизмов для отслеживания ответов.

В банке применяются каскадные решения, где несколько моделей последовательно обрабатывают данные. Эксперты также уделяют внимание качеству исходных данных, включая фильтрацию и проверку материалов специалистами.

Использование ИИ требует ответственного отношения к качеству данных, прозрачности алгоритмов и контролю за результатами. Это позволяет внедрять ИИ-инструменты, которые действительно помогают бизнесу, минимизируют ошибки и формируют доверие клиентов.

Фото: freepik.com/Автор: Dc Studio 

Антон Лапа: На рынке управляющих компаний Новосибирска возможен новый передел

Для этого сформировался целый ряд факторов, которые синергетически влияют на отрасль

0
0

За год стоимость полиса ОСАГО в Новосибирске выросла на 50%

По итогам третьего квартала 2026 года средняя цена полиса ОСАГО в Новосибирской области составила 13027 рублей. Это на 50% выше, чем за аналогичный период 2025 года, напомнили аналитики сервиса Финуслуги. Для новосибирцев, которые начинают обновлять годовые полисы, купленные перед декабрьским повышением 2025 года, это становится очень неприятным сюрпризом. Тем более, что это происходит на фоне роста цен на бензин и повышения транспортного налога.

Как отметили эксперты сервиса Финуслуги, новосибирцы в среднем платят за автогражданку дороже всех в России. В топ-5 регионов с дорогими полисами также вошли Хабаровский край (10 676 руб.), Камчатский край (9 873 руб.), Москва (9 853 руб.) и Приморский край (9 548 руб.).

Читать полностью

В России прошли первые сделки с цифровой валютой через регулируемых посредников

С 5 октября 2026 года в России вступили в силу нормы, регулирующие допуск цифровых депозитариев, криптообменников и операторов информационных систем к рынку цифровых активов. В тот же период финансовые организации начали регистрироваться в реестрах Центробанка и осуществлять первые операции с цифровой валютой. В частности, брокер ВТБ 6 октября провел пилотную сделку со стейблкоинами для клиентов — юридических лиц, используя цифровой депозитарий, созданный на базе банковского депозитария.

Сделка со стейблкоинами была заключена с юридическими лицами, которые являются клиентами брокера. Расчеты проводились по цифровым счетам Цифрового депозитария, функционирующего на основе Депозитария ВТБ. Доступ к блокчейну был обеспечен через вышестоящий цифровой депозитарий, сообщила глава депозитария Ольга Ким.

Читать полностью

Центральный банк России планирует сделать исламский банкинг постоянным

Исламский банкинг в России могут перевести из экспериментального режима в постоянный — об этом рассказал «Известиям» заместитель председателя Банка России Алексей Гузнов.

Сейчас прорабатывают два возможных пути. Первый — придать постоянный статус действующему закону об эксперименте. Второй — выделить самые востребованные у клиентов банков и МФО сервисы и закрепить правила их регулирования в уже существующем законодательстве. В ЦБ второй вариант считают более перспективным.

Читать полностью

Инвестиционный форум ВТБ «Россия зовет!» пройдет в Москве

17-й Инвестиционный форум ВТБ «Россия зовет!» пройдёт 1-2 декабря в Москве, на площадке Центра международной торговли. В мероприятии традиционно примут участие руководители крупных российских и зарубежных компаний, представители власти, финансового сектора и деловых кругов, а также иностранные инвесторы. Первый день форума будет посвящён глобальным макроэкономическим тенденциям, развитию регионов страны, поиску новых партнёрств и привлечению финансирования в масштабные инвестиционные проекты. Второй день сфокусируется на российском фондовом рынке, возможностях эмитентов и подходах частных вкладчиков.

Президент-председатель правления ВТБ Андрей Костин заявил, что российская экономика переходит к активной фазе восстановления. Для обеспечения роста в 2027 году необходимо запустить новый инвестиционный цикл: требуется превратить накопленные ресурсы, идеи и экспертизу в повышение производительности и новые перспективы для отечественных и зарубежных инвесторов. Каким должен быть этот цикл, какова оптимальная структура вложений, какие меры и инструменты нужны государству, бизнесу и финансовой системе для раскрытия потенциала экономики в условиях постоянного внешнего давления — эти вопросы будут рассмотрены на форуме. Это отличный шанс для инвесторов со всего мира получить актуальную информацию напрямую от первых лиц государства и компаний, формирующих экономику страны.

Читать полностью

Сибирские компании идут на фондовый рынок за деньгами, не обремененными залогами

Проникновение и доступность биржевых долговых инструментов сейчас достигла такого уровня, когда фактически каждый третий рубль, привлеченный корпоративным заемщиком в России, приходится именно на биржевые инструменты. Об этом в рамках форума «Сибирь покоряет», прошедшего в Новосибирске, сообщил Дмитрий Таскин, директор по развитию первичного рынка облигаций ПАО «Московская Биржа».

— За последние годы произошли серьезные инновации в регулировании: процесс эмиссии и выхода компаний на биржу существенным образом упростился и продолжает упрощаться. Развиваются государственные инструменты поддержки, которые уменьшают затратную составляющую биржи для определенных категорий компаний. Кроме того, за последние три года произошел фундаментальный сдвиг: на российском рынке значимую роль с точки зрения спроса стали играть физические лица,  — констатировал Дмитрий Таскин.

Читать полностью

Цифровой рубль в деталях: выявлены ключевые характеристики активных пользователей

С 1 сентября, когда технология стала доступна, граждане оформили десятки тысяч счетов в цифровых рублях. Аналитики банка ВТБ выяснили, что типичный пользователь — это мужчина 36–45 лет, который активно применяет банковские продукты и вкладывает средства.

Чаще всего открывали счета и совершали операции с цифровыми рублями мужчины указанного возраста, имеющие минимум один накопительный счет или сочетание такого счета и ИИС (индивидуальный инвестиционный счет). Они относятся к массовому сегменту и совершают много операций.

Читать полностью

Антон Лапа: На рынке управляющих компаний Новосибирска возможен новый передел

Для этого сформировался целый ряд факторов, которые синергетически влияют на отрасль

Прямым текстом

Подпишитесь на новости
Подпишитесь на рассылку самых актуальных новостей.

Выражаю согласие на обработку персональных данных, указанных при заполнении формы подписки на рассылку новостей в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.

Я согласен (согласна)

 
×
Поиск по автору:
×
Октябрь 2026
Пн Вт Ср Чт Пт Сб Вс
 1234
567891011
12131415161718
19202122232425
262728293031  
×





    Выражаю согласие на обработку персональных данных, указанных при заполнении формы «Предложить новость» в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.
    Я согласен (согласна)

    ×

    Эксклюзивный материал

    Материалы, отмеченные значком , являются эксклюзивными, то есть подготовлены на основе информации, полученной редакцией infopro54.ru. При цитировании, перепечатке ссылка на источник обязательна

    ×

      Участие в конференции бесплатно






      Формат участия:

      [yandex_captcha yandex_captcha-816]
      Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

      ×

        Участие в конференции бесплатно








        Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

        ×
        На нашем сайте используются файлы cookie. Продолжая пользоваться сайтом, Вы подтверждаете свое согласие на использование файлов cookie в соответствии с условиями их использования
        Понятно
        Политика конфиденциальности