Искусственный интеллект может ошибиться при распознавании дорожных знаков

В Московском Политехе разрабатывается несколько проектов в области беспилотного транспорта — это предсерийные образцы микроавтобуса для парковых зон Smart шаттл, беспилотная ЖКХ-платформа, а также малотоннажная платформа автономных систем. Об этих разработках проректор по научной работе Московского Политеха Антон Наливайко рассказал на круглом столе в рамках форума «Технопром-2023».

Все разработки столичного университета оснащены интеллектуальными системами управления, которые используют нейросетевые системы для обработки информации с сенсоров. Однако вместе с прогрессом и инновациями возникают и новые вызовы.

— В процессе планирования работ много внимания уделялось вопросу уязвимости самого искусственного интеллекта. В частности, возможны ситуации неправильного машинного обучения, когда в набор данных подмешиваются неверные изображения. Это может привести к тому, что система будет неправильно интерпретировать дорожные знаки или даже потерять контроль над полосой движения, — говорит Наливайко.

По его словам, выявление такой подмены при обучении достаточно трудно реализовать, а также достаточно непросто выявить. Отсюда возникают критические уязвимости высокоавтоматизированных транспортных средств, такие как неправильное распознавание дорожных знаков, потеря контроля над полосой, неправильное обнаружение объектов.

— Самая очевидная мера, которую можно предпринять, — это нормативно-правовое регулирование в этой отрасли, а также экспертиза и оценка независимой валидации и верификации как технологий, так и объектов данных, по которым обучаются системы, —считает Антон Наливайко.

Валентин Селифанов, заместитель руководителя обособленного подразделения АО «ИнфоТеКС» в Новосибирске добавил, что основной угрозой для беспилотного транспорта является угроза информационной безопасности.

— Ее необходимо обеспечить уже на этапе производства беспилотный устройств, включая внедрение, разграничение прав доступа с авторизацией, доверенная загрузка, доверенное хранение данных, — перечисляет Селифанов.

Проректор Московского Политеха добавил, что в число действенных мер также входит экспертиза и независимая оценка, валидация и верификация объектов данных, по которым обучаются системы.

Ранее редакция рассказывала о том, что до конца года к интеллектуальной транспортной системе в Новосибирске подключат более 50 камер и свыше 20 светофоров. 

Юлия Данилова

Recent Posts

Владельцы глэмпингов в Новосибирске отличились ценами на отдых

За сутки проживания в экологичном отеле они просят больше, чем в среднем по России

20 минут ago

Фуры объезжают ограничительную рамку на Малыгина через кладбище

Сегодня муниципальные службы завершили восстановление габаритных ворот, но они уже потеряли свою актуальность

50 минут ago

Новосибирская область вновь в числе самых читающих регионов России

Жюри конкурса высоко оценило региональные инициативы по сохранению литературных традиций

1 час ago

До +12 в выходные пообещали синоптики жителям Новосибирска

Какой ритуал можно провести на Казанскую, чтобы поскорее выйти замуж

2 часа ago