В Московском Политехе разрабатывается несколько проектов в области беспилотного транспорта — это предсерийные образцы микроавтобуса для парковых зон Smart шаттл, беспилотная ЖКХ-платформа, а также малотоннажная платформа автономных систем. Об этих разработках проректор по научной работе Московского Политеха Антон Наливайко рассказал на круглом столе в рамках форума «Технопром-2023».

Все разработки столичного университета оснащены интеллектуальными системами управления, которые используют нейросетевые системы для обработки информации с сенсоров. Однако вместе с прогрессом и инновациями возникают и новые вызовы.

— В процессе планирования работ много внимания уделялось вопросу уязвимости самого искусственного интеллекта. В частности, возможны ситуации неправильного машинного обучения, когда в набор данных подмешиваются неверные изображения. Это может привести к тому, что система будет неправильно интерпретировать дорожные знаки или даже потерять контроль над полосой движения, — говорит Наливайко.

По его словам, выявление такой подмены при обучении достаточно трудно реализовать, а также достаточно непросто выявить. Отсюда возникают критические уязвимости высокоавтоматизированных транспортных средств, такие как неправильное распознавание дорожных знаков, потеря контроля над полосой, неправильное обнаружение объектов.

— Самая очевидная мера, которую можно предпринять, — это нормативно-правовое регулирование в этой отрасли, а также экспертиза и оценка независимой валидации и верификации как технологий, так и объектов данных, по которым обучаются системы, —считает Антон Наливайко.

Валентин Селифанов, заместитель руководителя обособленного подразделения АО «ИнфоТеКС» в Новосибирске добавил, что основной угрозой для беспилотного транспорта является угроза информационной безопасности.

— Ее необходимо обеспечить уже на этапе производства беспилотный устройств, включая внедрение, разграничение прав доступа с авторизацией, доверенная загрузка, доверенное хранение данных, — перечисляет Селифанов.

Проректор Московского Политеха добавил, что в число действенных мер также входит экспертиза и независимая оценка, валидация и верификация объектов данных, по которым обучаются системы.

Ранее редакция рассказывала о том, что до конца года к интеллектуальной транспортной системе в Новосибирске подключат более 50 камер и свыше 20 светофоров.