АЛГОРИТМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И ПРОБЛЕМЫ АВТОНОМНЫХ ТРАНСПОРТНЫХ СРЕДСТВ
03 августа 2020 Anton Hristozov
Давайте рассмотрим подробнее алгоритмы, используемые в автономных транспортных средствах.
3 Алгоритмы ИИ, используемые в автономных транспортных средствах
3.1 Планирование маршрута и алгоритмы контроля
Для этой задачи можно использовать традиционные алгоритмы, которые являются эвристическими по своей природе. Это такие алгоритмы, как алгоритм Беллмана–Форда и Дейкстры (Bugala, 2018). Чтобы они работали, нам нужны данные о местоположении автомобиля в течение всего времени. Данные получаются с датчиков, таких как GPS, а также методов одновременной локализации и картирования (SLAM).
SLAM используется, когда нет доступа к GPS, например, под землей или в закрытых помещениях. SLAM создает карту окружающей среды и в то же время оценивает состояние транспортного средства. Карта состоит из ориентиров и препятствий, чтобы показать окружающую среду. SLAM используется в приложениях, в которых карта недоступна и ее необходимо создать самим. Он использует датчики и специальные алгоритмы, которые создают модели данных для создания карты.
3.2 Алгоритмы обнаружения объектов
Обнаружение объектов – одна из самых важных задач, с которыми ИИ должен справляться в движущемся транспортном средстве. Такие алгоритмы являются областью активных исследований, и они полагаются на разные датчики, встроенные в автомобиль. Обнаружение объектов может быть основано на камерах или лидарах, радарах и прочих типах датчиков. Используемые алгоритмы обычно представляют собой алгоритмы глубокого обучения, в которых для выполнения работы используются нейронные сети определенного типа.
Одно из требований для такой задачи – она должна быть быстрой. Причина в том, что существует последовательность изображений, которые необходимо обрабатывать по мере движения автомобиля.
Некоторые из новейших методов здесь основаны на использовании свёрточных нейронных сетей (CNN). Это методы R–CNN, Fast R–CNN и You Only Look Once (YOLO) (Redmon et al., 2016). RCNN сначала находит области изображения, содержащие потенциальные объекты, а затем пытается проанализировать каждую область. Это делает R–CNN несколько медленным, и поэтому были разработаны более быстрые методы Fast R–CNN и метод YOLO. YOLO работает в реальном времени, чтобы найти опасные участки и классифицировать объекты в них с помощью единой сверточной нейронной сети, что делает YOLO очень быстрым по сравнению с другими методами. Кроме того, Yolo может видеть все изображение целиком и не страдает от проблем в R–CNN, таких как принятие фоновых изображений за объекты.
3.3 Алгоритмы принятия решений
Алгоритм принятие решения определяет действия транспортного средства на основе информации с датчиков. Транспортное средство постоянно принимает решения, исходя из поведения, заложенного в него, и окружающей среды. Для принятия решений используются следующие алгоритмы:
4 Проблемы ИИ в автономных транспортных средствах
Некоторые из проблем использования алгоритмов искусственного интеллекта для автономных транспортных средств – это те же проблемы, которые универсальны для многих других приложений на базе ИИ. В области беспилотных автомобилей возникают некоторые дополнительные уникальные проблемы. Это такие концепции, как системы реального времени, безопасность и машинная этика. Рассмотрим подробнее эти проблемы.
4.1 Ответ в реальном времени
Системы реального времени – это особый класс встроенных систем, которые обладают характеристиками для выдачи результатов или реакций в пределах определенных временных ограничений. Они должны быть детерминированными и минималистичными в своем дизайне, чтобы всегда соответствовать ожидаемому поведению в реальном времени. Для этого они часто используют специальные операционные системы реального времени (RTOS) или напрямую взаимодействуют с оборудованием, избегая интерпретируемых языков программирования и динамического распределения памяти.
Решения для искусственного интеллекта обычно находятся на противоположной стороне спектра – с использованием языков программирования высокого уровня, полной зависимости от операционной системы, таких методов, как динамическое распределение памяти и сборка мусора. Это создает проблему для предоставления решений в реальном времени с помощью этих систем.
Другой аспект этих систем – централизованные они или распределенные. Централизованные системы легче спроектировать, но они в значительной степени зависят от внутренних коммуникаций и мощного центрального процессора. Распределенная система использует выделенные центральные процессоры, которые могут обрабатывать отдельные различные подсистемы и датчики, что снижает потребность в сложном и мощном центральном процессоре. Распределенная архитектура позволяет создавать системы с более низким энергопотреблением. Они также более гибкие и могут быть дешевле.
4.2 Вычислительная сложность
Алгоритмы искусственного интеллекта, особенно глубокого обучения, требуют специальных аппаратных решений из–за объема данных и сложности вычислений. Аппаратное обеспечение, такое как графические процессоры (GPU) или тензорные процессоры (TPU), можно оптимизировать для быстрых параллельных вычислений. Скорость достигается за счет более высокого потребления энергии и более высоких затрат на «железо». Даже при использовании специализированного оборудования, нет уверенности в том, что конкретные алгоритмы смогут достичь решения в режиме реального времени. Следовательно, выбор алгоритмов с учетом их сложности и требований к процессору является серьезным фактором в системах реального времени. Определение загруженности ЦП и памяти – это меры, которые могут помочь определить, подходит ли алгоритм для использования в типичном процессоре, используемом в современных автомобилях, или нет.
4.3 Поведение черного ящика
Алгоритмы искусственного интеллекта критиковались за то, что их труднее анализировать, чем обычные алгоритмы. Это происходит из–за того, что алгоритмы ИИ имеют более высокий уровень сложности и полагаются на большой объем данных. Сложная нейронная сеть может выполнять несколько задач искусственного интеллекта без понимания процесса, которым она управляет.
Глубокие нейронные сети могут иметь десятки тысяч узлов, которые можно обучить достижению определенного состояния. Вдобавок они могут иметь множество скрытых слоев и множество входов и выходов. Все это приводит к проблемам, когда система дает сбой, и возникает необходимость провести анализ проблемы и выяснить точную причину сбоя. Это активная область современных исследований, и успехи в этой области позволят решить многие юридические и технические вопросы, связанные с использованием систем искусственного интеллекта.
Одна из идей – использовать гибридные решения, сочетающие ИИ с традиционными алгоритмами управления. Этот вопрос особенно важен для прогнозирования и устранения неполадок. История решений о том, почему было принято то или иное решение в определённой ситуации, должна быть обоснована алгоритмом искусственного интеллекта, а это сложно или невозможно, если алгоритм можно анализировать и рассматривать только как черный ящик.
4.4 Точность и надежность
Приложения компьютерного зрения, используемые в автономных транспортных средствах, могут быть не готовы к работе в час–пик. Причина в том, что они могут прекрасно работать в идеальных условиях на полигонах, но могут дать сбой даже при небольших нарушениях на входящих датчиках. Обучение алгоритмов ИИ происходит медленно с обучающим набором данных, имеющими строго определенные характеристики.
Изменение входящих данных может привести к резкому изменению поведения алгоритмов классификации и прогнозирования с катастрофическими результатами. Например, человек, несущий большую сумку через дорогу, может не распознаться беспилотным автомобилем как человек.
Кроме того, трудно предсказать, что может случиться с произвольными данными, которые могут попасть в систему. Этой проблемой воспользовались злоумышленники, которые смогли обмануть алгоритмы глубокого обучения с помощью данных в изображениях, которые не видны людям, но заставили нейронную сеть перестать правильно классифицировать. Очевидно, что для повышения надежности и точности алгоритмов машинного обучения требуется множество улучшений.
4.5 Безопасность
Сложность искусственного интеллекта может привести к проблемам с его безопасностью. Более сложная система – это прежде всего система, которую сложнее разработать, протестировать и развернуть. И это только часть проблемы. Другая заключается в том, что сейчас появляются новые стандарты безопасности, которые еще не приняты транспортной отраслью.
Еще больше усложняет ситуацию то, что анализ и проверка систем искусственного интеллекта все еще находится на начальной стадии разработки и не поддаются контролю из–за их сложности. В общем, формальная проверка сложна даже для традиционных программных систем, но еще сложнее для программного обеспечения на основе ИИ. Проблема создания надежных, проверенных и оттестированных решений искусственного интеллекта должна решаться в целом, а не только для автономных транспортных средств.
4.6 Безопасность и ИИ
Системы искусственного интеллекта настолько важны для автономного транспортного средства, что их безопасность напрямую связана с надежностью всей системы.
Наибольшие угрозы возникают, когда злоумышленник может манипулировать данными, поступающими от датчиков к транспортному средству, тем самым заставляя систему принимать неверные решения. Это поведение можно улучшить, обучив системы с данными, имеющими некоторые некорректные характеристики. Эксперимент с моделью глубокого обучения для распознавания дорожных знаков показал, что добавление всего нескольких черно–белых наклеек к знаку СТОП заставило алгоритм подумать, что это знак ограничения скорости 45 миль в час.
Большая угроза для влияния на работу ИИ в автономном транспортном средстве заключается в нарушении работы датчиков машинного зрения, что приводит к изменениям в потоке данных с него и, таким образом, может полностью сбить с толку алгоритмы искусственного интеллекта. Такие решения, как гибридные системы, нечеткая логика и традиционные системы управления, основанные на моделях, дополняющих ИИ, – вот некоторые методы, которые исследователи пытаются изучить. Ставки высоки, поскольку искусственный интеллект уже можно найти в некоторых подсистемах современных автомобилей, и он определённо будет в каждом транспортном средстве в ближайшем будущем.
4.7 Этика и ИИ
На данный момент этические аспекты внедрения искусственного интеллекта в автономных и полуавтономных транспортных средствах ещё не созрели и не получили значительного развития. Этические ценности – это человеческое качество, которое трудно понять, преобразовать и внедрить в машины. Другими словами, решение о том, что правильно, а что неправильно с точки зрения человеческой этики, для машины непонятно. До полного развития машинной этики могут потребоваться десятилетия. Это область активных исследований, которая представляет собой перекрестную дисциплину между психологией, машинным обучением и социальной политикой. Возможно, некоторые законы могут помочь в этом направлении, пока технология будет становится более зрелой.
5 Заключение
Решения на базе искусственного интеллекта сегодня повсюду. Они являются частью таких устройств, как Alexa и Google Home, роботами для стрижки травы или уборки дома, а некоторые беспилотные автомобили ожидаются уже скоро. Проблемы и достижения ИИ характерны для многих отраслей, но в транспортной отрасли, особенно с беспилотными машинами, возникают дополнительные проблемы, связанные с безопасностью. Частично это связано со сложностью задачи по созданию беспилотного транспортного средства, а частично – с уровнем развития области искусственного интеллекта и его пригодностью для решения сложных задач, таких как обнаружение объектов, планирование маршрута и принятие решений в реальном времени. Многие из этих проблем будут устранены по мере того, как мы будем продвигаться к все большему проникновению автономных решений в определенные секторы экономики. Может быть, правильнее задать этой отрасли вопрос: «Собираемся ли мы туда доехать безопасно?» а не просто «Мы уже доехали?».