Разговоры о полностью автономных беспилотных летательных аппаратах, способных принимать решения без участия человека, все чаще выходят за рамки научной фантастики и становятся предметом серьезных дискуссий на международном уровне. Развитие летальных автономных систем вооружений (ЛАСВ) в военной сфере поднимает острые этические и правовые вопросы, которые неизбежно проецируются на гражданский сектор, влияя на общественное восприятие, безопасность и будущее регулирование использования дронов.
Что такое летальные автономные системы (LAWS)?
В основе концепции, вызывающей наибольшие споры, лежат так называемые летальные автономные системы вооружений (Lethal Autonomous Weapons Systems, LAWS), часто именуемые в прессе «дронами-убийцами». Ключевой характеристикой таких систем является способность самостоятельно, на основе алгоритмов искусственного интеллекта (ИИ), осуществлять поиск, идентификацию, выбор и поражение целей без прямого контроля со стороны человека-оператора. Это принципиально отличает их от современных беспилотников, где решение о применении силы всегда остается за человеком (human-in-the-loop).
Обсуждение потенциального запрета или строгого регулирования LAWS уже много лет ведется на площадках ООН в Женеве в рамках Конвенции о «негуманном» оружии (КНО). Однако, по данным Управления ООН по вопросам разоружения, государствам пока не удалось достичь консенсуса по выработке юридически обязывающего документа.
Технологический разрыв: где граница между военным и гражданским ИИ?
Хотя цели военного и гражданского применения дронов кардинально различаются, лежащие в их основе технологии во многом пересекаются. Передовые гражданские БПЛА уже сегодня используют сложные системы на базе ИИ для выполнения различных задач:
- Компьютерное зрение: алгоритмы распознавания образов, которые в гражданской сфере используются для инспекции ЛЭП, подсчета поголовья скота или поиска пропавших людей, в военном контексте могут быть адаптированы для идентификации целей.
- Автономная навигация: технологии SLAM (Simultaneous Localization and Mapping), позволяющие дрону строить карту местности и ориентироваться в пространстве без GPS, критически важны как для доставки грузов в сложных городских условиях, так и для выполнения военных миссий в зоне подавления сигналов.
- Машинное обучение: способность системы анализировать данные и улучшать свои действия на их основе — это ядро как для оптимизации маршрутов в агродронах, так и для повышения эффективности автономных боевых систем.
Эта конвергенция технологий создает так называемую проблему «двойного назначения». Теоретически, продвинутый коммерческий или даже любительский дрон может быть модифицирован и перепрограммирован для выполнения враждебных автономных действий, что представляет серьезную угрозу безопасности.
Регуляторный и этический вакуум
Текущее законодательство в большинстве стран, включая Российскую Федерацию, ориентировано на управление дронами под непосредственным контролем пилота. Основные правила воздушного движения и эксплуатации БПЛА, контролируемые Росавиацией, предполагают наличие внешнего пилота, несущего ответственность за полет. Концепция, при которой ИИ принимает окончательные решения, особенно связанные с потенциальным нанесением вреда, пока находится за рамками существующего правового поля.
Главные вызовы для регуляторов:
- Ответственность: кто несет ответственность в случае ошибочных действий автономного дрона — разработчик ПО, производитель оборудования, владелец или сама система?
- Сертификация ИИ: как сертифицировать и верифицировать «черный ящик» нейросети, чтобы гарантировать ее надежность и предсказуемость в критических ситуациях?
- Кибербезопасность: как защитить автономные системы от взлома и перехвата управления, которые могут привести к катастрофическим последствиям?
Последствия для гражданского рынка БПЛА
Широкое обсуждение военных автономных систем напрямую затрагивает и мирный рынок дронов. Негативный образ «дронов-терминаторов», активно тиражируемый в медиа, может привести к усилению «дронофобии» в обществе. Это, в свою очередь, рискует спровоцировать введение избыточно строгих ограничений, которые затормозят внедрение полезных автономных технологий в логистике, сельском хозяйстве, поисково-спасательных операциях и мониторинге инфраструктуры.
Для отрасли гражданских БПЛА крайне важно активно участвовать в диалоге, разъясняя обществу и регуляторам разницу между контролируемой автоматизацией и неконтролируемой автономией, а также работая над созданием надежных технических и этических стандартов для безопасного использования ИИ.
Видео-дискуссия о будущем военных технологий
Для тех, кто хочет глубже погрузиться в дискуссию о роли беспилотных технологий в современной и будущей войне, представленное ниже видео предлагает один из взглядов на эту сложную тему.
* Источник фото — thedroningcompany.com
