Artificial intelligence in the context of ensuring national security

Искусственный интеллект (далее ИИ) - это быстро развивающаяся область технологий, потенциально имеющая значительные последствия для национальной безопасности любого государства. Многие высокотехнологические страны разрабатывают приложения ИИ, в том числе, для целого ряда военных функций. Исследования ИИ ведутся в области сбора и анализа разведданных, логистики, киберопераций, информационных операций, командования и управления, а также различных полуавтономных и автономных транспортных средствах. При этом интересен подход к развитию технологий ИИ в разных странах. Так, если основные игроки рынка ИИ, ведут ключевые разработки сугубо в гражданских, мирных целях, и лишь потом рассматривают вопрос о передаче этих технологий военным, особенностью российского подхода, как считается, является то, что Российская Федерация внедряет прорывные технологии в первую очередь в оборонной промышленности и только потом ищет им гражданское применение.

Однако, какой бы подход не избирали страны, уже сейчас ИИ вовлечен в локальные боевые операции. Технологии ИИ представляют собой уникальные вызовы для военной интеграции. Развитые в сфере прорывных технологий страны конкурируют за инновационные военные приложения ИИ.^[1] Китай общепризнанно является ведущим конкурентом в этом отношении, и намерен захватить глобальное лидерство в развитии ИИ к 2030 году. В настоящее время Китай в первую очередь ориентирован на использование ИИ для принятия более быстрых и обоснованных решений, а также на разработку различных типов воздушных, сухопутных, морских и подводных автономных транспортных средств. Весной 2017 года гражданский Китайский университет во взаимодействии с военными продемонстрировал на авиашоу рой из 107 беспилотных летательных аппаратов с поддержкой искусственного интеллекта. В пресс-релизе, опубликованном после этого, было показано компьютерное моделирование аналогичного формирования роя, обнаружившего и уничтожившего ракетную установку.^[2]

Кроме того, по мнению Мульчандани^[3]: «Китайские военные и полицейские власти, бесспорно, обладают самыми передовыми в мире возможностями, такими как нерегулируемое распознавание лиц для организации всеобщего наблюдения и контроля за своим населением, мониторинг видео, собранного из их систем, и анализ текстов на китайском языке для интернет-цензуры и цензуры средств массовой информации».^[4] США, по его словам, инвестирует, например, в системы, которые одновременно повышают боеспособность истребителей, а также помогают военным защищать и обслуживать Соединенные Штаты, в том числе во время пандемии COVID-19.^[4] Так, проект Salus, который был запущен в марте 2020 года, применяет искусственный интеллект для помощи в предсказании нехватки таких вещей, как вода, лекарства и предметы снабжения, необходимые в борьбе с пандемией. Объединенный центр искусственного интеллекта Пентагона разработал проект Salus, как платформу для агрегирования данных, использующую прогнозное моделирование, чтобы сузить требования к цепочке поставок и дефицит в конкретных местах, чтобы задействованные в борьбе с COVID19 службы могли получить необходимое оборудование.^[5] Одновременно, по словам американских военных, озвученных на панельной дискуссии Defense One Tech Summit (встреча на высшем уровне оборонных технологий) под названием «Соединение земли, воздуха, моря и космоса, чтобы доминировать на поле боя завтрашнего дня» 17 июня 2020 года, самым важным элементом на поле боя будущего будут не ракеты, пули или роботы, а данные и возможность собирать их из любой точки и отправлять туда, где они должны быть.^[6] В процессе обсуждения указанной гипотезы, высказывалось мнение, что «Мозаичная война», концепция, разрабатываемая Агентством перспективных исследовательских проектов Минобороны США (Defense Advanced Research Projects Agency), будет связывать боевые платформы - ракетные батареи, танки, самолеты, корабли и так далее. В такой ситуации, применение сети с ИИ позволило бы военным принять более правильное решение, какой актив наиболее эффективен при выполнении конкретной миссии. Например, если самолеты Военно-Воздушных сил и Военно-Морского флота находятся в районе, подлежащем обстрелу, ИИ может предложить, как использовать их наилучшим образом в сложившейся ситуации. В наземном сценарии мозаичной войны, по мнению американских военных, ИИ может предложить отправить беспилотный летательный аппарат или наземного робота впереди основной боевой силы. Эта беспилотная система могла бы обнаружить вражеский танк и передать координаты обратно, которые затем поступят в систему поражения без прямой видимости в тылу, которая, в свою очередь, запускает свои боеприпасы и уничтожает цель. При этом, искусственный интеллект, возможно, будет развернут на поле боя в многодоменных операциях через пять-десять лет, считает Тим Грейсон, директор отдела стратегических технологий Агентства перспективных оборонных исследовательских проектов.^[6]

Еще одной разработкой американских военных подрядчиков (в данном случае Lockheed Martin) является конвойная технология активной безопасности (CAST) - это система, установленная на военных автомобилях и предназначенная для того, чтобы сделать их полуавтономными. Если солдаты, движущиеся в середине колонны, внезапно попадают под огонь противника, экипированная CAST машина может зафиксироваться на машине впереди нее и вести себя с помощью машинного зрения. Это могло бы дать оператору на месте водителя возможность лучше защитить себя в пылу сражения.

В категории «кибербезопасность и специальные миссии» годового отчета за 2017 год компания Raytheon заявила: «Raytheon в рамках обеспечения кибербезопасности и специальных миссий разрабатывает и внедряет ... решения быстрого реагирования, а также поддержку специальных миссий с далеко идущими последствиями для разведывательного сообщества США, Министерства обороны, гражданских федеральных агентств.» Это заявление, по мнению экспертов, может относиться к системе предотвращения (PREVENT) Raytheon, продемонстрированной в цифровом журнале «Technology Today» в 2018 году, и, подробно описывающем исследовательские усилия Raytheon. PREVENT обнаруживает возникновение угроз общественной безопасности, вычисляя и оценивая нормальные модели трафика в исследуемом регионе. PREVENT способен обеспечить раннее предупреждение операторов на основе этого обнаружения с целью проведения дальнейшего анализа выявленных участников, вовлеченных в нерегулярную деятельность.^[7]

Американские военные также интегрируют системы искусственного интеллекта в боевые действия через головную инициативу под названием Project Maven, которая использует алгоритмы искусственного интеллекта для идентификации целей повстанцев в Ираке и Сирии. Цель проекта Maven, по словам генерал-лейтенанта ВВС Джона Н. Т. Джека Шанахана, директора по оборонной разведке для поддержки военных истребителей: «состоит в том, чтобы превратить огромный объем данных, доступных Минобороны, в действенную разведку и понимание.»^[8] Ожидается, что ИИ будет особенно полезен в разведывательной деятельности благодаря наличию больших массивов данных, доступных для анализа. Например, первый этап проекта Maven включает автоматизацию обработки разведданных в поддержку кампании по борьбе с ИГИЛ. В частности, команда проекта Maven использует алгоритмы компьютерного зрения и машинного обучения в ячейках сбора разведданных, которые будут анализировать кадры с беспилотных воздушных судов и автоматически определять враждебную активность для точечного исследования. В этом качестве ИИ предназначен для автоматизации работы человеческих аналитиков, которые в настоящее время тратят часы на просеивание видео для получения полезной информации. Предполагается, что потенциально освобожденные аналитики должны будут принимать более эффективные и своевременные решения на основе полученных данных.^[9]

Еще одно государство-конкурент на рынке ИИ, это Израиль. Хотя Израилю всего 70 лет, он обладает одной из самых современных вооруженных сил в мире. Несмотря на небольшой размер и бюджет Израиля (по сравнению с крупными сверхдержавами мира), около 4,5% его ВВП тратится на исследования и разработки в оборонной сфере, что почти вдвое превышает средний показатель ОЭСР (Организация экономического сотрудничества и развития). Для сравнения, только 2% немецких НИОКР и 17% американских НИОКР предназначены для военных, в то время как 30% израильских НИОКР тратятся на военную продукцию.^[10] Военное применение ИИ в 4 крупнейших военных оборонных подрядчиках Израиля охватывает следующие четыре области:

Elbit- автономный барражирующий беспилотный летательный аппарат;

IAI-автономный патрульный беспилотник периметра;

Rafael Advanced Defense Systems- ракетное наведение;

IMI Systems - автономные транспортные средства.

Elbit - крупнейший израильский военный оборонный подрядчик, предлагает Sky-Striker, автономную технологию барражирующих боеприпасов, которая, как утверждается, может помочь военным наносить скрытые и точные авиаудары по целям с помощью автономного устройства с применением ИИ.

Барражирующие боеприпасы - это оружие, которое способно задерживаться в воздухе, когда оно достигает соответствующей цели. Самой ранней формой таких боеприпасов были начиненные взрывчаткой, пилотируемые транспортные средства или «террористы-смертники». Технология барражирующих боеприпасов сегодня, с искусственным интеллектом или без него, продвинулась до такой степени, что человеческое пилотирование больше не требуется. Российская промышленность, к слову, также не так давно представила свое первое технологическое решение с барражирующими боеприпасами – беспилотный летательный аппарат, способный осуществлять разведку и атаковать цель путем прямого попадания. На военно-техническом форуме «Армия-2019», компанией Zala Aero Group (концерн Калашников) впервые было продемонстрированно новое изделие этого класса. Под названием «Ланцет» представлены две версии ударного БПЛА. Изделия «Ланцет-1» и «Ланцет-3» унифицированы по планеру и части внутренних систем. Отличия заключаются в полезной нагрузке и летно-технических характеристиках. Аппараты несут боевые части разной массы, а также отличаются взлетным весом и продолжительностью полета.

Израильская аэрокосмическая промышленность, или IAI, является вторым по величине оборонным израильским подрядчиком в мире. IAI предлагает множество продуктов с функциональностью искусственного интеллекта, один из которых - автономный патрульный беспилотник периметра (Guardium), который, как утверждает IAI, может помочь обеспечить безопасность объектов, сократить расходы и ресурсы на патрулирование и обеспечение безопасности. IAI относится к Guardium как к беспилотному транспортному средству безопасности, так как оно является наземным, а не воздушным, в отличие от традиционных беспилотников. Guardium имеет возможность путешествовать со скоростью до 48 mile per hour (миль в час), что соответствует, приблизительно 75,6 км/ч, чтобы перехватить злоумышленников на пограничном периметре до прибытия сотрудников службы безопасности, и усиливает защиту, не требуя массового развертывания ресурсов. IAI утверждает, что Guardium работает на платформе экспертных систем, а не на более современной системе машинного обучения, и используется на израильской границе с 2008 года. Сегодня эта система рассматривается для размещения в Международном аэропорту им. Бен-Гуриона неподалеку от Тель-Авива.

Россия также активно участвует в разработке военного ИИ, уделяя основное внимание робототехнике.^[11] В настоящее время российские военные имеют на вооружении более 2100 беспилотных летательных аппаратов (далее БПЛА), сообщает Министерство обороны Российской Федерации (Минобороны РФ). Это делает российский беспилотный воздушный флот одним из крупнейших в мире, уступая американскому (более 10 000 БПЛА) и, возможно, превосходя китайский флот. Сирийская кампания оказалась беспрецедентной для России в области применения беспилотных летательных аппаратов. По данным Минобороны РФ, российские беспилотники совершили не менее 23 000 боевых вылетов и отработали 140 000 часов, поддерживая разведку, наблюдение, обнаружение и поиск целей, что значительно превышает количество боевых вылетов пилотируемых самолетов в этой кампании.^[12] Однако, подавляющее большинство российских военных беспилотников являются невооруженными, легкими, короткоствольными и относительно недорогими.^[13] Основная единица российского беспилотного флота сегодня -отечественный БПЛА «Орлан-10» с дальностью полета до 120 км, составляющий почти половину всех БПЛА, эксплуатируемых российской армией.^[14] С дальностью полета до 250 км, средней высотой, и большой выносливостью, беспилотники, известные как форпосты, являются самым дальним, из ныне действующих БПЛА России. Беспилотник класса «Форпост» сам по себе является более старой израильской конструкцией Searcher 2, собранной в России по лицензионному соглашению.^[15]

Отметим, что в январе 2020 года, Уральский завод гражданской авиации завершил испытания экспериментального образца перспективного беспилотного летательного аппарата «Альтиус-У», оснащенного спутниковым каналом обмена данными и управления, создание которого ведется по проекту «Альтаир». Разработка беспилотника «Альтиус» осуществляется с 2011 года. Изначально работы по проекту вело Конструкторское бюро имени Симонова, которое создало по меньшей мере три летных образца под названием «Альтиус-М», после чего, в конце 2018 года Минобороны РФ передало проект Уральскому заводу гражданской авиации. Первый полет беспилотного аппарата в версии «Альтиус-У» состоялся в августе 2019 года. Максимальная взлетная масса «Альтиуса-У» составляет 6 тонн при длине 12 метров и размахе крыла - около 30 метров. Аппарат способен находиться в воздухе около 48 часов, рассчитан на ведение разведки с высоты 12 тысяч метров, а дальность полета аппарата составляет около десяти тысяч километров. «Альтиус-У» может нести полезную нагрузку массой до 2 тонн.

Кроме того, в ноябре 2016 года Воздушно-космические войска России приступили к опытной эксплуатации перспективных ударных беспилотников «Орион». Экспортная версия данного БПЛА была представлена на авиасалоне МАКС-2017. Максимальная взлетная масса аппарата составляет 1,2 тонны, максимальная продолжительность его полета - 30 часов, а высота - около 8 тысяч метров. Беспилотный аппарат может нести боевую нагрузку массой до 450 килограммов.

Когда речь заходит о российских беспилотных наземных системах, страна разрабатывает целую линейку для удовлетворения различных боевых потребностей.^[16] Они включают в себя малые системы, и большие танковые транспортные средства, загруженные дальнобойным, противотанковым и зенитным вооружением. Хотя большинство из них все еще проходят испытания и оценку, некоторые уже прошли испытание огнем. Россия отправила свой самый тяжелый боевой многофункциональный робототехнический комплекс на гусеничном ходу «Уран-9» в Сирию для «околобоевых испытаний», где, правда, пользователи и разработчики обнаружили, что он потерпел неудачу по всем основным критериям - от двигателя до наведения на цель, стрельбы и связи с другими ключевыми системами.^[17]

Другая боевая автоматизированная система (далее БАС) «Соратник», также была испытана в условиях, приближенных к боевым при температуре выше 30 градусов по Цельсию. Бронированная гусеничная машина «Соратник» предназначена для разведки и ретрансляции, патрулирования и охраны территорий и важных объектов, разминирования и разграждения.^[18] В 2017 году военные получили на вооружение небоевых саперных роботов «Уран-6», и управляемые комплексы «Скарабей» и «Сфера», которые также служили с военными страны в сирийских боях.^[19]

Вообще, следует констатировать, что общее развитие искусственного интеллекта в Российской Федерации стремительно растет, как в частном, так и в государственном секторе, и, соответственно, в вооруженных силах страны. Не так давно, Президент Российской Федерации, В.В. Путин заметил, что, по его мнению, самая интересная область национальных исследований связана именно с ИИ, наряду с генетикой.^[20] Сегодня в Минобороны России проводится много исследований в области искусственного интеллекта, выделяются финансовые, людские и материальные ресурсы в рамках обширной технической, академической и промышленной инфраструктуры. Развитие ИИ в частном секторе России также переживает возрождение, во многом благодаря общей сильной академической базе STEM, которая способствует развитию высоких технологий.^[21]

В России в октябре 2012 года, по аналогии с американским DARPA (Defense Advanced Research Project Agency),^[22] был создан Фонд перспективных исследований (ФПИ), который сегодня объединяет 46 исследовательских лабораторий.^[23] 20 марта 2018 года ФПИ объявил, что подготовил предложения для Минобороны РФ по стандартизации разработки ИИ, которые включают в себя следующие ключевые направления:^[24] распознавание изображений, распознавание речи, позволяющее управлять автономными военными системами, а также поддержка ИИ жизненного цикла оружия. ФПИ объявил об этих принципах в марте 2018 года на научном форуме под названием «Искусственный интеллект: проблемы и решения», организованном Минобороны РФ, Министерством образования и Российской академией наук с целью продвижения предложений, направленных на мобилизацию государства и научного сообщества к работе с ИИ. В своем обращении к участникам конференции Министр обороны России Сергей Шойгу призвал гражданских и военных конструкторов страны объединить усилия по разработке искусственного интеллекта для обеспечения технологической и экономической безопасности страны.^[25] Ключевым результатом этого международного симпозиума стала публикация 10-шаговой рекомендации «дорожная карта» развития «сквозной» цифровой технологии «Нейротехнологии и искусственный интеллект».^[26] В этой дорожной карте намечены предлагаемые государственно-частные партнерства и краткосрочные и среднесрочные мероприятия, которые следует реализовать. В рамках разработки дорожной карты развития сквозных цифровых технологий (далее СЦТ) «Искусственный интеллект и нейротехнологии» были выделены семь субтехнологий СЦТ (далее суб-СЦТ):

компьютерное зрение;

обработка естественного языка;

распознавание и синтез речи;

рекомендательные системы и интеллектуальные системы поддержки принятия решений;

перспективные методы и технологии в ИИ;

нейропротезирование;

нейроинтерфейсы, нейростимуляция и нейросенсинг.

Для каждой суб-СЦТ определен текущий уровень готовности суб-СЦТ (далее УГТ) (в соответствии с ГОСТ Р 57194.1-2016) (Таблица 1), а также выделены наиболее перспективные потенциальные задачи (технологии), потенциальные научно-технические и технологические решения (target use-cases).

Таблица 1. Уровень готовности субтехнологий^[27]

В ходе мартовской конференции 2018 года заместитель министра обороны России Николай Панков заявил, что «из 388 научно-исследовательских институтов (Минобороны РФ) 279 сосредоточены в военных училищах, и большинство из них активно занимаются исследованиями в области искусственного интеллекта, робототехники, военной кибернетики и других перспективных направлений.»^[28] Примером усилий Минобороны РФ по созданию инфраструктуры, способствующей развитию ИИ, также является создание военно-инновационного «технополиса» в Анапе, на Черноморском побережье, получившего название «Эра».^[29] 14 основных направлений исследований, реализуемых этим проектом обозначены как:

технологии искусственного интеллекта;

малые космические аппараты;

робототехника;

информационная безопасность;

автоматизированные системы управления и IT-системы;

технологии энергообеспечения, аппараты и машины жизнеобеспечения;

техническое зрение, распознавание образов;

информатика и вычислительная техника;

биотехнические системы и технологии;

Нанотехнологии и наноматериалы;

гидрометеорологическое (метеорологическое) и геофизическое обеспечение;

гидроакустические системы обнаружения объекта;

геоинформационные платформы нового назначения;

оружие на новых физических принципах.

Кроме того, уже несколько лет ФПИ работает над экспериментальной робототехнической платформой - боевым роботом «Маркер», который призван стать помощником человеку на поле боя.^[30] «Маркер» оснащен ключевыми технологиями наземной робототехники: техническое зрение, связь, навигация, автономное движение и применение, а также групповое управление. «Маркер» представляет собой универсальный комплекс с модульной архитектурой, на который можно установить, как в конструкторе Lego, новые узлы, агрегаты, приборы, другое оборудование.

Резюмируя, отметим, что в настоящее время российские военные работают над внедрением элементов искусственного интеллекта в различные системы вооружения, подчеркивая важность ИИ в сборе и анализе данных для облегчения обработки информации. В частности, в марте 2018 года действовавший на тот момент, замминистра обороны Ю.И. Борисов (сейчас председатель Авиационной коллегии при Правительстве Российской Федерации), заявил, что развитие ИИ необходимо для эффективного противодействия противникам в информационном пространстве и победы в кибервойнах.^[31]

Российские гражданские разработки ИИ в области распознавания образов и речи также могут быть включены в оборонные и охранные приложения в будущем. При этом, важно отметить, что российское научное сообщество, в целом, положительно относится к возможности применения ИИ-технологий для ведения войны,^[32] хотя большинство ученых, все-же высказываются в духе, что: «поспешность и необдуманность военных разработок ИИ могут привести к новой гонке вооружений в мире и постепенному игнорированию норм и принципов международного права». ^[33] Есть и такие, которые видят в военном применении ИИ неоправданно высокие риски.^[34] Так же, как и Google в продолжающемся споре о его роли в американском оборонном секторе.^[35]

В целом, конечно, российский оборонный сектор готовится к долгосрочному высокотехнологичному соперничеству со своими предполагаемыми противниками. И, несмотря на то, что некоторые вопросы остаются нерешенными, Минобороны РФ и его военно-промышленный сектор находятся в большей синхронизации, чем когда-либо с момента распада СССР. Начиная с 2012 года в министерстве были созданы управления,^[36][37] которые занимаются разработкой беспилотных и роботизированных технологий и созданием системного подхода, направленного на оптимизацию и облегчение создания этого оружия от его первоначальной разработки до окончательного (или потенциального) приобретения. Последние 10 лет развития российского оборонного сектора свидетельствуют о том, что российские военные достигают более высокого технического уровня. Принимая во внимание данный аспект, некоторые западные исследователи считают, что российским потенциальным конкурентам на геополитической арене, в конечном итоге придется столкнуться с более эффективным и способным противником, и им придется разрабатывать новые технологии в противодействии тому, чего они не делали уже много лет – равному противнику, стремящемуся выставить прорывные и передовые военные технологии в бою.^[38]

Искусственный интеллект, вероятно, будет ключевой технологией в продвижении военных киберопераций. В своем выступлении в сенатском комитете по вооруженным силам в 2016 году командующий киберкомандованием США адмирал Майкл Роджерс заявил, что полагаться только на человеческий интеллект в киберпространстве-это «проигрышная стратегия.»^[39] Кроме того, будущие системы искусственного интеллекта могут использоваться для выявления каналов связи, перерезанных противником, и поиска альтернативных способов распространения информации. По мере того как сложность систем ИИ станет расти, его алгоритмы также могут быть способны предоставлять командирам меню жизнеспособных курсов действий, основанных на анализе боевого пространства в реальном времени, что, в свою очередь, позволит быстрее адаптироваться к сложным событиям.

Как США, так и КНДР тестирует и другие возможности искусственных интеллектуальных систем, чтобы получить кооперативное поведение беспилотных объектов или, по-другому, их «роение». Роение является уникальным подмножеством автономной разработки транспортных средств, с концепциями, начиная от крупных формирований недорогих транспортных средств, предназначенных для подавления оборонительных систем до небольших эскадрилий транспортных средств, которые взаимодействуют для обеспечения электронной атаки, огневой поддержки или локализации навигационно-коммуникационные сети для соединений сухопутных войск. В настоящее время разрабатывается целый ряд различных возможностей Роя. Например, в ноябре 2016 года военно-морской флот США завершил испытание роя из пяти беспилотных лодок с поддержкой искусственного интеллекта, которые совместно патрулировали участок 4-х мильной зоны Чесапикского залива и перехватили судно «Интрудер». Результаты этого эксперимента могут привести к созданию технологии искусственного интеллекта, адаптированной для защиты гаваней, охоты на подводные лодки или разведки перед строем более крупных кораблей.^[40]

Чуть позже, Военно-морской флот США провел испытания роя подводных беспилотников,^[41] а Управление стратегических возможностей успешно испытало рой из 103 сброшенных с воздуха микро-дронов.^[42]

Как уже отмечалось, искусственный интеллект, это быстроразвивающаяся технология, захватывающая все больше и больше значимых сфер, в числе которых, безусловно, и сфера обеспечения национальной безопасности. ИИ обладает рядом уникальных характеристик, которые могут быть важны для рассмотрения, поскольку эти технологии выходят на арену национальной безопасности.

Во-первых, ИИ имеет потенциал для интеграции в различные приложения, улучшая так называемый «Интернет вещей», в котором разрозненные устройства объединены в сеть для оптимизации производительности. Как утверждает Кевин Келли, основатель журнала Wired: «[ИИ] оживит инертные объекты, подобно тому, как это было с электричеством более ста лет назад. Все, что мы раньше электрифицировали, мы теперь будем познавать.»^[43] Во-вторых, многие ИИ приложения двойного назначения, то есть они имеют как военные, так и гражданские приложения. В-третьих, ИИ является относительно прозрачным, что означает, что его интеграция в продукт не сразу распознается.

Однако, хотя ИИ обладает большим потенциалом для придания ряда преимуществ в военном контексте, он может также создавать определенные проблемы. Технология ИИ могла бы, например, облегчить автономную работу операции, приводят к более обоснованному принятию военных решений, а также увеличить скорость и масштаб военных действий. Однако, также она может быть непредсказуемой или уязвимой для уникальных форм манипуляции. В результате этих факторов аналитики придерживаются широкого спектра мнений о том, насколько влиятельным ИИ будет в будущих боевых операциях. В то время как некоторые считают, что технология получит минимальное влияние, большинство полагают, что применение ИИ в боевых условиях будет иметь по крайней мере эволюционный, если не революционный эффект.

Тем не менее, развитие военного ИИ детерминирует ряд потенциальных вопросов, ответить на которые представляется необходимым в ближайшее время:

Как государство может повлиять на инициативы реформы оборонных закупок, которые облегчают развитие военного ИИ?

Какие изменения, если таковые имеются, необходимы для осуществления эффективного надзора за развитием ИИ?

Как сбалансировать исследования и разработки, связанные с искусственным интеллектом и автономными системами, с этическими соображениями?

Какие законодательные или нормативные изменения необходимы для интеграции военных приложений ИИ?

Какие меры необходимо принять, чтобы минимизировать риски связанные с использованием ИИ?

Кроме того, довольно остро, причем для всех государств стоит вопрос применения смертоносных автономных систем вооружений, которые могут использовать ИИ для выбора и поражения целей. Смертоносные автономные оружейные системы (LAWs) - это особый класс оружейных систем, способных самостоятельно идентифицировать цель и использовать бортовую оружейную систему для поражения и уничтожения ее без участия человека. LAWs требуют наличия системы компьютерного зрения и продвинутых алгоритмов машинного обучения для классификации объекта как враждебного, принятия решения о захвате и направления оружия к цели.

С 2014 года идут международные дискуссии по вопросам права в рамках Конвенции Организации Объединенных Наций о конкретных видах обычного оружия (КОО). Примерно 25 государств-участников призвали к заключению договора о запрещении «полностью автономных систем вооружений» в силу этических соображений, в то время как другие государства-участники склоняются к принятию официальных постановлений или политических деклараций.^[44] В связи с этим обстоятельством, некоторые аналитики обеспокоены тем, что усилия по запрещению или регулированию LAWs могут привести к строгому контролю за приложениями ИИ, которые могут быть адаптированы для смертельного использования, тем самым сдерживая развитие других полезных военных, или даже коммерческих технологий.

В любом случае, развитие ИИ должно увеличить императив для строгих стандартов безопасности, так как алгоритмы ИИ уязвимы для искажения, кражи и манипулирования, особенно если набор обучающих данных недостаточно защищен.

Еще одной проблемой массового применения ИИ технологий, являются возможные враждебные кибероперации и «глубокие фейки», поскольку ИИ обеспечивает все более реалистичные фото, аудио и видео подделки, которые противники могли бы использовать в рамках своих информационных операций.^[45] Глубокие фальшивые технологии могут быть применены для создания ложных сообщений новостей, влияния на общественный дискурс, подрыва общественного доверия и попытки шантажа дипломатов и иных государственных служащих. ^[46]

Хотя большинство предыдущих глубоких подделок, так или иначе обнаруживались экспертами, сложность технологии прогрессирует до такой степени, что вскоре она может быть способна обмануть инструменты экспертного анализа.

Американская компания MediFor разработала некоторые первоначальные инструменты для выявления подделок, произведенных ИИ, но, как отмечается: «ключевая проблема ... заключается в том, что системы машинного обучения могут быть обучены тому, чтобы перехитрить инструменты судебной экспертизы.» ^[47]

Искусственный интеллект может также использоваться для создания полных «цифровых моделей жизни», в которых цифровой «след» человека сопоставляется с историями покупок, кредитными отчетами, профессиональными резюме и подписками для создания всеобъемлющего поведенческого профиля. Как и в случае с глубокими подделками, эта информация, в свою очередь, может быть использована для целенаправленных операций влияния или шантажа.

Не зря, в 2016 года ИИ был идентифицирован как «новая и разрушительная технология» на ежегодных слушаниях сенатского комитета США по разведке по теме «Оценка глобальной угрозы».^[48] Примечательно, что российская политическая и правовая практика, по сути вообще не упоминает о потенциальных опасностях применения ИИ, делая акцент только на положительных аспектах данного явления.^[49] По нашему мнению, такой подход не является достаточно взвешенным, и презюмируя возможную пользу сотрудничества естественного и искусственного разумов, необходимо помнить и о негативных последствиях такого коллаборационизма.^[50] Поскольку, последствия более широкого внедрения ИИ включают в себя еще и повышенную уязвимость к кибератакам, трудности в установлении атрибутивных признаков объектов, прогресс достижений в области иностранного оружия и разведывательных систем, риск несчастных случаев и связанные с ними вопросы ответственности, а также и возможную безработицу. Повышенная зависимость от ИИ для автономного принятия решений создает новые уязвимые места для кибератак и операций влияния. Системы искусственного интеллекта восприимчивы к целому ряду разрушительных и обманчивых тактик, которые трудно предвидеть или быстро осознать. Попытки ввести в заблуждение или скомпрометировать автоматизированные системы могут создать дополнительные возможности для разрушения или повреждения критической информационной инфраструктуры государства или сетей национальной безопасности.

Подводя итог всему вышеизложенному, следует констатировать, что фраза «Si vis pacem, para bellum», в достаточной степени может быть отнесена к последующему плотному и неизбежному взаимодействию человечества с искусственным интеллектом, в том числе, и в контексте обеспечения национальной безопасности государств: планируя мирное сосуществование двух разумов, мы должны четко понимать, что включая искусственный интеллект в человеческие конфронтации по разные стороны баррикад, нужно быть подготовленным ко всему, в том числе, и к войне.

И хотя позиции Российской Федерации по ряду направлений в данной сфере все еще недостаточно сильны, необходимо понимать, что качественный научный прорыв в области ИИ может произойти в любое время и в любой стране, не только за счет крупных государственных предприятий, но и силами небольших частных компаний и даже отельных энтузиастов. Очевидно, что это событие навсегда изменит баланс сил на мировой арене и вероятно поставит точку в глобальной гонке вооружений.