article-img
Разбор  
07/03

Виртуальная война: как беспилотное оружие изменит нашу реальность

Почему, используя новые технологии на поле боя, мы не только рискуем превратить грязное ремесло в увлекательную игру, но и сами можем стать машинами

Share

Война, как известно, никогда не меняется. Обуздав силу атома, человечество "стало Смертью, уничтожителем Миров". И остановилось. Ведь как отметил военачальник и историк Карл фон Клаузевиц, цель любой войны — это мир, комфортный для победителя. И можно сколько угодно трясти перед соседями своим эрегированным ядерным пенисом, но, очевидно, что даже самый последний диктатор не хочет рукотворного апокалипсиса. Ведь после него останется только сидеть посреди руин и посыпать голову радиоактивным пеплом.

image

Генерал Роберт Меллер тестирует Microsoft HoloLens
Источник фото: пресс-служба КМП США

Вместе с ядерным оружием появилось и осознание, что кроить геополитическую простыню гораздо удобнее не атомным молотом, а скальпелем. Поэтому военные потянули свои волосатые ручищи к разработкам нердов из Кремниевой долины. В прошлом году стало известно, что Google работал над проектом искусственного интеллекта для Минобороны США. А сотрудники Microsoft на прошлой неделе потребовали разорвать контракт по созданию шлема дополненной реальности с Пентагоном. Казалось бы, новые разработки могут повысить точность ударов, минимизировать жертвы среди гражданского населения и ошибки солдат. Однако, используя искусственный интеллект и дополненную реальность на поле боя, мы не только рискуем превратить грязное ремесло в увлекательную игру, но и сами можем стать механизмами для убийств.

Машины вместо солдат

Боевые роботы всегда вдохновляли генералов с большими звездами на погонах. Машина не знает усталости, всегда бьет точно в цель, да еще и не сливает соляру из танка. Роботы используются, например, Южной Кореей для охраны границы со своим северным соседом. Израиль для контроля границ с Газой использует беспилотный военный автомобиль Guardium, а для отражения морских атак — робот-катер Defender. Но самой сокровенной мечтой любого генерала является полностью автономная машина вроде терминатора, которая давит черепушки вероятного противника без какого-либо участия человека. И она уже существует.

image

Беспилотный военный автомобиль Guardium
Источник фото: commons.wikimedia.org

Израильская "Гарпия" может охотиться на заданную цель в радиусе 500 километров от командного центра. Она сама отыскивает вражеские радары, выбирает объект, и принимает решение об атаке.

Использовать автономных дронов в военных конфликтах — это удобно: кожаным ублюдкам нужно лишь нажать кнопку и ждать результата. В 2013 году беспилотник самостоятельно приземлился на палубу авианосца, получив от оператора лишь команду на приземление. Ну а во-вторых, даже если связь с командованием прервется, робот все равно продолжит выполнение боевой задачи. Однако использование автономных машин связано с несколькими сложностями: действовать по инструкции не всегда означает действовать правильно. В начале 80-х подполковник Станислав Петров спас мир в самом прямом смысле этого слова. В ночь на 26 сентября 1983 года Петров получил сигнал о старте американских баллистических ракет от новой системы "Око". По инструкции полковник был обязан незамедлительно доложить руководству. Однако, немного выждав и получив сведения о том, что наземные радары не зафиксировали никаких ракет, он сообщил начальству, что "Око" неисправно. И оказался прав: за старты ракет оптическая система приняла отражение солнечного света от полярных льдов. На месте полковника искусственный интеллект не стал бы сомневаться, учитывать контекст и запрашивать дополнительные данные, а действовал бы строго по инструкции, сразу доложив руководству страны. А принимая во внимание то, что инцидент произошел аккурат после катастрофы южнокорейского боинга над Сахалином и советские генералы находились в напряжении, вполне возможно, что человечество увидело бы красивое пиротехническое шоу. Последнее в своей истории.

image

Беспилотник X-47B на палубе авианосца
Источник фото: пресс-служба минобороны США

Смогут ли роботы в будущем действовать исходя из ситуации — вопрос на данный момент открытый. Не говоря уже о проблеме этичности использования автономных дронов. Конечно, лидеры прогрессивного человечества могут заявить, что дроиды будут придерживаться международного права о военных действиях. Однако это совсем не означает, что эти громкие слова будут претворены в жизнь. Умные роботы — и без того дорогое удовольствие. Большинству из них будет достаточно "специального ИИ", нацеленного на выполнение конкретной задачи. Внедрение же общего ИИ, который позволит электронным мозгам думать подобно человеческим, то есть иметь представления о морали, мыслить и действовать по ситуации (точно так же, как и среднестатистический человек), просто нецелесообразно. Во-первых, это сделает дрон еще дороже. А во-вторых, генералам нужны выполняющие боевую задачу машины, а не механические философы, рассуждающие на поле боя о нравственности и морали.

Иллюзия контроля

Конечно, человек может оставить последнее слово за собой. Однако и это не решит всех проблем. Контроль за разумными машинами, как и самостоятельность в принятии решения, может оказаться лишь иллюзией — просто потому, что мы слишком доверимся цифровым мозгам, даже не подумав подвергнуть сомнению их выводы. Однако даже самая совершенная система не застрахована от ошибок. Во время второй иракской кампании полуавтоматические ЗРК Patriot дважды сбивали союзные самолеты, приняв их за вражеские ракеты. При этом решение о пуске принимал человек. А и инциденты с автопилотом Tesla или беспилотными такси от Uber, которые попадали в аварии со смертельным исходом, только доказывают иллюзорность контроля.

image

Российский танк-робот "Уран-9"
Фото: Dmitriy Fomin, flickr.com

И если солдат хотя бы гипотетически может ослушаться преступного приказа, то у машины не будет такой возможности: она просто не запрограммирована на неповиновение.

Робот не сможет проанализировать последствия своих действий: приказ о зачистке деревни с мирными жителями будет для него просто задачей, которую нужно выполнить.

Да и отдавать такие приказы станет гораздо легче. Дополненная реальность и разумные машины на поле боя, чьи "поводья" держат операторы в кондиционируемых бункерах на другом конце Земли, приведут к тому, что опасения сотрудников Microsoft станут явью. Кровавое действо под названием "война" превратится в веселое виртуальное развлечение, к которому миллениалы, благодаря видеоиграм, приучены с детства.

Как показывает литература, промыть мозги одному биороботу, чтобы он убивал других таких же из-за цветастых тряпок, другого цвета кожи или воображаемого друга, — никогда не было проблемой. Технологии же сделают этот процесс еще проще. Ведь убивать совсем несложно, когда ты потягиваешь диетическую колу в удобном кресле перед экраном монитора, кликая мышкой, а не лежишь в пустыне в ошметках чьих-то мозгов и дерьма и нажимаешь на курок. Когда перед тобой лишь горстка пикселей, легче поверить, что это не живой человек, а "мягкая мишень противника". Мы не утратим человечность и не превратимся в бесчувственных убийц, как вопят некоторые моралисты. Хладнокровно резать глотки, а потом идти обедать удавалось и без всяких технических новшеств. Мы, как и машины, просто перестанем понимать последствия своих действий. И осознаем их, только когда будет уже слишком поздно.

популярное

умеем отправлять интересные дайджесты на почту раз в неделю

введите чей-нибудь мэйл

Сайт использует IP адреса, cookie и данные геолокации Пользователей сайта, условия использования содержатся в Политике по защите персональных данных.

© 2019 This Is Media

Издание «ThisIsMedia» зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций ( Роскомнадзор ) 20.07.2017 за номером ЭЛ №ФС77-70378
Учредитель: ООО "ОрденФеликса"

Для лиц старше 18 лет