Новости о внедрении искусственного интеллекта в последнее время приходят все чаще. Возможности его использования безграничны как в быту, так и в военной сфере. Управление системами без участия человека кардинально изменит ситуацию на поле боя в случае войны. И поэтому конкуренция между странами обостряется. Гонка обещает быть захватывающей. Илья Плеханов - о том, как Россия, США и Китай развивают технологии будущего и какие у стран шансы выиграть битву за интеллект.
Что может ИИ
Буквально на днях Воздушно-космические силы России впервые испытали автоматизированную систему управления средствами противовоздушной обороны с элементами искусственного интеллекта. Новая система позволяет интегрировать работу комплексов С-300 и С-400, зенитных ракетно-пушечных комплексов "Панцирь" и радиолокационных станций. Система сама анализирует воздушную обстановку и выдает рекомендации на применение тех или иных вооружений, что позволяет средствам ПВО реагировать быстрее на угрозы в режиме реального времени.
В начале года аналитический ресурс MarketForecast.com опубликовал прогноз, согласно которому мировой рынок военной робототехники и искусственного интеллекта к 2027 году достигнет $61 миллиарда. В 2018 году он оценивается в $39,2 миллиарда. За 9 лет страны потратят на развитие этих технологий в оборонке $487 миллиардов. Рост рынка будет обусловлен большими инвестициями со стороны США, Китая, России и Израиля в технологии нового поколения, а также масштабными закупками Индии, Саудовской Аравии, Южной Кореи и Японии. Большая часть рынка придется на военных роботов, на компьютерное зрение, обработку естественного языка, распознавание речи и анализ социальных сетей.
Один из роботов американской компании Boston Dynamics Spot mini
Индустрия искусственного интеллекта (ИИ) и машинного обучения сегодня стремительно растет. Искусственный интеллект дает три главных преимущества военным: работу с большим объемом данных, скорость обработки и автономность действий.
Проще говоря, искусственный интеллект позволит быстрее и точнее определять цели без участия человека, выдавать варианты и сценарии действий, гибко реагировать на изменяющуюся ситуацию в режиме реального времени и, если это допускает человек, самому принимать решение. Это если говорить о непосредственном ведении боевых действий.
Другие сферы военного применения – это взлом шифров противника, использование ИИ в военной промышленности, мониторинг психического и физического состояния военнослужащих и, что важно в стратегическом плане, прогнозирование.
Сегодня решение о ликвидации целей принимает человек, но на горизонте уже создание систем, которые будут вести боевые действия автономно. На поле боя будущего будет побеждать та система, которая принимает решения быстрее. Человек становится слабым и медленным звеном в цепочке командования — соответственно, у противника всегда будет искушение создать полностью автономную систему.
Патрик Такер, один из авторов ресурса Defense One, и профессор Денверского университета Хизер Рофф отмечают, что ИИ-системы сегодня используются, чтобы полностью исключить человека из принятия решений.
Амир Хусейн, основатель и главный исполнительный директор SparkCognition, одной из ведущих компаний США по разработке искусственного интеллекта, считает тех, кто говорит о необходимости сохранить человека в цепочке принятия решений или полуавтоматических системах, "мягкотелыми" людьми, которые даже не понимают, что происходит. Сама суть автономности — это исключение человека из цепочки, когда решение надо принимать за кратчайшее время и у системы нет этого запаса долей секунд, чтобы советоваться с человеком, уничтожать, например, стремительно приближающуюся угрозу или нет. На поле боя выиграет тот, кто быстрее примет решение. Здесь нет равных машинам. Хусейн считает, что не надо концентрироваться на ограничениях действий автономных систем человеком, а необходимо уже изначально программировать "моральные опции" в искусственный интеллект. Более того, если вдруг одна часть военной системы, один робот начинает принимать неэтичные решения из-за ошибки в программном обеспечении или из-за хакеров, то другая часть системы должна быть способна выключить или уничтожить "плохого" робота.
Хусейн уверен, что военные системы будущего на основе ИИ будут более точными, чем сегодня. Это будут рои "умных пуль", которые будут убивать врага с фантастической точностью. С другой стороны, в небе и на море человек будет определять "сектора смерти", в которых, по его мнению, нет гражданских лиц, и уже внутри сектора давать полную автономию на поражение и свободу действий военным системам. Большие данные и прогресс в распознании объектов машинами позволят им выполнять задачи эффективно и с минимальным количеством ошибок.
По данным Пола Скарра, директора программы исследований войн будущего вашингтонского Центра новой американской безопасности, уже около 30 стран имеют на вооружении оборонительные автономные системы, которые пока еще работают под наблюдением человека. Сегодня в мире наблюдается гонка за создание наступательного автономного вооружения. Военных подталкивает развитие беспилотных автомобилей, машинного зрения и повышение точности в распознавании изображений нейронными сетями.
Эксперт, говоря о применении искусственного интеллекта на войне, активно использует термин "бойцы-кентавры" - на поле боя будущего вместе будут работать и человеческий, и искусственный интеллект. По мнению Скарра, необходимо перестать думать только в рамках дилеммы "или люди, или роботы" и стараться найти применение технологиям, когда человек и искусственный интеллект работают вместе. Наглядный пример — это испытания работы американских вертолетов "Апач" и беспилотников, когда пилоты вертолета вместе с компьютером контролируют полуавтономную деятельность дронов.
Один из самых очевидных способов использования искусственного интеллекта в будущем — это управление роями дронов. При выбранном алгоритме рои дронов из сотен или тысяч единиц могут обезвредить или парализовать работу даже танков или самолетов. Подводные и надводные дроны смогут помешать подводным лодкам и кораблям.
Особый интерес сегодня вызывают даже не автономные боевые действия собственных ИИ-систем, а так называемый концепт "контравтономности", когда подвергнувшаяся нападению ИИ-система противника учится, делает выводы из случившегося и сама выбирает способы противодействия. То есть каждая атака нападающего автоматически делает его врага все более опасным, если не уничтожает сразу.
Любопытно, что автономные ИИ-системы, возможно, будут внедряться на флоте быстрее, чем в воздушных силах. Тем же ВВС США приходится сегодня напоминать и оправдываться, что удары с беспилотников производят операторы, а не сами машины, и операторы иногда ошибаются. Из-за этих реальных ударов, ошибок и жертв среди мирного населения тема дронов в ВВС постоянно муссируется в СМИ. Флот же без лишней шумихи и внимания общественности — по крайней мере пока — может спокойно сосредоточиться на создании своих систем.
Автоматизация киберопераций и ведения пропаганды и контрпропаганды в сети – тоже перспективная тема, когда искусственный интеллект подбирает нужную информационную тактику работы в тех же социальных сетях. В США, например, пытаются создать программное обеспечение, которое может определять ботов, занимающихся дезинформацией, выявлять антиамериканские информационные кампании в социальных сетях и оценивать их эффективность.
Искусственный интеллект также обещает не только "умное управление", но и ту скорость, для которой необходимы вычислительные мощности. Надежда военных – это появление квантовых компьютеров, которые обеспечат работу ИИ.
Первые и самые очевидные последствия создания одной из стран действительно работающего квантового компьютера — это почти мгновенный взлом военных и инфраструктурных систем шифрования вероятного противника, что в случае военного конфликта дает огромное преимущество.
Более того, по мнению американских аналитиков другие страны уже сейчас активно воруют зашифрованные данные у США. Они пока просто хранят их, ничего с ними не делая, так как ожидают, что где-то через 10 лет квантовый компьютер будет создан — и вот тогда-то они получат доступ к секретной американской информации.
Скорость вычисления и обработки данных позволит значительно усовершенствовать работу беспилотных и роботизированных военных автономных машин, на которые и будет возложена миссия непосредственного ведения боевых действий в уже обозримом будущем. Упрощенно говоря, военные роботы страны, первой создавшей квантовый компьютер, будут принимать решения быстрее, действовать точнее, "работать" по большему числу целей, лучше "видеть" все поле боя и просчитывать "ходы" дальше, чем роботы противника.
Квантовые компьютеры и ИИ могут быть использованы в проектировании новых видов оружия, новых материалов, новых конструкций и даже в разработке новых стратегий ведения войны.
В Белом доме в США заявляли, что превосходство Вашингтона в вычислительных технологиях находится "под осадой" и надо инвестировать больше в квантовые технологии. Если Китаю удастся стать лидером "квантовой революции", то кардинально изменится геополитическая и военная картина мира.
США
Роберт (Боб) Уорк — бывший заместитель министра обороны США и один из главных в Пентагоне стратегов ведения войны в будущем.
Его конек — это внедрение искусственного интеллекта и роботизированных систем в вооруженные силы, разработка стратегии войны в космосе и ведения комбинированного боя (на суше, море, в воздухе, космосе, киберпространстве и электромагнитном спектре) в условиях "системы ограничения доступа". Разработка масштабной стратегии "Третьего противовеса" (Third Offset Strategy), призванной обеспечить военно-технологическое преимущество США перед Россией и Китаем, — это тоже детище Уорка. В 2014 году Боб Уорк опубликовал написанную в соавторстве монографию "20YY: подготовка к войне в эпоху роботов", которая стала настольной книгой аналитиков войны будущего.
В апреле 2017 года на крупнейшей базе Корпуса морской пехоты США Западного побережья Кэмп-Пендлтон прошли первые в истории учения S2ME2 ANTX, на которых были протестированы около 50 новых военных технологий. В том числе и беспилотные наземные роботизированные платформы, ведущие огонь по противнику, автоматически доставляющие боеприпасы и отвечающие за материальное обеспечение десантирования морпехов.
Учения S2ME2 ANTX
26 апреля прошлого года Боб Уорк создал специальное подразделение по ведению "алгоритмических боевых действий" (Project Maven), которое должно ускорить внедрение искусственного интеллекта и машинного обучения в вооруженных силах.
Уорк торопится. По его мнению, тем же самым занимаются вероятные противники (Россия и Китай) и союзный Израиль, действия которого могут привести к дестабилизации всего Ближнего Востока. Сегодня в мире, по оценкам американского онлайн-издания Defense One, существует 284 военные системы, которые в той или иной мере уже включают в себя искусственный интеллект. И нет гарантий, что США в этой новой гонке победят.
Первая задача нового подразделения Пентагона (Project Maven) — это использование ИИ для анализа данных и видеоизображений, получаемых в Сирии и Ираке. Сегодня до 95% всех данных, поступающих в аналитические военные центры США c беспилотников, идут именно из этих двух стран. Люди в прямом смысле слова не справляются с обработкой и анализом таких огромных массивов информации. До 80% их рабочего времени занимает просто просмотр кадров. Основные разработки сегодня ведутся в области создания систем, которые бы автономно определяли противника, сверяясь с "библиотекой целей".
Искусственный интеллект в теории должен помочь им определять объекты, выявлять ненормальные последовательности действий на земле и т.п. Он не будет определять цели для уничтожения, но поможет сделать это людям.
Весной прошлого года прошли две интересных конференции по применению искусственного интеллекта в будущих боевых действиях. Одна из них была посвящена ускорению процессов симбиоза человека и машины в рамках военной стратегии "Третьего противовеса", а на второй Исследовательская лаборатории армии США представила доклад, в котором рассказывается, что в обучающиеся нейронные сети загружают данные об активности мозга человека, когда он определяет цель и решает навести на нее оружие. В идеале изучение сигналов мозга лучших солдат, делающих свою работу в критических ситуациях, позволит в итоге постоянно обучающемуся искусственному интеллекту самому в режиме реального времени определять цели без участия человека.
В ВВС США хотели бы видеть связку военно-воздушных сил, космических войск и кибервойск, работающих как единое целое при помощи искусственного интеллекта. Пилот самолета и командование не должны будут в 2030 году отвлекаться на анализ информации. На электронные карты и дисплеи автоматически выводится вся информация от всех родов войск по ситуации на поле боя и целям. Цели находятся автоматически, аппаратура сама противодействует средствам радиоэлектронной борьбы, сама восстанавливает подавленные каналы связи и ищет альтернативы и так далее. Особое внимание будет уделяться скорости и безопасности передачи информации. По данным издания, компания Lockheed Martin уже работает над созданием такой системы и проводит учения с прототипом. Компания Raytheon создает прототип симулятора, на котором можно проигрывать тысячи сценариев совместной работы кибервойск, средств радиоэлектронной борьбы и непосредственного применения ракет и бомб авиацией.
Генерал-майор армии США Уильям Хикс, активно интересующийся искусственным интеллектом, роботами и отвечающий за разработку военных стратегий и планирование, также стоял у истоков разработки и внедрения компьютерной игры Operation Overmatch. Она призвана протестировать ведения боевых действий и применение новых военных технологий в будущем. В игру играют военные с реальным боевым опытом и смотрят, что они могут применять и как. Всего в игре уже участвует около тысячи человек, а в планах задействовать десятки тысяч солдат. Все клики мышки и удары по клавишам солдатами будут учтены и трансформированы в информацию, позволяющую после анализа ИИ лучше понимать действия людей на поле боя. Разработчики подчеркивают, что при отработке игровых сценариев в первую очередь речь идет о применении военных роботов в ходе боевых действий.
Есть и другие проекты.
В США разрабатывают портативное устройство CARACaS (Контрольная архитектура для робокоманд и воспринимания), которое может быть установлено практически на любой катер. С помощью устройств размером с ладонь в будущем практически любое существующее военное средство (катер, машина, самолет) можно будет дешево и быстро превращать в члена автоматизированного боя.
В ВВС США тем временем разрабатывается система ALPHA, которая за 6,5 миллисекунд снимает данные с датчиков, структурирует и анализирует информацию и способна выдать оптимальные сценарии действия для четырех самолетов.
Директор Управления перспективных исследовательских проектов Министерства обороны США DARPA доктор Арати Прабхакар в прошлом году рассказала о проекте по борьбе с программируемыми радарами России (упоминается "Небо-М") и Китая:
Одна из наших программ в DARPA использует совершенно новый подход к этой проблеме, которую мы собираемся разрешить с помощью когнитивного электронного вооружения. Мы используем искусственный интеллект для изучения действий вражеского радара в режиме реального времени, а затем создаем новый метод глушения сигнала. Весь процесс восприятия, изучения и адаптации повторяется без перерыва.
Пентагон в области работ по внедрению ИИ в отличие от других стран полагается на технологии частных компаний. Государственные инвестиции Пентагона в собственные разработки не превышают несколько сотен миллионов долларов. Многие современные успехи в вопросах развития и применения искусственного интеллекта в США опираются на исследования таких компаний, как Google, Microsoft, Intel, IBM, D-Wave и др. Поэтому основная забота Пентагона – это привлечение этих компаний в военные проекты, что не всегда находит отклик. Недавно сотрудники технологических компаний США высказались за отказ от сотрудничества с министерством обороны и оказания помощи в создании "роботов-убийц".
О внедрении искусственного интеллекта в сфере оказания помощи ветеранам также задумались в Министерстве по делам ветеранов и Министерстве энергетики США. Через Ирак и Афганистан прошло уже около трех миллионов военнослужащих США. По разным подсчетам, около 20 ветеранов в день сводят счеты с жизнью, а за помощью в лечении посттравматического синдрома обращаются менее 10% ветеранов, при этом 80% из обратившихся восстанавливают психическое здоровье. Сегодня для диагностики посттравматического синдрома и выбора методов лечения американцы используют суперкомпьютер IBM Watson. Ветераны, участвующие в проекте, предоставляют три раза в неделю свои рассказы о войне и жизни, а искусственный интеллект анализирует голос, содержание, изложение и выдает свои рекомендации по курсу лечения.
Буквально месяц назад в Сенате США предложили создать Комиссию национальной безопасности по вопросам искусственного интеллекта. Бюджет комиссии на 2019 году составит $10 миллионов. Члены комиссии будут следить за тем, чтобы США оставались глобальным лидером в сфере искусственного интеллекта, машинного обучения, квантовых вычислений. Другое направление деятельности — это оценка рисков для безопасности США, которые вытекают из развития военного искусственного интеллекта и его внедрения в вооруженные силы в Китае и России.
Китай
В 2015 году в Китае был создан специальный Комитет по науке, технологиям и индустриальному развитию национальной обороны, а в 2016 году Центральный военный комитет Китая создал еще одну Комиссию по науке и технологиям. Си Цзиньпин заявил, что военным следует уделять особое внимание развитию стратегических передовых технологий для вооруженных сил. В рамках пятилетнего плана (2016-2020) были обозначены и направления, на которых следовало сосредоточить усилия военному комплексу. Они включали в себя работу над космическими и авиационными двигателями, квантовыми технологиями, гиперзвуком, автоматизацией и робототехникой, нанотехнологиями, ИИ и космическими исследованиями.
В июле 2017 года Государственный совет КНР опубликовал подробную стратегию по превращению Китая к 2030 году в "лидера и глобальный центр инноваций в области искусственного интеллекта". Она включает в себя обещания инвестировать в исследования и разработки, которые "будут укреплять с помощью ИИ национальную оборону, обеспечивать и защищать национальную безопасность". В стратегии Пекина указывалось, что страна должна стать мировым лидером в области ИИ к 2030 году.
Эрик Шмидт, бывший председатель совета директоров материнской компании Google Alphabet заявил:
Поверьте мне, китайцы очень хороши в ИИ. И они будут использовать эту технологию как для коммерческих, так и для военных целей со всеми возможными последствиями. Все очень просто. К 2020 году они нас догонят, к 2025 году они будут лучше нас, а к 2030 году они будут доминировать в индустриях, связанных с искусственным интеллектом.
О реальных примерах применения Китаем искусственного интеллекта в военной сфере известно немного.
В декабре прошлого года на выставке в Шанхае китайцы представили самый быстрый в мире морской беспилотник "Тяньсинь-1". Судно предназначено для морского патрулирования и снабжено дистанционно управляемым боевым модулем. Этот модуль имеет также режим полной автономности, систему стабилизации для работы на воде и способен вести прицельную стрельбу на расстоянии в 1500 метров. Считается, что Китай (как и другие страны) работает над внедрением искусственного интеллекта в стрелковые модули подобного рода, которые бы позволяли им принимать решение об открытии огня в автономном режиме.
СМИ Китая со ссылкой на разработчиков также сообщали, что в военно-морских силах страны ведутся работы над внедрением искусственного интеллекта в системы управления ядерных подводных лодок. Пока у ВМС Китая нет планов сокращать экипаж ядерных подводных лодок, ИИ должен стать помощником в управлении и принятии решений, а не заменять человека. Чжу Мин, сотрудник Института акустики Академии наук Китая, отмечает, что тема искусственного интеллекта для подводных операций в последние несколько лет стала популярна в стране. Это связано с тем, что разрыв между теорией и реальными прикладными возможностями технологии постепенно сокращается. С другой стороны, Чжу Мин предупреждает, что недостаток контроля над искусственным интеллектом в области ядерных вооружений может выйти боком - никому не нужна "беглая" самообучающаяся автономная подводная лодка с ядерным оружием на борту, которая способна "уничтожить континент".
Джо Марино, глава одной из компаний, поставляющей продукцию для подводного флота США, заявил, что применение искусственного интеллекта на подводных лодках России и Китая может нести угрозу господству США на море, потому что вероятный противник будет принимать более точные информированные решения быстрее американцев. Марино пытается привлечь внимание военно-морского руководства США к необходимости изучения вопросов по применению искусственного интеллекта в подводной войне.
В прошлом году McKinsey Global Institute (MGI) предсказал, что в Китае до 50% труда может быть автоматизировано. Глобальный рынок применения ИИ оценивают в $127 млрд к 2025 году. В 2016-м году в ИИ влили $6 млрд венчурных инвестиций. Подсчитали, что внедрение ИИ в производства может увеличить рост китайского ВВП на 1,4% пунктов в год.
Пока американцы опережают всех, но многие считают, что Китай догоняет Штаты. В 2017 году китайцы подали на 641 патент в области искусственного интеллекта, а США — 130. В 2012 году американские ученые представили 41% статей для престижной Ассоциации по развитию искусственного интеллекта (Association for the Advancement of Artificial Intelligence, AAAI), а китайские — всего 10%. В 2017 году картина выглядела уже иначе: у американцев было 34%, у китайцев — уже 23%.
Главный тормоз развития для Китая в этой области — отсутствие специалистов. Только около 40% китайских специалистов в области искусственного интеллекта имеют соответствующий стаж работы свыше 10 лет, в то время как в США этот показатель превышает 70%. По этой причине одна из целей Пекина — это привлечение в страну зарубежных специалистов по робототехнике и искусственному интеллекту.
Россия
У России до недавнего времени не было четкой стратегии по военной робототехнике. Все изменилось в 2014 году, когда появилась программа вооружений до 2025 года с учетом использования беспилотных систем, была создана специальная комиссия при Минобороны по развитию военной и специальной робототехники. С 2016 года проходит ежегодная военно-научная конференция "Роботизация Вооруженных сил РФ". За последние три года было создано 10 крупных научно-исследовательских институтов и центров в Вооруженных силах России, как заявил глава Минобороны Сергей Шойгу.
Россия стремится стандартизировать производственную линейку, убрать дублирующие процессы и выбрать ряд базовых беспилотных платформ из множества предлагаемых. Правительственная Военно-промышленная комиссия поставила цель роботизировать 30% военной техники к 2025 году.
По мнению Сэма Бендетта, специалиста по российским вооруженным силам из Военно-морского аналитического центра, Россия уступает Китаю и США в области применения новых технологий, автоматизации и искусственного интеллекта, однако она расширяет свои вложения в эту сферу. В отличие от США, как отметил Бендетт, бюрократическая машина военно-промышленного комплекса России становится более эффективной и работает быстрее в сфере создания беспилотных систем, получает больше ресурсов и поощряет разработки.
Цель номер один для России в этой области, по мнению американцев, — создание своего ударного дрона дальнего радиуса действия. Еще одна задача — полностью уйти от зависимости от иностранных компонентов.
Зарубежные эксперты выделили два перспективных направления развития беспилотных систем в России. Первое — это использование искусственного интеллекта и роев дронов. Второе — это совмещение средств радиоэлектронной борьбы с беспилотными системами.
Российская технологическая отрасль относительно мала по сравнению с американской и с китайской, это уменьшает ее шансы в гонке. Однако в России сохраняется мощная академическая традиция в естественных и технических науках.
Сотрудник независимой аналитической организации "Центр новой американской безопасности" Грегори Аллен предполагает, что Россия, возможно, будет готова агрессивнее использовать ИИ и машинное обучение в разведывательных и пропагандистских кампаниях, чем ее противники. Автоматизация, по его мнению, может усилить потенциал хакерских операций и действий в социальных сетях.
Можно предположить, что в первую очередь сегодня искусственный интеллект внедряются в России в системы ПВО И ПРО, и они исключают человека из цепочки принятия решений из-за низкой скорости реакции человеческих операторов, в системы ведения огня наземными роботизированными платформами (чем занят и Китай) и в системы работы с информацией, поступаемой с беспилотников.
За и против
Плюсы наличия автономных военных ИИ-систем понятны. Они позволяют сохранить жизнь военнослужащим, сокращают потери среди мирного населения, а сам факт существования такой системы может служить инструментом предотвращения начала конфликта.
Риски же критики обычно сводят к пяти вопросам: кто контролирует ИИ-систему, можно ли ее хакнуть, кто принимает решение о нанесении удара, будет ли система ошибаться, кто понесет ответственность за ошибки.
Первый вопрос еще можно сформулировать так: не захватят ли военные роботы власть над человечеством? В обозримом будущем вероятность такого сценария ничтожно мала.
Хакнуть машину, которая в будущем сама конфигурирует свои алгоритмы, — маловероятно.
Нужен ли человек для финального решения? Там, где важна скорость, человек становится обузой. ИИ-система может быть вооружена нелетальным оружием, критерии применения оружия без команды человека могут быть строго прописаны.
Ошибки? Люди совершают гораздо больше ошибок. ИИ-система, возможно, совершит ошибку, а человек это сделает наверняка.
Главная опасность в том, что многочисленные ИИ-системы могут одновременно сделать одну и ту же ошибку. Например, запускающие праздничный фейерверк люди будут определены ИИ-системой как террористы. Но это уже вопрос тестирования и обучения системы до надлежащего уровня.
Кто будет виноват в случае ошибки? Производители военных ИИ-систем или командование операцией? Нужно ли разделить ответственность на финансовую (для компаний-производителей) и персональную (для военного руководства)? Это все обсуждается.
Высказывает свои опасения и американская аналитическая компания RAND Corporation, которая недавно опубликовала исследование, согласно которому искусственный интеллект сможет потенциально привести мир к ядерной войне к 2040 году. По мнению аналитиков, если вооруженные силы будут все больше полагаться на ИИ, то в случае ошибочной оценки ситуации система может принять неверное решение и запустить маховик обмена ядерными ударами.
Бывший главнокомандующий силами НАТО в Европе Джеймс Ставридис говорит об искусственном интеллекте так: "Бойтесь! Очень-очень бойтесь!". Ставридис предупреждает, что мир стремительно идет к самому важному в истории войн перелому, когда войну будет вести искусственный интеллект, а общество к этому просто не готово.
Когда-нибудь противостояние машин под управлением искусственного интеллекта в бою будет происходить быстрее, чем это будет осознавать человек.
