В то время как компания Palantir представила проект искусственного интеллекта, способного вести войну, все говорит о том, что нас ждет настоящая революция в этой области в ближайшие годы.
В прошлом месяце Palantir, компания бизнесмена Питера Тиля, сделала демонстрация того, что искусственный интеллект (ИИ) может очень скоро пойти на войну. ИИ, который мог бы обрабатывать в режиме реального времени данные, классифицированные как секретная защита или нет, но, прежде всего, уважать «этику» и «законность». Это демонстрация силы, которую сделал Тиль, предложив «платформу искусственного интеллекта Palantir», получившую название AIP.
Демонстрация на видео показывает, как военный оператор, отвечающий за наблюдение за театром военных действий в Восточной Европе, обнаруживает вражеские силы, сосредоточенные у границы. Затем человек просит ИИ помочь ему развернуть разведывательные дроны, но прежде всего тактические ответы на то, что воспринимается как агрессия со стороны противника. ИИ даже отвечает за организацию подавления коммуникаций противника, оценку возможностей противника и предложение адекватных ответных действий при обнаружении бронированного элемента.
Человек не в состоянии обрабатывать массу информации
Тем не менее, есть еще несколько проблем, которые необходимо решить, в частности, ложные цели. В 2019 году в журнале Défense nationale два специалиста в этой области, Иве Гани и Мохаммед Сижелмасси, задались вопросом, сможет ли теперь искусственный интеллект «рассеять туман войны» — выражение, придуманное прусским генералом Карлом фон Клаузевицем, который интересовала неопределенность окружающих сведений для участников боевых действий.
Еще четыре года назад в статье утверждалось, что «человек уже не в состоянии обрабатывать массу информации, генерируемой все более многочисленными и эффективными датчиками» и что «штабы, заваленные беспрецедентным объемом оцифрованной информации, уже не в состоянии обрабатывать играют роль объединителей информации». Достаточно сказать, что уже ожидалось, что искусственный интеллект станет мессией, которому суждено «помочь анализировать, использовать, контролировать и защищать этот невероятный объем данных».
Иве Гани и Мохаммед Сиджельмасси, указав на озабоченность людей, которые боялись стать «подданными ИИ, которые будут сражаться вместо нас», затем подтвердили, что ключевым словом будет сотрудничество между человеком и ИИ. «Вместо того, чтобы представлять себе всемогущий ИИ, который действовал бы вместо людей, мы должны представить ИИ как союзника, который может способствовать увеличению человеческих возможностей, ускорять и облегчать принятие решений».
Человек «в теме», но надолго ли?
Более того, для Palantir речь пойдет о том, чтобы оставить «человека в курсе», чтобы избежать переполнения. Но как долго? ИИ «обучается» тому, что называется «машинным обучением». Метод обучения, который позволяет ИИ интегрировать знания, а также этический выбор и ценности. Этот философский аспект устоялся, понятно, что ИИ обязательно будет вести современную войну самостоятельно.
Потому что война за десятилетия стала более сложной, а ИИ позволяет «использовать более существенные данные (совместные, объединенные, дипломатические, промышленные)», — пишут два эксперта. Таким образом, современные технологии позволяют «удовлетворить тактические потребности в скорости и точности». ИИ также будет играть роль в отчетности и отслеживании операционных возможностей.
Появление ИИ, как только этические и юридические нормы будут интегрированы, также означает начало войны, которая отойдет от человеческих соображений. «С человеком-оператором теоретически всегда существует возможность того, что человек может проявлять сострадание, эмпатию и человеческое суждение, тогда как система, обученная на основе данных и предварительно запрограммированная на что-то, не имеет такой возможности», — резюмирует Анна Надибаидзе. , Центр военных исследований в Дании.
«Страна, которая лидирует в области ИИ, будет доминировать в мире»
Но эксперт предупреждает: если страны или частные компании сейчас разрабатывают ИИ, чтобы он мог пойти на войну, эти технологические достижения должны сопровождаться регламентами. Организация Объединенных Наций начала размышлять над этим вопросом, но никакого прогресса достигнуто не было. «Когда возникает необходимость регулирования оружия с высоким технологическим уровнем, — указывает Паола Гаэта, профессор международного права IHEID в Швейцарии, — государства, владеющие этой технологией, не заинтересованы в этом. С другой стороны, государствам легче найти заинтересованность в регулировании оружия беднейших слоев населения, такого как противопехотные мины».
За этим сообщением стоит повод для беспокойства по поводу обострения раскола между Севером и Югом. Президент России Владимир Путин шесть лет назад предупредил, что «страна, которая станет лидером в области искусственного интеллекта, будет доминировать в мире». Возможно, он еще не представлял себе, что искусственный интеллект вскоре сможет вести войну вместо людей. Мы знаем, что войны со временем становятся все более и более сложными. Но на этот раз технология вполне могла учесть эту эволюцию. «Возможно разработать еще более умное оружие, то есть оружие, которое может самообучаться в окружающей среде, чтобы принимать решения, которые не контролируются и не запрограммированы людьми», — уверяет Паола Гаэта. Настоящая революция в области войны.