Палмер Лакі: Штучний інтелект та нова ера ведення війни

Лакі наголошує, що використання алгоритмів підвищує точність ударів і мінімізує людські помилки під час конфліктів. Особливу увагу в його інтерв'ю для 60 Minutes Australia приділено стратегічному суперництву з Китаєм та важливості технологічного стримування для збереження миру в Тайвані та Австралії. 

Підприємець поділився своїм баченням майбутнього, де роботи замінять людей на смертельно небезпечних ділянках фронту, включаючи підземну війну. Він переконує, що його метою є не нажива на війні, а створення передових систем для запобігання глобальним катастрофам.

Anduril – це військово-промислове підприємство, що спеціалізується на виробництві автономної зброї з використанням штучного інтелекту. Тепер, коли інтелектуальний потенціал Палмера Лакі, який раніше працював у гігантській технологічній корпорації, використовується для розробки та виробництва оборонної продукції, він сподівається забезпечити Сполученим Штатам та їхнім союзникам військову перевагу у військових операціях.

Більшість зброї у США закуповують за схемою cost plus, за якої військові оплачують підряднику час і матеріали, а зверху додають фіксований відсоток прибутку. Проблема в тому, що ця схема винагороджує контракти, які тягнуться занадто довго і коштують занадто дорого. І не лише в довгостроковій перспективі, а вже на ранніх етапах, коли ще тільки вирішують, що саме будувати. 

Навіщо компанії пропонувати рішення за мільйон доларів, якщо вона може запропонувати за сто мільйонів? Навіщо їй вкладатися в те, щоб здешевити свою систему озброєння вдвічі, якщо це так само вдвічі зменшить її прибуток? Це не означає, що люди зранку прокидаються з думкою "сьогодні обдурю американського платника податків". Річ – у стимулах. Той, хто без потреби проганяє десять зайвих тестів, бо вважає це правильним, заробить на своїх програмах більше, ніж той, хто придумає, як провести ті самі тести значно швидше. Помножте такі дрібниці на тисячу – і ось звідки беруться програми озброєнь вартістю в трильйон доларів, які на десятиліття вибилися з графіка і значно перевищили бюджет. 

Бізнес-модель компанії Anduril кардинально відрізняється від підходів традиційних оборонних підрядників і будується на принципах комерційного технологічного сектору. Anduril діє як продуктова компанія, а не класичний підрядник. Вона розробляє системи за власні кошти, сама вирішує, що і як будувати, а вже готові продукти продає уряду. Це змушує компанію працювати максимально ефективно, щоб не витрачати гроші даремно.

У традиційній моделі уряд (і платники податків) бере на себе всі фінансові ризики розробки та виробництва. Якщо проект затягується чи стає дорожчим, платить держава. Anduril бере ризики на себе. Вони роблять фінансові ставки та інвестують у розробку технологій чи навіть будівництво заводів ще до того, як отримають офіційні контракти. Це дозволяє компанії приходити до військових замовників із уже готовими прототипами чи виробничими потужностями, які можна запускати в роботу негайно.

Традиційні підрядники спочатку роками просять гроші на прототипи й лише потім думають про виробництво. Anduril розробляє та постачає техніку за лічені місяці чи роки. Наприклад, компанії знадобилося лише 550 днів від моменту підписання контракту з Повітряними силами США до першого польоту безпілотного винищувача Fury. 

Традиційні підрядники щоразу розробляють нові двигуни, актуатори та сенсори з нуля для кожної нової програми, щоб отримати від держави фінансування за розробку абсолютно кожної деталі.       Anduril використовує готові уніфіковані блоки (мотори, сенсори тощо), які вже були перевірені та випробувані в бойових умовах. Завдяки комбінуванню наявних компонентів компанія може створити, наприклад, нову ракету за мізерну частку вартості та часу порівняно з традиційним підходом.

Реінвестування в дослідження та розробку (R&D):
       Звичайні оборонні гіганти витрачають на внутрішні дослідження та розробки (IRAD) лише близько 1–2% свого доходу.
       Anduril реінвестує в R&D 100% своїх доходів, залишаючись на поточному етапі неприбутковою компанією, але забезпечуючи колосальний темп розвитку нових оборонних технологій.

"Anduril ми вважаємо не оборонним підрядником, а радше компанією, яка робить власні оборонні продукти. Ми своїм коштом вирішуємо, що будувати, як будувати і коли продукт готовий, а вже потім продаємо його уряду. Це не якась нова бізнес-модель. Вона видається новою лише тому, що ми застосовуємо її у військовій сфері", – каже Лакі.

Інтеграція штучного інтелекту дозволяє військовим системам чітко диференціювати об'єкти на полі бою. Наприклад, розумна протитранспортна міна здатна відрізнити ворожу бронетехніку від шкільного автобуса з дітьми, запобігаючи випадковій детонації.

У бойових умовах люди часто діють під впливом сильного стресу чи страху за власне життя, що призводить до поспішних і трагічних рішень. Автономні системи не мають страху смерті. Вони статистично роблять менше помилок і значно рідше випадково стріляють по хибних цілях, ніж люди.

Роботизовані системи здатні аналізувати гігантські масиви інформації одночасно (радіовипромінювання, тепловий слід, візуальний профіль) та звіряти їх із багатьох джерел. Лакі наводить приклад трагедій, коли люди збивали цивільні пасажирські літаки через неправильну інтерпретацію радарів. ШІ уникнув би такої помилки, миттєво зіставивши траєкторію польоту з відкритими публічними даними транспондерів.

Багато цивільних гине на підходах до військових баз, коли солдати на варті змушені робити split-second вибір між власною безпекою та стрільбою на ураження по невідомому автомобілю. Якщо охорону здійснюватиме робот, командування зможе дозволити собі ризикнути й почекати з відкриттям вогню, адже найгіршим результатом буде лише втрата дешевої машини, а не людського життя.

За помилки штучного інтелекту на полі бою завжди повинна відповідати конкретна людина. Пріоритет Палмера Лакі полягає в тому, що в жодному разі не можна дозволити автономним системам приймати рішення про життя та смерть, а потім просто розводити руками й казати: «Це робот зробив помилку, ніхто не винен». 

Вся відповідальність покладається на людину, яка прийняла рішення застосувати цю систему озброєння. Головне питання завжди полягатиме в тому, чи застосувала вона систему в належний спосіб і за правильних умов.