Ілюстративний фотоколаж: Суспільне
Новий рівень української залученості в світову безпеку
Пане Володимире, український уряд оголосив, що запускає Defense AI Center "A1" і відкриття доступу до бойових даних для партнерів.
Які стратегічні цілі стоять за цим кроком і що це означає для розвитку штучного інтелекту під час російсько-української війни?
Для нас важливо зрозуміти, що без даних штучний інтелект не може розвиватися. Зараз, до цього рішення, дуже обмежена кількість компаній мала доступ до даних, які накопичила Україна. І у нас є приблизно 4-5 гравців, які розробляють рішення для того, щоб робити системи донаведення, і є справді обмежене коло людей, які мали доступ до цих даних.
Зараз ми переходимо в новий етап, коли у нас є партнери, які мають великий запит на те, щоб співпрацювати з Україною. І після ситуації на Близькому Сході вони розуміють, що Україна має найбільшу експертизу у світі, як це застосовувати. В Україні найбільша кількість якісних даних, які можна відправити до моделей навчатися, розпізнавати об'єкти і ухвалювати рішення. Ніхто інший, крім нас, у світі не має такого. Можна було б сказати, що наш супротивник це має, але вони (росіяни — ред.) не так використовують ці дані. У них дуже корупційно-монополістична вся система, і вони не змогли якісно побудувати процес диверсифікованого навчання різними гравцями на ринку. Тож стратегічно для нас це рішення допомагає залучити партнерів в спільну роботу з Україною. Ці дані не будуть публічними, це не те, що можна буде звертатися до них по IP-ключу. Це буде, звичайно, зашифровано, під державним регулюванням, але це дасть можливість нашим партнерам більше співпрацювати в Україні для того, щоб вчити свої моделі і робити тепер їх спільними. І це новий рівень української залученості в світову безпеку.
Чи не створює відкриття даних ризики витоку інформації, зокрема для росіян або для інших наших ворогів? Хто в перспективі контролюватиме ці дані? Який захист?
Ці дані будуть повністю під контролем Міністерства оборони України. Доступ до них не буде публічним настільки, щоб вони могли кудись витекти. Так само, як з експортом зброї, уряд буде погоджувати кому можна надавати ці дані, кому не можна. Вони будуть проходити перевірки і це достатньо безпечний механізм, з яким можливо працювати, тож дуже сумнівно, що це потрапить до росіян чи до інших гравців. Є довіра до того, що уряд може перевірити, кому він буде надавати ці дані. Це не до кінця публічна інформація буде.
"Ми зараз в світі починаємо виглядати справді як експерти"
Але чи можуть гарантувати партнери, яким ми будемо передавати дані, що у них не буде витоку?
Я думаю, в сучасному світі головна цінність, яку може створити для нас це рішення, це прискорення циклу інновацій. Війна рухається поступово, ми нарощуємо засоби для захисту, противник нарощує засоби для нападу. І для нас критично важливо прискорити цей цикл. І залученість іноземних партнерів може викликати певний занепокоєння, ризик, що партнери можуть кудись передати. Я сподіваюся, що цього не відбудеться. Але критично важливо для нас тут і зараз — прискорити процес циклу інновацій. І тому ризик є, у кожного рішення є ризики, але потенційні вигоди, які ми можемо отримати як країна, як дроновий кластер, кластер мілітарних інновацій в світі, значно більші, ніж той ризик, який зараз є.
Наскільки такі ініціативи зміцнюють союзництво і чи не підвищують ризик втрати нашого технологічного суверенітету?
Це завжди було дискусійне питання, чи відкривати доступ до даних чи ні. Але ключовим поворотом, чому ми ухвалюємо це рішення, як мені зараз здається, стала ситуація, яка сталася з Близьким Сходом. Ми зараз в світі починаємо виглядати справді як експерти, які можуть надати ці рішення, які мають розуміння, як працювати з такими даними.
На цьому тижні перша українська мілітарна компанія вийшла на IPO на американських ринках. Це компанія Sformer, вона починала торгуватися з оцінкою в 5 доларів за акцію, а зараз вона коштує більше 36 доларів за акцію. Тобто вона виросла за тиждень більше ніж в 7 разів. Це показує те, що є запит у наших партнерів, у західного капіталу, на те, щоб допомагати розвивати українську мілітарку. І є довіра до того, що зараз робимо, ми тож якщо капітал оцінює, що українська мілітарка розвивається, партнери по політичному блоку це оцінюють, думаю, ми маємо це використати для того, щоби зайняти своє справедливе місце в європейській та світовій безпеці.
“Ключове рішення завжди буде за людиною"
Пане Володимире, якщо ключова революція це скорочення часу між виявленням цілі та ударом і пришвидшенням циклу обробки даних та ухвалення рішень, то чи не стає людина, можна сказати, безініціативною ланкою, яка навіть не встигає осмислити рішення штучного інтелекту, але підтверджує їх?
Ключове рішення завжди буде за людиною. Якась конкретна людина оголошує те, що починається війна. Якась конкретна людина вирішує, що треба нападати тут, а не тут. Якась конкретна людина завжди ухвалює це рішення. Кожну технологічну революцію ускладнюємо засоби, якими ми це робимо. Але ця технологічна революція не сильно відрізняється від іншої. Якщо раніше люди могли сказати, ну це ж я конкретно стою з мечем, б'юсь проти іншого з мечем, і це моє рішення, а зараз стріляє гармата, і вона ніби сама це робить, я знімаю з себе трохи відповідальність. Ні, відповідальність завжди залишається на людині, яка ухвалює рішення про постріл, про початок війни чи про будь-що інше погане. Тож відповідальність залишиться на людині.
Те, що це прискорюється з допомогою штучного інтелекту, — це потреба війни, і ми не можемо не грати в цю конкуренцію, тому що якщо ми не будемо грати, ми в ній програємо. Але відповідальність залишиться на людині, щоб там далі не відбувалося.
А чи є вже випадки, коли військові довіряють штучному інтелекту більше, ніж, можливо, навіть власному досвіду?
Є класичне застосування штучного інтелекту, про яке ми говоримо в медіа, а є реальне застосування, як в нашому реальному житті. Наприклад, є частина про розвідку, коли Україна робить перехоплення якихось повідомлень з боку противника, і люди сидять вислуховують ці розмови, перехоплення, щось собі нотують потім відправляються інші люди, які мають більше нотаток. Це все піддається аналізу і потім приймається якесь рішення. Зараз для того, щоб проаналізувати чиюсь розмову, застосовується штучний інтелект. Для цих всіх перехоплень, в яких дуже багато розрізненої інформації, застосовується штучний інтелект, який допомагає приймати рішення, аналізувати дії противника і взагалі розуміти, що відбувається з того боку лінії розмежування.
З мого спілкування з військовими, різні бригади, різні корпуси під себе будують різні рішення свої, але в деяких корпусах вони довіряють цьому більше, ніж коли люди самі мануально сидять і слухають. Тому що це дуже складна робота, де треба бути дуже уважним, люди втомлюються і штучний інтелект це може зробити якісніше і без втоми. Тож існують такі застосування. Держава стимулює до того, щоб військові застосовували різні елементи інтелектуальних систем. Тож є державні стимули до розвитку цього, є запити і стимули від самих військових.
"Можливо, світ зайде в нову хвилю миру"
Пане Володимире, а чи може дистанційна і напівавтономна війна робити бойові дії психологічно легшими? Де проходить межа між допомогою штучного інтелекту і делегуванням права на вбивство машині?
Це дуже хороше питання, тому що це моральна дискусія. Зараз, наприклад, я перебуваю в Києві, і я зовсім інакше відчуваю війну, ніж коли я нещодавно їздив в Харків. А люди, які перебувають прямо на лінії бойового зіткнення, зовсім по-іншому відчувають. І коли ми переносимо війну в таку реальність, схожу на комп'ютерну гру, коли хтось відправив дистанційно туди дрони, ніби перестає бути відчуття цієї моральності, яка є застінками взагалі психології війни. Чи це погано? Напевно, ні, тому що війна приносить дуже багато травм і страждань, і якщо ми можемо зменшити кількість страждання, яке породжує лихо, напевно, це добре. Чи це буде стимулювати в майбутньому країни легше йти на війну? Можливо, так, в майбутньому людям буде легше прийняти рішення про розв'язання війни. Але і не люди будуть помирати, і ми будемо жити зовсім в іншому світі, в якому, можливо, AI буде рахувати, окей, тут, що у цього супротивника більше переваги військової, ми на нього не будемо нападати. Можливо, весь світ з цією новою хвилею зайде в нову хвилю миру, яку принесла ядерна зброя. Ядерна зброя – це була жахлива сильна зброя, яка зупиняла людей перед початком війни. Можливо, штучний інтелект, який буде аналізувати всі дані, які йому доступні, про бойовий стан, підготовку, наявність зброї, засобів буде так само казати, що окей, немає сенсу починати війну, давайте далі жити в мирі. Це моє сподівання на те, як штучний інтелект повпливає на війну, але це трохи рожевих окулярів.
"Ми завжди про це думаємо – щоб нас не зламали"
А чи готові українські військові до сценарію кібератаки ворога, зовнішнього втручання або переналаштування штучного інтелекту проти наших військових? І взагалі чи можливо таке, щоб от хтось втрутився і переналаштував таким чином наші технології?
У нас війна йде в усіх можливих доменах, в яких вона може йти. Кібератаки відбуваються постійно, ледь не щоденно, й українська інфраструктура, українські сервери, сервіси піддаються нападам з боку Російської Федерації.
Тож цей домен війни вже відкритий, він відбувається багато, ми періодично робимо якісь речі, вони нас атакують. Тож це відкритий домен і люди, які розробляють системи, завжди про це думають, хто віддає останній голос, як система ідентифікує, чи це від правильного користувача наданий сигнал. Тож цей домен, убезпечення того, щоб його не зламали, в військових технологіях стоїть на першому місці. З того досвіду розробки, який в мене був, ми завжди про це думаємо, що зробити так, щоб нас не зламали. Тому що це постійна війна, це не теоретично, чи буде кібератака, чи не буде. Вона відбувається постійно, це один з доменів сучасної війни, про який менше говорять, ніж про класичні методи.
"На полі бою точно буде ставати менше людей"
А які прогнози? Як може найближчим часом змінитися фронт? Що нового може з'явитися? Я маю на увазі не тільки українську армію, можливо є інформація про те, чого можна очікувати від росіян, в який бік вони розвивають технології штучного інтелекту?
Останнє повідомлення, що я бачив, говорило про те, що вони починають застосовувати маленькі, але рої дронів. Для розуміння, це застосування штучного інтелекту для того, щоб координувати різні засоби одночасно. І ми можемо уявити, як замість одного FPV летить 3, 4, 5, і вони один від одного підсилюються, дивляться на цілі і добивають. Це виглядає так, що найближчим часом буде те, куди буде рухатися війна, в те, що справді у нас тепер достатньо даних для того, щоб навчити моделі керувати роями дронів, буде застосовуватися ця технологія.
На полі бою точно буде ставати менше людей. У нас є дуже хороший з нашого боку розвиток напрямку НРК (наземних роботизованих комплексів — ред.). Наскільки мені відомо, ми вже сотнями тонн привозимо НРК-засоби на передній край. Є бойові НРК, які допомагають утримувати позиції. І виглядає так, що на самому передку буде трошки менше людей. Без людей не обійтись, не всі задачі можна виконати навіть з допомогою гуманоїдних роботів. Люди будуть залишатися, їх буде ставати трошки менше, можливо 20-30% можна буде вивільнити ресурсу і замінити їх роботизованими комплексами і автоматизованими БПЛА-системами.
"Ми стаємо ключовим військовим кластером в світі"
Пане Володимире, в такому випадку чи можна вважати, що нині Україна перетворюється на полігон для тестування військових технологій глобальними компаніями? Наскільки це етично по відношенню до українських військовослужбовців?
Ті технології, які зараз тестуються, тестуються не просто глобальними компаніями, а компаніями наших партнерів, які допомагають нам в цій війні. І вони тестуються для того, щоб захистити українського військового, для того, щоб перевірити, чи ця технологія справді працює, і можливо в майбутньому уберегти, в принципі, мир в світі. Це мені здається етично, тому що наші партнери передають нам допомогу. Хтось перестав передавати допомогу, але передавав раніше. Тож це частина угоди, в якій ми живемо, коли ми допомагаємо, ми стаємо ключовим військовим кластером в світі. У нас нарощується власне виробництво, ми розробляємо власні технології. І, як показав сучасний світ, сила в партнерствах. В тих тестуваннях, які відбуваються зараз на полі бою, будуються партнерства, які відбуваються зараз на полі бою, будуються партнерства, які допоможуть з'єднати Україну, зробити ближчою до Європи, до інших наших партнерів. Тож, я думаю, це етично тестувати технології, які допомагають нам триматися на цій війні.
