"Повністю віддавати машині ухвалення рішень — небезпечно". Військовий експерт про використання ШІ

"Повністю віддавати машині ухвалення рішень — небезпечно". Військовий експерт про використання ШІ

Використання штучного інтелекту на полі бою загалом доволі широке. Однак повністю віддавати машині ухвалення рішень – доволі небезпечно, вважає військовий експерт, засновник БО "Реактивна пошта" Павло Нарожний. У коментарі Українському Радіо він пояснив, що застосовувати ШІ у повітрі нині абсолютно реально. Адже такі перехоплювачі можуть легко відрізнити, наприклад, наш літак від "Шахеда". До того ж це автоматизує процес перехоплення цілей при масованих атаках. "Такі дрони-перехоплювачі в нас уже є на озброєнні, вони працюють і показують себе дуже ефективно", — констатує експерт. Допомагає ШІ також при аналізі великих масивів даних. Але коли йдеться про далекобійні удари чи ризик заподіяти шкоду цивільним, покладатися тільки на нього складно. "Тому не можна передавати штучному інтелекту це рішення, це щоразу має підтверджувати жива людина, щоб уникнути людських жертв", – наголосив Нарожний. 

0:00 0:00
10
1x

Ілюстративне фото: facebook/GeneralStaff.ua

"Не можна передавати штучному інтелекту це рішення"

Штучний інтелект на полі бою. Яким чином функціонує ця технологія при використанні дронів та наскільки вона ефективна на практиці? Водночас, за словами представників оборонної індустрії, в Україні зараз діє заборона на повністю автономне ураження цілей. Чому, які ризики це несе і чи можливо, що згодом ситуація зміниться? 

По-перше, тут мова йде про так зване доведення. Проблема в тому, що радіосигнал не завжди може дістати до потенційної цілі або поблизу цієї цілі працюють засоби РЕБ і немає або відеосигналу, або сигналу управління дроном. І тут є 2 варіанта. Перший варіант –  це коли дрон знижується і підходячи до потенційної цілі втрачає сигнал, бо є радіогоризонт. Якщо ціль рухома (танк, машина, артилерійська установка чи щось інше), то її треба доганяти і влучати в неї вручну. І для цього використовуються ці технології доведення. Тобто оператор бачить ціль, він її маркує і далі передає управління дрону, а дрон уже сам влучає в цю ціль. Це найпростіший і найбезпечніший варіант, тому що людина ухвалює рішення, по суті, по чому завдати удар. 

У чому проблема? Відв'яжемося від поля боя, а уявимо, що цей дрон летить над трасою Ростов-Мелітополь. По ній пересувається величезна кількість цивільних і військових російської армії. Штучному інтелекту дуже важко пояснити, як відрізнити, скажімо, машину швидкої допомоги від вантажівки з технікою. Бо для нього і те, і те – це машина. Є, звісно, відмінності – маркування, якісь знаки тощо. Але повністю віддавати машині ухвалення рішень –  доволі небезпечна історія, тому що в першу чергу можуть постраждати цивільні люди. Особливо зараз, коли так звана "кілзона" вже розтягнулася на великі відстані, подекуди до 200 км. І абсолютно реально, що в цій "кілзоні" можуть з'явитися цивільні люди. Тому не можна передавати штучному інтелекту це рішення, це щоразу має підтверджувати жива людина, щоб уникнути людських жертв. Може бути ще й третій варіант, коли цей дрон може опинитися в зоні дії наших військових. І щоб не було "дружнього вогню", щоб не вдарити по своїх військових, потрібна жива людина.

"Використання штучного інтелекту на полі бою доволі широке"

Ці обмеження залишаться з нами назавжди, чи є сфери, де штучний інтелект насправді може приносити більшу користь, а можливо вже приносить? 

Насправді, використання штучного інтелекту на полі бою доволі широке, воно не обмежене тільки ударними дронами, які завдають удари по землі. Наприклад, дрони-перехоплювачі використовують штучний інтелект для ударів у повітрі. Тут є два варіанти. Перший – це коли ми бачимо ціль, умовно "Шахед", запускаємо дрон і дроном керує жива людина. Він доволі часто саме так і використовується. Але ж ми розуміємо масштаби. Тобто ворог уже запускає по 600-700 дронів на добу і нам треба мати декілька десятків чи навіть сотень операторів, які будуть керувати цими дронами. Тому питання в тому, як це все діло автоматизувати. І відповідь очевидна – штучним інтелектом. У повітрі штучний інтелект може абсолютно реально відрізнити наш літак від "Шахеда". І саме в цьому напрямку абсолютно реально можна віддавати рішення дрону-перехоплювачу, він буде працювати ефективно. І такі дрони-перехоплювачі в нас уже є на озброєнні, вони працюють і показують себе дуже ефективно.

І є третє застосування штучного інтелекту, воно більш ширше – це аналіз великих масивів даних. Це розвідувальна інформація, супутникові дані, відеопотоки, перехоплення аудіо, радіозв'язку, телефонних розмов тощо. Жива людина це все ніяк не зможе проаналізувати. Аналіз великих обсягів даних можна робити тільки за допомогою ШІ.

Павло Нарожний. Фото: facebook/pablitomoiseevich

"Якесь застосування ШІ в росіян точно буде, але…"

Чи відомо, на які технології робить ставку ворог? Чи фіксували ми використання ШІ в певних видах його озброєння? 

Конкретні випадки мені невідомі, але я більш ніж упевнений, що вони також працюють в цьому напрямку. Але тут же є величезні обмеження. Найперше обмеження в тому, що всі ці технології робляться на базі дата-центрів, побудованих на чипах NVIDIA. А всі ці чипи не продаються за кордон, вони використовують виключно в США, стоять тільки в американських дата-центрах, а обробити ті масиви даних, які зараз є, на інших процесорах – практично нереально. Є спроби, можна згадати китайський DeepSeek, але він набагато обмеженіший, ніж сучасні моделі, які працюють на сучасних чипах NVIDIA. Підсумовуючи, можна сказати так, що якесь застосування штучного інтелекту в росіян точно буде, але воно буде набагато обмеженішим, ніж ті технології, які доступні Україні.