Фото: ai360.com.ua
Одразу хочу поставити дуже практичне запитання. Чи треба мені чемно спілкуватися зі штучним інтелектом, дякувати, казати, який він розумний. Для того, щоб коли ШІ захопить світ, він пам'ятав, якою я була хорошою людиною.
Це основний резон, чому так треба робити. Аргумент проти — це витрачає даремно ресурси, електрику, обчислювальні потужності. Але якщо бути трохи нудним і точним, то насправді немає значення. Тому що системи такого роду використовують такі механізми кешування, тобто економлять ресурси. Для таких, як ти, вдячних, у них є окремий алгоритм, який дуже дешево відповідає взаємною вдячністю і не витрачає на це багато прісної води, електрики тощо.
Тобто я не потраплю у білий список хороших людей для ШІ?
Ні. Я був налаштований, що тебе більше цікавить зелена повістка. Але якщо тебе цікавить апокаліпсис, то, звісно, потрапиш. Вони запам'ятають.
Тоді я буду ще більш ввічлива… Але загалом, історія про те, що штучний інтелект вийде з-під контролю, підпорядкує собі людей і буде якась матриця — це наукова фантастика чи один із ймовірних сценаріїв розвитку майбутнього?
Це інструмент. Я б це порівнював і проводив паралелі з якимись епохами індустріалізації, коли прогрес виводить продуктивність праці на новий рівень. Або, наприклад, зі зброєю, тому що це в якомусь сенсі продуктивність праці. Раніше, декілька тисяч років тому, щоб одна людина завдала шкоди іншій, треба було бути сильним фізично. А тепер не потрібно, тому що є засоби. З'являється дуже потужний інструмент, і якщо говорити про якісь наміри, то всі ці моделі на поточному рівні все ще не мають власних бажань. І схоже на те, що на тривалий час усе це лишається простором для людини. Але ми ще поговоримо окремо про небезпеки. Про що ж мова? Не про те, що штучний інтелект піде всіх ламати, а про те, що штучний інтелект робить людей сильно продуктивнішими, і відповідно, продуктивнішими стають погані люди, які хочуть робити якесь зло, чинити злочини. У них з'являються ці потужні інструменти. Регулятори у різних країнах думають про те, як це обмежувати. Але треба розуміти, що ці ж інструменти доступні і білій стороні. Ті, хто захищаються, теж можуть краще знаходити всі ці вразливості.
Що треба розуміти стосовно безпеки? Це дуже мультидисциплінарна область, коли ми кажемо про кіберзагрози тощо, і вона потребує дуже різних навичок. Навіть якщо ми уявляємо якесь пограбування банку, як в американських бойовиках, то часто бачимо там команду людей, де кожен відповідає за свою область діяльності. Хтось займається ІТ-системами, хтось вміє відмички підбирати, а хтось безшумно свердлити отвори у стінах. Їхня скооперована робота дає результат. Це справді потребувало дуже різних людей, тому що ті, хто відкривають відмичками сейфи, не знають зазвичай про протоколи та мережі. А зараз, якщо ти приблизно знаєш, що ти хочеш, то ти можеш запитати у великої мовної моделі, і вона тебе навчить.
І виходить, що індивідуальні навчальні траєкторії ми зараз отримали кожен собі. Наприклад, ти абсолютно не вмієш програмувати, але можеш придумати собі якусь задачу, попросити — і тебе проведуть найкоротшим шляхом до цієї мети. Тобто люди, яким раніше треба було збирати різну експертизу і дуже довго її накопичувати, зараз отримують можливість це швидко зробити. Я бачу по своїх проєктах приріст продуктивності праці у десятки разів. Тобто ти дивишся, що зробила команда з двох людей за два тижні. Це нова технологія для них, нова предметна область. І раніше, щоб спочатку розібратись, як цією технологією оперувати, потрібні були тижні, а то й місяці.
Наведу ще приклад. Дуже потрібні інженери та журналісти, але матеріали мають бути французькою і про бізнес. Ти якраз журналістка. Ще декілька років тому це було б дуже важко. Чому? Тому що тобі дуже довго вчити мову і розбиратись у новій предметній області. А зараз із мовою немає проблем, бо воно перекладе дуже якісно. А з предметною областю ти можеш запитати: "Я буду брати інтерв'ю у члена наглядової ради певної корпорації. Як мені побудувати розмову?". І ти будеш підготовлена до розмови. Мене трохи звертає у позитив, бо це неймовірні можливості для того, щоб робити нові класні штуки. Але, звісно, це і великий простір для зломів.
Але в тому позитивному, що ти описав, я бачу зачатки майбутньої ШІ-революції, як ця система захопить світ. Тому що коли я раптом вирішую писати французькою про бізнес, не знаючи французької і не знаючи нічого про французький бізнес, віддаючи це частково штучному інтелекту, я ж втрачаю контроль. Я стаю в чомусь підпорядкована цій системі.
Ти втрачаєш контроль, якщо ти кажеш штучному інтелекту замість тебе писати про французький бізнес. І тут не зрозуміло, навіщо ти потрібна. Будь-хто інший може поставити таку задачу. Але тут ідеться про те, що він може тебе підготувати до цієї розмови. Він може тобі допомогти скласти питання. Це не відміняє того, що ти будеш проводити це інтерв'ю, ставитимеш ці питання.
Усе це інструменти. Звісно, хтось скаже, що і ведучого можна згенерувати, але люди — тваринки соціальні. Протягом історії у нас було мільйон моментів, коли ми могли б позакриватись у своїх однушках і не бачити інших людей. Але людей дуже тягне до інших. Людині потрібна людина. І я оптимістично вважаю, що це просто інструмент, який дозволить швидше щось робити.
Із твого ютуб-каналу, де ви регулярно спілкуєтеся з українським підприємцем Ярославом Ажнюком, я дізналася про AI-агентів, тобто агентів на базі штучного інтелекту і про те, що це революція. А чому?
Давай тут зробимо маленький екскурс, що ми називаємо штучним інтелектом і чому я вважаю, що немає з цим проблем. Якби у нас в українській мові використовувалося не "штучний інтелект", а "штучна думалка", воно було б не так страшно, правда? Будь-яка автоматизація схожа на інтелект. Світло, яке автоматично включається, комусь може здатися чимось інтелектуальним. Коли ми заїжджаємо на парковку і в нас автоматично зчитуються номери камерою, без усяких датчиків, без спеціальних протоколів, це магія, але це теж штучний інтелект. Тому що в когось номери можуть бути заляпані або іржаві, а він візьме і все прочитає. Чому ми останні роки так багато про це говоримо? Бо з'явилося те, що називається великими мовними моделями. Виявилось, що ніби весь наш розум міститься у мові. Ми всі розмовляємо і нам це здається чимось таким зрозумілим. Але насправді мислення і мовлення дуже пов'язане із розумом. Кажуть, наприклад, діти пам'ятають дитинство краще ті, з якими про нього говорили. Тобто, якщо з дитиною ввечері говорити про те, як пройшов день, то в неї буде більше ранніх спогадів. Якщо ми подивимося на спільноти погано чуючих людей, у них гірші результати в оцінюваннях, тому що вони обмежені у доступі до мови. І виявилось, що коли порахувати мову, то виникає дуже багато цікавих ефектів.
Відома історія, що ці моделі засновані на тому, що це просто вгадувалка наступного слова. Тобто є якийсь текст, і машина може його продовжити. Потім дуже важливим етапом у розвитку цього було OpenAI. Вони думали про те, щоб зробити якусь систему оцінки, тональності, коментарів під товарами. Щоби продавати великим ретейлерам системи, які будуть оцінювати, хвалять чи сварять їх у коментарях. Завжди важливо мати технологію. Так от, у них була технологія, і вони шукали прикладного використання. І один з інженерів OpenAI придумав оцю форму чата. Нагадаю, що OpenAI — це компанія, яка зробила чат GPT, і є одним із флагманів цієї індустрії, можливо, дехто вважає його головним. Так от, форма чата, як виявилося, людям дуже зручна. Ми можемо бачити, наскільки інтерфейс чата заполонив багато інших сфер. Він для людини доволі органічний і зручний. Це дуже крута знахідка, тому що всі вміють користуватися чатами. Воно понеслось, і багато інших компаній зробили чати. Тут, здається, все ще немає ніякої небезпеки, ніякої магії. Хоча, слухай, є таки магія…
Є магія, звісно. Тобі неіснуюча сутність дає дуже осмислені відповіді на твої запитання. У Гоґвортсі про таке не мріяли...
Це правда. І далі, а що коли запустити цю штуку в циклі, подумали програмісти. Тобто зробити так, щоб, наприклад, дві таких штуки між собою спілкувалися. Якщо ти пам'ятаєш, коли тільки з'явилися ці моделі, у них було дуже погано з математикою. Це було пов'язано з тим, що, по-перше, ці штуки — щоб слова вгадувати, а не числа рахувати. А по-друге, алгоритми проходу по тексту у математики зламані. Тому що у звичайних людських текстах ми читаємо зліва направо, по черзі. А коли ми розв’язуємо навіть відносно простий математичний приклад, ми по ньому ходимо туди-сюди. Тому що є порядок дій, є дужки, є проміжні результати. Коли ми читаємо текст, то не запам'ятовуємо проміжні результати читання першої частини речення. І не бачимо знак, що треба прочитати другу частину речення, запам'ятати, а потім повернутися до першої. Але потім з'явилися моделі, які гарно з цим розбираються, і вони всі почали називати це різонінгом, тобто думанням.
Насправді, коли ви в такому режимі запускаєте чат, то там можна навіть побачити ланцюжок його міркувань. Воно просто обгорнуто у багато кроків. Він бере твоє питання, потім його підважує, уточнює сам собі, потім отримує результат, ставиться до нього критично, сам у себе перепитує. Але це ж стандартні речі, ми можемо це спробувати якось описати. Якщо ти щось робиш з числами, проведи перевірку, перерахуй, перевір відповідь, тобто підставити в умову задачі й отримати результат. Отже, вони стали суттєво повільніші, але — суттєво якісніші.
Виявляється, що весь комп'ютерний простір — це теж текст. Усі комп'ютерні програми, які в наших телефонах чи на комп'ютерах, це був текст. Код програми, який виконується і перетворюється на щось, що ми бачимо. Всередині комп'ютера — також багато тексту. Він технічний, але виходить, що ця штука може працювати і з ним. А значить, якщо вона може на наш запит давати відповідь, то чому цією відповіддю не можуть бути якісь інструкції, команди, які виконає комп'ютер? І тут вже маємо ситуацію, коли відповіддю на наш запит може бути не інший текст, а керування комп'ютером. І так народжується AI-агент, якому ми дозволили керувати комп'ютером. А далі на це можна накидати ще якісь рівні складності. Зробити агентів декілька, зробити, щоб вони між собою спілкувались і надати їм спеціалізацію. AI-агенти — це ті, які мають доступ до нашого комп'ютера або до якогось іншого комп'ютера. Часто їм виділяють якісь віртуальні комп'ютери, не локальні, з обмеженим доступом, і вони можуть робити реальні задачі. Є проблема, чи можемо довіряти тому, що вони роблять. Бо все це росте від LLM (з англ. Large Language Model, велика мовна модель — ред.). Ота, яка придумує наступне слово. Ми його попросимо нас розсмішити, і він буде щоразу вигадувати щось нове. Питання — чи точно ми можемо бути впевнені, що коли ми його попросимо замовити олію додому, то він буде замовляти щоразу олію, а не вирішить нас розвеселити в один з разів? Але є ряд запобіжників. Реальність робить певні рамки, проте з цим можна працювати.
Я так розумію, що йде до того, аби цей AI-агент міг бути моїм співробітником, щоб я могла делегувати йому якусь задачу на роботі. Якщо на цьому рівні дивитися.
У тебе ж є, мабуть, купа колег, з якими ти комунікуєш здебільшого у чаті. Ти їх просиш щось зробити, вони щось тобі відповідають. А звідки ти впевнена, що вони живі й справжні? Ти бачила колись якусь людину, а потім ти переписувалася з кимось у чаті. Звідки ти взяла, що це саме та людина? Може, там давно вже агент.
Плюс один до моєї тривожності…
А може, навпаки? Раніше ти переживала засмутити людину, а тепер можна не переживати. Якщо ставити запитання, кого це може замінити прямо зараз, я б сказав, що тих, хто працює виключно на комп'ютері. Тому що ми всі думали, що ШІ буде в першу чергу заміняти якісь некваліфіковані роботи.
Говорили про далекобійників, приміром. Також про якусь просту механічну роботу, яку без вищої освіти можна виконувати. Зараз, виходить, фокус змістився?
На практиці виявилося, що набагато простіше автоматизовувати креативну роботу. Тому що креативна робота давно поїхала виключно у цифрове середовище. А коли ми говоримо про далекобійника, то йому треба під'їхати на заправку, дістати паливний пістолет, поставити його в бак, почекати, подзвонити, а може, відкрити цю кришку тощо. А в роботі дизайнера, письменника чи журналіста немає практично такої взаємодії із зовнішнім фізичним світом. А ШІ ніби добре це робить. Поки що це цифрове середовище, у нас поганий інтерфейс, оцей зв'язок між віртуальним світом і фізичним. Зараз цей зв'язок робиться за рахунок людей. Ми класно обираємо в апках якусь їжу, але щоб її доставити, потрібен кур'єр. І щоб її приготувати, також потрібна людина. А от все, що замовити, наприклад, або сфотографувати, або намалювати, або закликати нас з інтернет-середовища, нагадати, що ти голодний, і запросити зробити замовлення — усе це можуть машини. Знову ж таки, машини нічого не хочуть, тому потрібні люди, які це координують. Але я б сказав, що це просто ростить нашу продуктивність праці.
Але чи вплине це на сам ринок праці? Адже лунають апокаліптичні прогнози, що люди залишаться без роботи через штучний інтелект. Наскільки це корелює з тією дійсністю, яку ти бачиш?
Я думаю, що багато людей і топові корпорації працюють над тим, щоб вивести штучний інтелект в офлайн-світ. Наприклад, Ілон Маск. Дуже успішна компанія "Тесла", але дуже переоцінена, вважають фінансові аналітики. Тому що вона коштує якихось неймовірних грошей — більше, ніж "Тесла" може заробити за 100 років, якщо стане більшою, ніж всі інші автовиробники разом узяті. Питання — чому інвестори вірять у цю компанію? Тому що вони вірять в Ілона Маска. У якийсь момент він сказав, що вони скорочують модельний ряд "Тесли", відмовляються від деяких моделей, повністю, чи частково, і фокусуються на іншому. Вони кажуть, що ми будемо робити домашнього робота. Зараз немає дешевих, зрозумілих роботів, які щось роблять. Більше того, є ряд абсолютно невирішуваних задач. Наприклад, одна з найскладніших механічно-інженерних задач в побудові робота зараз — повторити людську руку. Тому що людська рука — неймовірно складна й абсолютно недосяжна. Чому? У неї дуже великий динамічний діапазон. У нас, з одного боку, сенсорика настільки чутлива, що ми можемо подушечкою пальця знайти піщинку на столі, а з іншого боку, можемо взяти коробку 20 кг, підняти чи кинути кудись. І виявляється, людство станом на зараз механічно не вміє робити пристрої, які в собі поєднують оці якості.
Тобто мозок для робота зробити можна, а руку — ні. Переоцінка розуму відбувається…
Щоб запустити робота оперувати в цьому приміщенні, треба щоб у нього було дуже багато датчиків. У цифровому вигляді це неймовірний потік даних, які треба обробляти. Жоден з існуючих демо-роботів на ходу не вміє міняти напрямок руху. Він має зупинитися і розвернутися. Бо наш мозок обробляє величезний масив інформації, щоб зробити це на ходу. Таких задач дуже багато.
Ти вже згадував про українські розробки в цьому напрямку. Міністерство цифрової трансформації зараз розробляє українську велику мовну модель, яку назвали "Сяйво". А для чого нам своя мовна модель?
Коли я розказував про те, як все це виникло, там важливим етапом було придумати технологію — загорнути в чат. Це продуктове застосування. Коли ми говоримо про "Сяйво", здається, вони роблять її на базі Gem, це від Google. Чому важливо зробити свою, а не просто використовувати те, що вже готове? Як завжди, є дві мотивації — ідеологічна та економічна. Економічна в тому, що своє можна теоретично дооптимізовувати до того, що це буде дешевше, ніж чуже. Це зрозумілий резон. А друга штука — ідеологічна. У деяких питаннях чат починає говорити російською. Або не говорити російською, а якась "и" проскакує. Тож нам як державі потрібні від цього запобіжники. Нам треба в цій моделі контролювати наративи і все таке. Швидше за все, це буде для специфічних задач, для державного сектора. Наприклад, Суспільний мовник захоче зробити чат-бота, де будь-який користувач зможе формулювати запитання так: "Хочу щось цікаве послухати про технології, але не дуже складне". І чат-бот йому буде казати: "Супер, у нашій медіатеці є ось таких три випуски". Чи потрібна для цього передова найсучасніша модель? Ні. Чи потрібна для цього гарантія, що ця мовна модель не почне радити передачі "Ехо Москви"? Потрібна. Ось така відповідь.
А хіба не можна на цю саму задачу натренувати чат GPT? Наприклад, чату GPT заборонено говорити російською мовою, тобто якийсь йому параметр вказати.
Можна, але це часто дорожче. Коли ти кажеш, у мене він натренований, то він у тебе натренований на дуже вузьку штуку. Тобто, якщо завтра ти з ним почнеш про юридичні питання спілкуватись, виявиться, що тобі треба його дотреновувати, щоб він не враховував російські законодавчі практики, наприклад. Але це можна архітектурно інакше вирішити. Можна при навчанні не давати йому чужу законодавчу базу, наприклад, і нормативку.
Я просто думала, що технології, які пов'язані зі штучним інтелектом, споживають дуже багато електроенергії. Ми з тобою сьогодні говоримо, коли на Лівому березі Києва екстрені відключення світла. Ми можемо собі дозволити, враховуючи нашу ситуацію з електроенергією, якісь серйозні розробки у напрямку штучного інтелекту, який дуже багато цієї електроенергії їсть?
Цікава штука, що до всього цього у нас комп'ютери були занадто потужні. Тобто справді потужніші нестандартні комп'ютери в роботі були потрібні деяким програмістам і дуже часто тим, хто монтує відео. І тут з'явилася задача і технологія, яка знову жере багато ресурсів. Тому потрібні потужніші процесори, більше пам'яті. Зараз усі ці девайси дуже дорожчають. Чому? Тому що ринок — це сполучені посудини. Через те, що вони в Америках купують і комплектують дата-центри, у Китаї дорожчають ноутбуки і мобільні телефони. І всі почали рахувати, що у нас тут не вистачатиме процесорів, а потім електрики. Але правда в тому, що зараз у світових масштабах проблеми не з електрикою, а з чіпами і пам'яттю. Ми ще не наробили стільки чіпів, щоб почало бракувати електрики. Другий момент, якщо говорити про Україну, то у нас відключення тому, що генерація не збалансована. Тобто вночі, наприклад, у нас надлишок електроенергії, яку ми виробляємо. Чи варто в Україні зараз будувати дата-центри? Навряд, чисто з безпекових міркувань. Чи треба українцям цим займатися? Треба, бо це кльові технології, треба в них розбиратись.
.jpg)
Фото: suspilne.media
Прикладні питання. Що варто і чого не варто розповідати штучному інтелекту про себе? Медичні аналізи туди закидати і питати, які вітаміни пропити, це хороша ідея? З огляду на те, що я комусь передаю дуже приватну інформацію.
Це питання довіри до корпорації. Є можливості, але це дорого коштує — розгортати хороші моделі в себе локально. Але треба розуміти, що нам доступно за 20 доларів на місяць, чи навіть безкоштовно, це так звані фронтир-моделі, передові, найкращі, комерційні. Якщо ти підеш подивишся, що там китайці у своїх безкоштовних версіях пропонують, це сильно слабше відносно цих топових. Якщо говорити про довіру до даних, то це питання довіри до корпорації. Чи довіряєш ти OpenAI, чи довіряєш ти Google. І я тобі скажу, що швидше за все результати своїх аналізів ти отримала на електронну пошту. Ясно, що Google це величезна корпорація, там є юридичні моменти, окремі ліцензійні угоди, їх можна почитати. Але мені здається, що Google про нас і так багато знає. Тобто більшість людей, статистично, віддали Google купу своїх документів, своїх файлів, всі свої фотографії, весь свій пошук, всю свою пошту. І питання — чи готові вони довірити ШІ почитати їхні аналізи? Ну, я б довірив. Може, щось цікаве скаже.
У мене часто виникає відчуття втрачених можливостей. Якщо я не працюю в IT, у мене абсолютно інша сфера, яку, можливо, замінить штучний інтелект, що мені варто розуміти, знати, робити зі штучним інтелектом зараз?
Якщо ви не з IT, то це навіть краще. У вас є фора, бо там усі його використовують. В IT завжди був такий термін "десятикратний програміст". Тобто завжди є хтось, хто вміє класно концентруватися, знає багато і працює ніби за десятьох. Тому що більша частина роботи — це подумати, а не зробити руками. Журналіст "десятикратний" навряд чи напише у десять разів більше матеріалів. Але такі люди, використовуючи інструменти штучного інтелекту і не будучи лінивими, повторюсь, використовувати — це користуватись як інструментом, а не замість себе давати йому щось робити, отримують ще більше. Ваш брат, ваша сестра, журналісти, дуже погано це використовують. Варто подумати, яку роботу можна було б автоматизувати.
З чого почати вчитися, аби якомога швидше інтегрувати ШІ у своє життя? І в повсякденне, і в робоче. Тому що це виглядає як слон, до якого не зрозуміло, з якого боку підійти.
Я на початку розказував, що ця база знань, ці інструменти дозволяють побудувати коротку траєкторію. Бери прямо у нього і питай, з чого тобі почати. Ти можеш розказати про себе, я знаю ось це, вмію ось це, підкажи, як мені це і це опанувати; які концепти мені треба розуміти, для того, щоб нормально ось це зробити.
Що буде далі? Яким буде цей світ, коли ми вже зараз маємо ці дивовижні сутності?
Дуже цікавий вихід у фізичний світ. Якщо хтось зробить руку і примотає до неї камеру, буде прикольно. Базові моделі будуть ставати ще розумнішими. Але цікаво, як ШІ почне взаємодіяти із зовнішнім світом. Можливо, ця рука буде виглядати геть не як людська, а якось інакше. Можливо, нас чекають якісь нові пристрої, бо давненько не було нових пристроїв, які б сильно впливали на наше життя. Були автомобілі, механізація, потім з'явилися телефони. Телефони вже стали майже частиною нашого тіла. Можливо, буде якийсь рух в бік окулярів. Поки тут експерименти. Виглядає так, що років десять ми це не дуже відчуємо. А потім може все дуже різко статися. Цукерберг каже, що ми завжди переоцінюємо перспективи інновацій 2-3 роки і недооцінюємо 10. Тобто за 10 років може статися щось набагато більше і радикальніше.
Виявляється, це така властивість нейронних мереж, на яких ШІ побудовано, як і у людей — краще бути спеціалізованим. Тобто теоретично ця система знає все про людство. А практично набагато якісніші результати, якщо ти скажеш: "Уяви, що ти лікар, що ти мені порадиш?". А потім скажеш: "А тепер ти мій страховий агент, що ти мені порадиш?". І от він, коли переключається між цими ідентичностями, дає більш сфокусовані результати. Один із таких напрямків — це робота з фізичним світом. Я думаю, там буде багато цікавого.
Ти до тієї великої мовної моделі, з якою спілкуєшся, звертаєшся як до чоловіка, чи як до жінки? Це він чи вона?
Він.
У мене теж він. Це так цікаво, чому? Шкода, тут немає коментарів, в яких попросити людей написати, як вони звертаються, він чи вона…
Пишіть нам листи, це він чи вона. В мене є купа знайомих, у яких вона. Коли це якісь асистенти, чат-бот тощо, то люди можуть перемикати ґендер, тому що вибирають різні стратегії спілкування.
