Коли публічні експерти намагаються серйозно говорити про ШІ, у більшості випадків вони або це роблять із надмірним захопленням (надзвичайний прогрес!), або намагаються викликати у слухача страх і шок.

Обидва підходи не дають осмислити предмет розмови і нагадують мені як люди в кінці 1800-х років ставилися до потягів або кіно, коли бачили їх вперше.

На мою думку, до ШІ слід ставитися як до чергової інновації в довгому ряді попередніх, таких, як підкорення вогню, авіаперельоти, ядерне розщеплення. ШІ дійсно є революцією, яка змінює наше життя. Але це і просто новий інструмент, з яким нам доведеться навчитися жити, так само, як ми навчились використовувати вогонь та інші цивілізаційні здобутки.

Погляд досвідченого геймера

У 1990-х з’явився ряд ігор у жанрі стратегії в реальному часі (RTS), таких як Command and Conquer, Warcraft, StarCraft. У цих іграх ви керуєте групами та окремими юнітами. Коли ваша армія нараховує до сотні юнітів – розробники тоді вважали – гравець не зможе контролювати всіх одночасно. Саме тому юнітам у RTS-іграх придумали розумну поведінку та розумні групові команди.

Нижче приклади зі StarCraft — гри, випущеної в 1998 році, яка залишається актуальною й у 2025.

Розумна поведінка:

  • Якщо поблизу ворог — атакувати його

  • Якщо на вас напали, але ви не можете відповісти — тікати в протилежний бік від нападника

  • Якщо ворог тікає — наздогнати й атакувати

Розумні команди:

  • Переміщуйся та атакуй усе вороже на шляху

  • Переміщуйся, нікого не атакуючи

  • Тримай позицію, не тікаючи й не переслідуючи

Ці поведінкові алгоритми та команди були створені для того, щоб гравці могли зосередитися на інших речах — наприклад, на економіці чи позиціонуванні армії. Але за майже 30 років історії StarCraft'у, стратегії, що виникли, виявилися зовсім не такими, як очікували розробники – гравці часто хочуть, аби юніти поводились не так, як їх запрограмовано.

Наприклад юніт Lurker у StarCraft може заритися під землю (стати невидимим) та завдати шкоди усім ворогам по прямій лінії у певних межах. Але щойно перший ворог входить у межу атаки, Lurker автоматично атакує згідно із розумною поведінкою. Ця рання атака насторожує ворога й зводить нанівець потенційний ефект засідки. Якби Lurker зачекав, поки в зону увійде ціла група, він міг би знищити армію в один момент. У StarCraft немає вбудованої опції, щоб відключити цю розумну автоатаку, але гравці використовують баги гри, щоби робити такого роду засідки.

ШІ можна навчити оптимальній поведінці на певному рівні задач і цілей – наприклад, "якщо атакують, атакуй у відповідь". Але для прийняття рішення про те, що в цій ситуації краще не атакувати, потрібен вищий рівень мислення, який бере до уваги більш високий контекст. Можна дати ШІ більш високий рівень складності, але він усе одно буде вирішувати задачі на цьому рівні, не здатний вийти за межі.

Чому ШІ перемагає людей у шахах і StarCraft, але люди завжди можуть вирвати перемогу, просто висмикнувши шнур з розетки

Повторю: ШІ може розв’язувати задачі тільки в межах рівня, на якому ці задачі були поставлені.

Популярні новини зараз

Мобілізація в Україні: кому з чоловіків дозволять виїжджати за кордон із 1 липня

Українці з пенсією нижче 9 тисяч можуть отримати допомогу: які документи необхідні

ПФУ анонсував нову грошову допомогу для українців: хто отримає виплати з 1 липня

У школах запровадять нові правила дистанційного навчання: що зміниться з 1 вересня
Показати ще

Уявіть, що ви професійно граєте в шахи або StarCraft. Ви граєте в щосуботній турнір на $150 із суперником, з яким наступного тижня доведеться змагатись на кваліфікаціях в закритий турнір з призом в $500 000. У такій ситуації сьогодні ви можете свідомо зіграти нестандартну та неоптимальну стратегію, чим дати опоненту хибне уявлення про ваш стиль та рівень гри.

Якби замість вас грав ШІ, він, ймовірно, не зміг так себе повести, бо для нього оптимально вигравати кожну гру.

Ви відповісте, що ШІ також може навчитися такої поведінки, і застосовувати її, граючи експериментальними стилями в щотижневих кубках, а найефективніше – на великих подіях. Але ця ідея має ту саму межу, що й будь-яка інша установка, застосована сліпо до контексту – її можна обійти мисленням у процесі стратегування. Наприклад, гравець може використати цю логіку, щоб “фармити” перемоги проти ШІ в щотижневих матчах. Або обманути ШІ, якимось прийомом змусивши думати, що поточний матч неважливий.

Без дуже специфічних команд ШІ навіть не спробує мислити в описаних вище напрямках. Він залишиться сліпим до того, що з ним грають не тільки на шаховій дошці, а й на інших рівнях.

Чому ШІ не загроза людства

Ось дуже неочевидна річ, яку я хочу підкреслити – стратегування, притаманне людині, дуже відрізняється від постановки цілей. Стратегування походить з інтересів, цікавості (любопитства), пережитих травм. Поки ШІ не набуде цих речей, він не здатен стратегувати, а лише досягати цілей згідно з закладеним програмуванням.

Припустімо, ми стратег, який хоче досягти світового домінування для своєї країни. Ось кілька речей, які можуть відбуватись із нами:

  • Наша стратегія може мати кілька цілей ((а) створити велику армію; (б) здобути економічну перевагу; (в) досягти технологічного ривку;..)

  • Навпаки – наша стратегія може не мати яких-небудь конкретних цілей на певному етапі (ми чекаємо слушного моменту і вирішимо, яку мету переслідувати, коли він настане)

  • Наші цілі можуть бути досягнуті, але стратегія ще в дії (у нас найстрашніша армія, найбільша економіка, найпередовіші технології, але сталася природна катастрофа, що змушує тимчасово переорієнтувати ресурси)

  • Наші цілі можуть провалитися, але стратегія ще в дії (ми безнадійно програємо у військовому, економічному й технологічному плані, але ми будемо навертати країни до нашої ідеології, що дасть нам скритий контроль над їхніми урядами)

  • Наша стратегія може змінитися, хоча мета залишиться (нам усе ще потрібні армія, економіка й технології, але тепер ми хочемо виграти космічну гонку, а не домінувати на Землі)

  • Наша мета може змінитися, але стратегія залишиться (ми відмовилися від зброї, і прагнемо домінувати лише культурно. Ми викреслюємо армію з нашого списку цілей і вписуємо щось зовсім інше)

Ви можете доручити ШІ досягти світового домінування, але він зрозуміє це як мету, розділену на менші завдання. Коли зміниться контекст – ШІ цього не зрозуміє.

Реальний приклад – якби ШІ керував Великою Британією у 1940-х і 1950-х роках, він не побачив би сенсу у створенні Співдружності, а чіплялося б за наявні домініони й колонії – Канаду, Індію, Австралію, які тоді давали Альбіону величезну силу й ресурси. Якби не мисляча і стратегуюча еліта Британії, країна, ймовірно, була б зруйнована у низці воєн за незалежність.

Кіберспортсмени розуміють ці речі, працюючи з надігровими стратегіями (“metagame”), динамічно перебираючи різні умови перемоги (таймінгові атаки, вичерпання всіх ресурсів на карті, base race, base trade, тощо), і перемагаючи сильніших опонентів завдяки мисленню.

Стратегія і стратегування – це про формування реальності навколо нас. Це пов’язано з цілями, але не є тотожним їм. Поки ми не навчимо ШІ бути любопитними, відчувати біль, шукати іншу мету і сенс існування, ШІ зможе працювати лише з цілями, а не зі стратегуванням. ШІ може бути незалежним агентом, навіть створити власну країну і голосувати в ООН, але він завжди буде обмежений власними установками, і його перемагатиме менш “розумний” агент (такий як людина), що вміє страждати, може бути любопитним і має інші переваги свободи волі (в сенсі приведенні нижче фрески Мікеланджело).

ШІ змінює світ
Через ШІ відбудуться великі потрясіння
Але сліпий страх або сліпе захоплення – це неправильна стратегія справитись із цим.
Цікавість і мислення – правильна.