Машини благодатної любові: Майбутнє ШІ від біології до політики

Я багато думаю і говорю про ризики потужного ШІ. Компанія, генеральним директором якої я є, Anthropic, проводить багато досліджень щодо того, як зменшити ці ризики. Через це люди іноді роблять висновок, що я песиміст або "пророк загибелі", який вважає, що ШІ буде переважно поганим або небезпечним. Я так не вважаю.

Насправді, одна з головних причин, чому я зосереджуюся на ризиках, полягає в тому, що вони є єдиним, що стоїть між нами і тим, що я бачу як фундаментально позитивне майбутнє. Я думаю, що більшість людей недооцінюють, наскільки радикальною може бути позитивна сторона ШІ, так само як я вважаю, що більшість людей недооцінюють, наскільки поганими можуть бути ризики.

У цьому есе я намагаюся окреслити, як може виглядати ця позитивна сторона - як може виглядати світ з потужним ШІ, якщо все піде правильно. Звичайно, ніхто не може знати майбутнє з будь-якою впевненістю або точністю, і наслідки потужного ШІ, ймовірно, будуть ще більш непередбачуваними, ніж минулі технологічні зміни, тому все це неминуче складатиметься з припущень. Але я прагну до принаймні обгрунтованих і корисних припущень, які передають суть того, що станеться, навіть якщо більшість деталей виявляться неправильними. Я включаю багато деталей в основному тому, що вважаю, що конкретне бачення робить більше для просування дискусії, ніж сильно обережне та абстрактне.

Однак спочатку я хотів би коротко пояснити, чому я і Anthropic не так багато говорили про позитивні сторони потужного ШІ, і чому ми, ймовірно, продовжуватимемо в цілому багато говорити про ризики. Зокрема, я зробив цей вибір з бажання:

Максимізувати вплив. Базовий розвиток технології ШІ та багато (не всі) її переваг здаються неминучими (якщо тільки ризики не зірвуть все) і в основному керуються потужними ринковими силами. З іншого боку, ризики не є заздалегідь визначеними, і наші дії можуть значно змінити їхню ймовірність.

Уникнути сприйняття як пропаганди. Коли компанії з ШІ говорять про всі дивовижні переваги ШІ, це може виглядати як пропаганда або спроба відволікти увагу від недоліків. Я також вважаю, що як принцип, це погано для вашої душі витрачати занадто багато часу на "розмови про свою книгу".

Уникнути грандіозності. Мене часто відштовхує те, як багато публічних фігур, що говорять про ризики ШІ (не кажучи вже про керівників компаній з ШІ), говорять про світ після AGI, ніби їхня місія - одноосібно привести його, як пророк веде свій народ до спасіння. Я вважаю, що небезпечно розглядати компанії як такі, що в односторонньому порядку формують світ, і небезпечно розглядати практичні технологічні цілі в по суті релігійних термінах.

Уникнути "наукової-фантастичного" багажу. Хоча я вважаю, що більшість людей недооцінюють позитивну сторону потужного ШІ, невелика спільнота людей, які обговорюють радикальне майбутнє ШІ, часто робить це в надмірно "науково-фантастичному" тоні (включаючи, наприклад, завантажені розуми, дослідження космосу або загальні кіберпанкові настрої).

Я вважаю, що це змушує людей менш серйозно ставитися до тверджень і наділяти їх певною нереальністю. Щоб було зрозуміло, проблема не в тому, чи можливі або ймовірні описані технології (основне есе обговорює це детально) - скоріше, "настрій" конотативно привносить багато культурного багажу і невисловлених припущень про те, яке майбутнє є бажаним, як розвиватимуться різні суспільні проблеми тощо.

В результаті часто виходить щось схоже на фантазію для вузької субкультури, яка відштовхує більшість людей. Проте, незважаючи на всі вищезазначені занепокоєння, я дійсно вважаю важливим обговорювати, як може виглядати хороший світ з потужним ШІ, намагаючись при цьому уникнути вищезазначених пасток. Насправді, я вважаю, що критично важливо мати справді надихаюче бачення майбутнього, а не просто план боротьби з пожежами. Багато наслідків потужного ШІ є конфронтаційними або небезпечними, але в кінці всього цього має бути щось, за що ми боремося, якийсь позитивний результат, де всім стане краще, щось, що об'єднає людей, щоб піднятися над своїми суперечками і протистояти викликам, що чекають попереду. Страх - це один вид мотиватора, але цього недостатньо: нам потрібна також надія.

Список позитивних застосувань потужного ШІ надзвичайно довгий (і включає робототехніку, виробництво, енергетику та багато іншого), але я зосереджуся на невеликій кількості областей, які, на мою думку, мають найбільший потенціал для безпосереднього покращення якості людського життя.

П'ять категорій, які мене найбільше хвилюють, це:

• Біологія та фізичне здоров'я
• Нейронаука та психічне здоров'я
• Економічний розвиток та бідність
• Мир та управління
• Робота та сенс

Мої прогнози будуть радикальними за більшістю стандартів (крім науково-фантастичних "сингулярних" бачень2), але я маю їх на увазі серйозно і щиро. Все, що я кажу, може дуже легко виявитися неправильним (повторюючи мою вищезазначену думку), але я принаймні спробував обґрунтувати свої погляди напіваналітичною оцінкою того, наскільки може прискоритися прогрес у різних галузях і що це може означати на практиці. Мені пощастило мати професійний досвід як в біології, так і в нейронауці, і я є інформованим аматором у галузі економічного розвитку, але я впевнений, що багато чого помилюся. Одна річ, яку написання цього есе змусило мене зрозуміти, це те, що було б цінно зібрати групу експертів у різних областях (біології, економіці, міжнародних відносинах та інших сферах), щоб написати набагато кращу і більш інформовану версію того, що я створив тут. Мабуть, найкраще розглядати мої зусилля тут як початковий стимул для цієї групи.

Основні припущення та рамки

Щоб зробити це есе більш точним і обґрунтованим, корисно чітко вказати, що ми маємо на увазі під потужним ШІ (тобто поріг, з якого починається відлік 5-10 років), а також викласти рамки для роздумів про наслідки такого ШІ після його появи.

Як виглядатиме потужний ШІ (мені не подобається термін AGI)3, і коли (або якщо) він з'явиться - це величезна тема сама по собі. Це те, про що я публічно обговорював і міг би написати абсолютно окреме есе (я, мабуть, зроблю це в якийсь момент). Очевидно, багато людей скептично ставляться до того, що потужний ШІ буде створений найближчим часом, а деякі скептично ставляться до того, що він взагалі коли-небудь буде створений. Я думаю, що це може статися вже в 2026 році, хоча є також способи, якими це може зайняти набагато більше часу. Але для цілей цього есе я хотів би відкласти ці питання в сторону, припустити, що це станеться досить скоро, і зосередитися на тому, що станеться через 5-10 років після цього. Я також хочу припустити визначення того, як така система буде виглядати, які її можливості і як вона взаємодіє, хоча тут є місце для розбіжностей.

Під потужним ШІ я маю на увазі модель ШІ - ймовірно, схожу за формою на сьогоднішні LLM, хоча вона може базуватися на іншій архітектурі, може включати кілька взаємодіючих моделей і може бути навчена по-іншому - з наступними властивостями:

З точки зору чистого інтелекту4, вона розумніша за лауреата Нобелівської премії в більшості відповідних галузей - біології, програмуванні, математиці, інженерії, письмі тощо. Це означає, що вона може доводити нерозв'язані математичні теореми, писати надзвичайно хороші романи, писати складні кодові бази з нуля тощо. Крім того, що це просто "розумна річ, з якою можна поговорити", вона має всі "інтерфейси", доступні людині, яка працює віртуально, включаючи текст, аудіо, відео, керування мишею та клавіатурою, а також доступ до інтернету. Вона може виконувати будь-які дії, комунікації або віддалені операції, що дозволяються цим інтерфейсом, включаючи виконання дій в інтернеті, отримання або надання вказівок людям, замовлення матеріалів, керування експериментами, перегляд відео, створення відео тощо.

Вона виконує всі ці завдання зі, знову ж таки, майстерністю, що перевищує найбільш здібних людей у світі. Вона не просто пасивно відповідає на запитання; натомість, їй можна давати завдання, які займають години, дні або тижні, і потім вона йде і виконує ці завдання автономно, так, як це робив би розумний співробітник, запитуючи уточнення за необхідності. Вона не має фізичного втілення (крім життя на комп'ютерному екрані), але може керувати існуючими фізичними інструментами, роботами або лабораторним обладнанням через комп'ютер; теоретично вона навіть може розробляти роботів або обладнання для власного використання.

Ресурси, використані для навчання моделі, можуть бути перепризначені для запуску мільйонів її екземплярів (це відповідає прогнозованим розмірам кластерів до ~2027 року), і модель може засвоювати інформацію та генерувати дії приблизно в 10-100 разів швидше за людину5. Однак вона може бути обмежена часом відгуку фізичного світу або програмного забезпечення, з яким вона взаємодіє. Кожна з цих мільйонів копій може діяти незалежно над непов'язаними завданнями, або за потреби всі можуть працювати разом так само, як співпрацювали б люди, можливо, з різними субпопуляціями, налаштованими на особливо хороше виконання конкретних завдань. Ми могли б підсумувати це як "країну геніїв в центрі обробки даних".

Очевидно, що така сутність була б здатна вирішувати дуже складні проблеми, дуже швидко, але не тривіально зрозуміти, наскільки швидко. Дві "крайні" позиції здаються мені хибними. По-перше, ви можете подумати, що світ буде миттєво трансформований у масштабі секунд або днів ("Сингулярність"), оскільки вищий інтелект будує сам себе і вирішує кожне можливе наукове, інженерне та операційне завдання майже негайно. Проблема в тому, що існують реальні фізичні та практичні обмеження, наприклад, щодо створення апаратного забезпечення або проведення біологічних експериментів. Навіть нова країна геніїв зіткнеться з цими обмеженнями. Інтелект може бути дуже потужним, але це не чарівний пил феї.

По-друге, і навпаки, ви можете вважати, що технологічний прогрес насичений або обмежений реальними світовими даними чи соціальними факторами, і що інтелект, кращий за людський, додасть дуже мало6. Це здається мені однаково неправдоподібним - я можу придумати сотні наукових або навіть соціальних проблем, де велика група дійсно розумних людей різко прискорила б прогрес, особливо якщо вони не обмежені аналізом і можуть робити речі в реальному світі (що може наша постульована країна геніїв, включаючи керування або допомогу командам людей).

Я думаю, що правда, ймовірно, є якоюсь брудною сумішшю цих двох крайніх картин, чимось, що варіюється залежно від завдання та галузі і дуже тонке у своїх деталях. Я вважаю, що нам потрібні нові рамки, щоб думати про ці деталі продуктивним способом.

Економісти часто говорять про "фактори виробництва": такі речі, як праця, земля та капітал. Фраза "граничні доходи від праці/землі/капіталу" передає ідею, що в даній ситуації даний фактор може бути обмежуючим або ні - наприклад, повітряні сили потребують як літаків, так і пілотів, і найм більшої кількості пілотів не дуже допомагає, якщо у вас закінчилися літаки. Я вважаю, що в епоху ШІ ми повинні говорити про граничні доходи від інтелекту7, і намагатися з'ясувати, які інші фактори доповнюють інтелект і стають обмежуючими факторами, коли інтелект дуже високий. Ми не звикли думати таким чином - запитувати "наскільки допомагає бути розумнішим у цьому завданні, і в якому часовому масштабі?" - але це здається правильним способом концептуалізувати світ з дуже потужним ШІ.

Мій здогад щодо списку факторів, які обмежують або доповнюють інтелект, включає:

Швидкість зовнішнього світу. Інтелектуальні агенти повинні взаємодіяти зі світом, щоб досягти чогось, а також щоб навчатися8. Але світ рухається лише з певною швидкістю. Клітини та тварини функціонують з фіксованою швидкістю, тому експерименти на них займають певний час, який може бути незменшуваним. Те саме стосується апаратного забезпечення, матеріалознавства, всього, що включає спілкування з людьми, і навіть нашої існуючої програмної інфраструктури. Крім того, в науці часто потрібно проводити багато експериментів послідовно, кожен з яких вчиться або будується на основі попереднього. Все це означає, що швидкість, з якою може бути завершений великий проект - наприклад, розробка ліків від раку - може мати незменшуваний мінімум, який не може бути зменшений далі, навіть якщо інтелект продовжує зростати.

Потреба в даних. Іноді сирих даних не вистачає, і за їх відсутності більший інтелект не допомагає. Сьогоднішні фізики-теоретики дуже винахідливі і розробили широкий спектр теорій, але їм не вистачає даних, щоб вибрати між ними, тому що дані з прискорювачів частинок дуже обмежені. Не зрозуміло, чи змогли б вони робити набагато краще, якби були надінтелектуальними - крім, можливо, прискорення будівництва більшого прискорювача.

Внутрішня складність. Деякі речі за своєю природою непередбачувані або хаотичні, і навіть найпотужніший ШІ не може передбачити або розплутати їх суттєво краще, ніж людина або комп'ютер сьогодні. Наприклад, навіть неймовірно потужний ШІ міг би передбачити лише маргінально далі вперед в хаотичній системі (такій як проблема трьох тіл) в загальному випадку9, порівняно з сьогоднішніми людьми та комп'ютерами.

Обмеження від людей. Багато речей не можна зробити без порушення законів, завдання шкоди людям або порушення правил суспільства. Узгоджений ШІ не захоче робити ці речі (а якщо у нас неузгоджений ШІ, ми повертаємося до розмови про ризики). Багато людських суспільних структур неефективні або навіть активно шкідливі, але їх важко змінити, поважаючи такі обмеження, як юридичні вимоги до клінічних випробувань, готовність людей змінювати свої звички або поведінка урядів.

Прикладами досягнень, які добре працюють в технічному сенсі, але чий вплив був суттєво зменшений правилами або необґрунтованими страхами, є ядерна енергетика, надзвукові польоти і навіть ліфти.

Фізичні закони. Це більш жорстка версія першого пункту. Існують певні фізичні закони, які здаються непорушними. Неможливо подорожувати швидше за світло. Пудинг не розмішується. Чіпи можуть мати лише певну кількість транзисторів на квадратний сантиметр, перш ніж вони стануть ненадійними. Обчислення вимагають певної мінімальної енергії на стертий біт, обмежуючи щільність обчислень у світі.

Існує ще одна відмінність, заснована на часових масштабах. Те, що є жорстким обмеженням у короткостроковій перспективі, може стати більш податливим для інтелекту в довгостроковій перспективі. Наприклад, інтелект може бути використаний для розробки нової експериментальної парадигми, яка дозволяє нам вивчати in vitro те, що раніше вимагало експериментів на живих тваринах, або для створення інструментів, необхідних для збору нових даних (наприклад, більшого прискорювача частинок), або для пошуку (в межах етичних обмежень) способів обійти обмеження, пов'язані з людьми (наприклад, допомогти покращити систему клінічних випробувань, допомогти створити нові юрисдикції, де клінічні випробування мають менше бюрократії, або покращити саму науку, щоб зробити людські клінічні випробування менш необхідними або дешевшими).

Таким чином, ми повинні уявити картину, де інтелект спочатку сильно обмежений іншими факторами виробництва, але з часом сам інтелект все більше обходить інші фактори, навіть якщо вони ніколи повністю не розчиняються (і деякі речі, як фізичні закони, є абсолютними)10. Ключове питання полягає в тому, як швидко все це відбувається і в якому порядку.

Маючи на увазі вищезазначену структуру, я спробую відповісти на це питання для п'яти областей, згаданих у вступі.

1. Біологія та здоров'я. Біологія, ймовірно, є тією областю, де науковий прогрес має найбільший потенціал для безпосереднього та однозначного покращення якості людського життя. За останнє століття деякі з найдавніших людських недуг (такі як віспа) нарешті були переможені, але багато інших все ще залишаються, і їх подолання було б величезним гуманітарним досягненням. Навіть за межами лікування хвороб, біологічна наука в принципі може покращити базову якість людського здоров'я, продовживши здорову тривалість життя людини, збільшивши контроль і свободу над нашими власними біологічними процесами та вирішивши повсякденні проблеми, які ми зараз вважаємо незмінними частинами людського стану.

На мові "обмежуючих факторів" з попереднього розділу, головними проблемами прямого застосування інтелекту до біології є дані, швидкість фізичного світу та внутрішня складність (насправді, всі три пов'язані між собою). Людські обмеження також відіграють роль на пізнішій стадії, коли йдеться про клінічні випробування. Давайте розглянемо їх по черзі.

Експерименти на клітинах, тваринах і навіть хімічних процесах обмежені швидкістю фізичного світу: багато біологічних протоколів включають культивування бактерій або інших клітин, або просто очікування хімічних реакцій, і це іноді може зайняти дні або навіть тижні, без очевидного способу прискорити це. Експерименти на тваринах можуть займати місяці (або більше), а експерименти на людях часто займають роки (або навіть десятиліття для довгострокових досліджень результатів).

Дещо пов'язано з цим, часто не вистачає даних - не стільки в кількості, скільки в якості: завжди не вистачає чітких, однозначних даних, які ізолюють біологічний ефект, що цікавить, від інших 10 000 сплутуючих факторів, або які втручаються причинно в даний процес, або які безпосередньо вимірюють якийсь ефект (на противагу виведенню його наслідків якимось непрямим або шумним способом). Навіть масивні, кількісні молекулярні дані, такі як протеомічні дані, які я збирав, працюючи над методами мас-спектрометрії, є шумними і багато чого пропускають (в яких типах клітин були ці білки? У якій частині клітини? На якій фазі клітинного циклу?).

Частково відповідальною за ці проблеми з даними є внутрішня складність: якщо ви коли-небудь бачили діаграму, що показує біохімію людського метаболізму, ви знаєте, що дуже важко ізолювати ефект будь-якої частини цієї складної системи, і ще важче втрутитися в систему точним або передбачуваним способом. І нарешті, крім просто внутрішнього часу, який займає проведення експерименту на людях, фактичні клінічні випробування включають багато бюрократії та нормативних вимог, які (на думку багатьох людей, включаючи мене) додають непотрібний додатковий час і затримують прогрес.

Враховуючи все це, багато біологів давно скептично ставляться до цінності ШІ та "великих даних" в біології загалом. Історично склалося так, що математики, комп'ютерні науковці та фізики, які застосовували свої навички до біології протягом останніх 30 років, були досить успішними, але не мали того справді трансформаційного впливу, на який спочатку сподівалися. Деякий скептицизм був зменшений завдяки великим і революційним проривам, таким як AlphaFold (який щойно заслужено приніс своїм творцям Нобелівську премію з хімії) та AlphaProteo11, але все ще існує уявлення, що ШІ є (і буде продовжувати бути) корисним лише в обмеженому наборі обставин. Загальне формулювання таке: "ШІ може краще аналізувати ваші дані, але не може виробляти більше даних або покращувати якість даних. Сміття на вході - сміття на виході".

Але я думаю, що ця песимістична перспектива неправильно думає про ШІ. Якщо наша основна гіпотеза про прогрес ШІ вірна, то правильний спосіб думати про ШІ - це не як про метод аналізу даних, а як про віртуального біолога, який виконує всі завдання, які виконують біологи, включаючи проектування та проведення експериментів у реальному світі (шляхом керування лабораторними роботами або просто вказівок людям, які експерименти проводити - як головний дослідник своїм аспірантам), винаходження нових біологічних методів або методів вимірювання тощо. Саме прискоренням всього процесу досліджень ШІ може справді прискорити біологію. Я хочу повторити це, тому що це найпоширеніше непорозуміння, яке виникає, коли я говорю про здатність ШІ трансформувати біологію: я не говорю про ШІ лише як про інструмент для аналізу даних. Відповідно до визначення потужного ШІ на початку цього есе, я говорю про використання ШІ для виконання, керування та вдосконалення майже всього, що роблять біологи.

Щоб бути більш конкретним щодо того, звідки, на мою думку, ймовірно прийде прискорення, дивно велика частка прогресу в біології походить від справді крихітної кількості відкриттів, часто пов'язаних з широкими інструментами вимірювання або методами12, які дозволяють точне, але узагальнене або програмоване втручання в біологічні системи. Є, можливо, ~1 таке велике відкриття на рік, і колективно вони, ймовірно, рухають >50% прогресу в біології. Ці відкриття настільки потужні саме тому, що вони прорізають внутрішню складність та обмеження даних, безпосередньо збільшуючи наше розуміння та контроль над біологічними процесами.

Кілька відкриттів на десятиліття дозволили як основну частину нашого базового наукового розуміння біології, так і рушили багато найпотужніших медичних методів лікування.

Деякі приклади включають:

CRISPR: метод, який дозволяє живе редагування будь-якого гена в живих організмах (заміна будь-якої довільної генетичної послідовності будь-якою іншою довільною послідовністю). З моменту розробки оригінальної техніки були постійні вдосконалення для націлювання на конкретні типи клітин, підвищення точності та зменшення редагування неправильного гена - все це необхідно для безпечного використання у людей.

Різні види мікроскопії для спостереження за тим, що відбувається на точному рівні: передові світлові мікроскопи (з різними видами флуоресцентних технік, спеціальною оптикою тощо), електронні мікроскопи, атомно-силові мікроскопи тощо. Секвенування та синтез геному, вартість яких знизилася на кілька порядків за останні пару десятиліть.

Оптогенетичні методи, які дозволяють змусити нейрон спрацьовувати, освітлюючи його.

мРНК-вакцини, які, в принципі, дозволяють нам розробляти вакцину проти чого завгодно, а потім швидко адаптувати її (мРНК-вакцини, звичайно, стали відомими під час COVID).

Клітинні терапії, такі як CAR-T, які дозволяють брати імунні клітини з організму і "перепрограмовувати" їх для атаки, в принципі, на що завгодно.

Концептуальні відкриття, такі як мікробна теорія хвороб або усвідомлення зв'язку між імунною системою та раком13.

Я намагаюся перерахувати всі ці технології, тому що хочу зробити вирішальне твердження про них: я думаю, що швидкість їх відкриття може бути збільшена в 10 разів або більше, якби було набагато більше талановитих, творчих дослідників. Або, іншими словами, я думаю, що віддача від інтелекту висока для цих відкриттів, і що все інше в біології та медицині в основному випливає з них.

Чому я так думаю? По-перше, через відповіді на деякі питання, які ми повинні звикнути задавати, коли намагаємося визначити "віддачу від інтелекту". По-перше, ці відкриття зазвичай робляться крихітною кількістю дослідників, часто одними і тими ж людьми неодноразово, що свідчить про майстерність, а не випадковий пошук (останнє могло б свідчити про те, що тривалі експерименти є обмежуючим фактором).

По-друге, вони часто "могли бути зроблені" роками раніше, ніж були зроблені: наприклад, CRISPR був природним компонентом імунної системи бактерій, відомим з 80-х років, але знадобилося ще 25 років, щоб люди зрозуміли, що його можна перепрофілювати для загального редагування генів.

Вони також часто затримуються на багато років через відсутність підтримки з боку наукової спільноти для перспективних напрямків (див. цей профіль винахідника мРНК-вакцин; подібні історії дуже поширені). По-третє, успішні проекти часто є невідшліфованими або були другорядними думками, які люди спочатку не вважали перспективними, а не масово фінансованими зусиллями. Це свідчить про те, що відкриття рухають не просто масивна концентрація ресурсів, а винахідливість.

Нарешті, хоча деякі з цих відкриттів мають "послідовну залежність" (вам потрібно спочатку зробити відкриття А, щоб мати інструменти або знання для здійснення відкриття В) - що знову могло б створювати експериментальні затримки - багато, можливо, більшість, є незалежними, що означає, що багато з них можна працювати одночасно паралельно.

І ці факти, і мій загальний досвід як біолога, дуже переконливо свідчать про те, що є сотні таких відкриттів, які чекають на здійснення, якби вчені були розумнішими і кращими у встановленні зв'язків між величезним обсягом біологічних знань, якими володіє людство (знову згадайте приклад CRISPR). Успіх AlphaFold/AlphaProteo у вирішенні важливих проблем набагато ефективніше, ніж людей, незважаючи на десятиліття ретельно розробленого фізичного моделювання, надає доказ принципу (хоча і з вузьким інструментом у вузькій області), який повинен вказати шлях вперед.

Таким чином, я припускаю, що потужний ШІ міг би принаймні в 10 разів збільшити швидкість цих відкриттів, даючи нам наступні 50-100 років біологічного прогресу за 5-10 років.14 Чому не в 100 разів? Можливо, це можливо, але тут і послідовна залежність, і час експериментів стають важливими: отримання 100 років прогресу за 1 рік вимагає, щоб багато речей відразу пішли правильно, включаючи експерименти на тваринах і такі речі, як проектування мікроскопів або дорогих лабораторних об'єктів.

Я насправді відкритий до (можливо, абсурдно звучащої) ідеї, що ми могли б отримати 1000 років прогресу за 5-10 років, але дуже скептично ставлюся до того, що ми можемо отримати 100 років за 1 рік. Інший спосіб сказати це - я думаю, що є неминуча постійна затримка: експерименти та проектування апаратури мають певну "затримку" і потребують ітерації певну "незменшувану" кількість разів, щоб дізнатися речі, які не можна логічно вивести. Але масивний паралелізм може бути можливим поверх цього15.

А як щодо клінічних випробувань? Хоча з ними пов'язано багато бюрократії та уповільнення, правда полягає в тому, що багато (хоча і далеко не все!) в їхньої повільності в кінцевому рахунку походить від необхідності ретельно оцінювати ліки, які ледве працюють або працюють неоднозначно. На жаль, це стосується більшості терапій сьогодні: середній препарат від раку збільшує виживання на кілька місяців, при цьому маючи значні побічні ефекти, які потрібно ретельно вимірювати (подібна історія з ліками від хвороби Альцгеймера). Це призводить до величезних досліджень (для досягнення статистичної потужності) і складних компромісів, які регулюючі органи зазвичай не дуже добре справляються, знову ж таки через бюрократію та складність конкуруючих інтересів.

Коли щось працює дійсно добре, це йде набагато швидше: існує прискорений шлях затвердження, і легкість затвердження набагато більша, коли розміри ефектів більші. мРНК-вакцини для COVID були схвалені за 9 місяців - набагато швидше, ніж зазвичай. Однак, навіть за цих умов клінічні випробування все ще занадто повільні - мРНК-вакцини, можливо, повинні були бути схвалені за ~2 місяці. Але ці види затримок (~1 рік від початку до кінця для ліків) в поєднанні з масивною паралелізацією та потребою в деякій, але не надто великій ітерації ("кілька спроб") дуже сумісні з радикальною трансформацією за 5-10 років. Ще оптимістичніше, можливо, що наука, яку підтримує ШІ, зменшить потребу в ітерації в клінічних випробуваннях шляхом розробки кращих експериментальних моделей на тваринах і клітинах (або навіть симуляцій), які точніше передбачають, що станеться у людей. Це буде особливо важливо при розробці ліків проти процесу старіння, який триває десятиліттями і де нам потрібен швидший цикл ітерацій.

Нарешті, на тему клінічних випробувань і суспільних бар'єрів варто прямо зазначити, що в деяких відношеннях біомедичні інновації мають незвично сильний досвід успішного впровадження, на відміну від деяких інших технологій16. Як згадувалося у вступі, багато технологій ускладнюються соціальними факторами, незважаючи на те, що вони добре працюють технічно. Це могло б припустити песимістичну перспективу щодо того, чого може досягти ШІ. Але біомедицина унікальна тим, що хоча процес розробки ліків надмірно громіздкий, після розробки вони зазвичай успішно впроваджуються і використовуються.

Підсумовуючи вищесказане, мій основний прогноз полягає в тому, що біологія та медицина, що підтримуються ШІ, дозволять нам стиснути прогрес, якого біологи-люди досягли б за наступні 50-100 років, у 5-10 років. Я буду називати це "стиснутим 21 століттям": ідея полягає в тому, що після розробки потужного ШІ ми за кілька років зробимо весь прогрес в біології та медицині, який ми б зробили за все 21 століття.

Хоча прогнозування того, що потужний ШІ може зробити за кілька років, залишається по суті складним і спекулятивним, є певна конкретика в запитанні "що люди могли б зробити без допомоги за наступні 100 років?". Просто подивившись на те, чого ми досягли у 20 столітті, або екстраполювавши з перших 2 десятиліть 21 століття, або запитавши, що нам дало б "10 CRISPR'ів і 50 CAR-T", все це пропонує практичні, обґрунтовані способи оцінити загальний рівень прогресу, який ми могли б очікувати від потужного ШІ.

Нижче я намагаюся скласти список того, чого ми могли б очікувати. Це не базується на жодній суворій методології і майже напевно виявиться неправильним у деталях, але намагається передати загальний рівень радикалізму, якого ми повинні очікувати:

Надійне запобігання та лікування майже всіх17 природних інфекційних захворювань. Враховуючи величезні досягнення у боротьбі з інфекційними захворюваннями у 20 столітті, не радикально уявити, що ми могли б більш-менш "закінчити роботу" в стиснутому 21 столітті. мРНК-вакцини та подібні технології вже вказують шлях до "вакцин проти чого завгодно". Чи будуть інфекційні захворювання повністю викорінені зі світу (на відміну від лише деяких місць), залежить від питань бідності та нерівності, які обговорюються в розділі 3.

Усунення більшості видів раку. Показники смертності від раку знижуються на ~2% на рік протягом останніх десятиліть; таким чином, ми на шляху до усунення більшості видів раку в 21 столітті при нинішньому темпі розвитку людської науки. Деякі підтипи вже були значною мірою вилікувані (наприклад, деякі види лейкемії за допомогою CAR-T терапії), і я, можливо, навіть більше захоплений дуже селективними препаратами, які націлені на рак на його ранній стадії і запобігають його зростанню. ШІ також зробить можливими режими лікування, дуже тонко адаптовані до індивідуалізованого геному раку - це можливо і сьогодні, але дуже дорого з точки зору часу та людської експертизи, що ШІ повинен дозволити нам масштабувати. Здається можливим зниження на 95% або більше як смертності, так і захворюваності. Тим не менш, рак надзвичайно різноманітний і адаптивний, і, ймовірно, є найскладнішим з цих захворювань для повного знищення. Не було б дивно, якби асортимент рідкісних, складних злоякісних новоутворень зберігся.

Дуже ефективне запобігання та ефективне лікування генетичних захворювань. Значно покращений скринінг ембріонів, ймовірно, зробить можливим запобігання більшості генетичних захворювань, а якийсь безпечніший, надійніший нащадок CRISPR може вилікувати більшість генетичних захворювань у існуючих людей.

Однак, захворювання всього тіла, які вражають велику частку клітин, можуть бути останніми стійкими.

Запобігання хворобі Альцгеймера. У нас були великі труднощі з розумінням того, що викликає хворобу Альцгеймера (це якось пов'язано з бета-амілоїдним білком, але фактичні деталі, здається, дуже складні). Це здається саме тим типом проблеми, яка може бути вирішена за допомогою кращих інструментів вимірювання, які ізолюють біологічні ефекти; тому я оптимістично налаштований щодо здатності ШІ вирішити її. Є хороший шанс, що в кінцевому підсумку її можна буде запобігти відносно простими втручаннями, як тільки ми дійсно зрозуміємо, що відбувається. Однак, пошкодження від вже існуючої хвороби Альцгеймера може бути дуже важко повернути назад.

Покращене лікування більшості інших недуг. Це узагальнююча категорія для інших недуг, включаючи діабет, ожиріння, серцеві захворювання, аутоімунні захворювання та інші. Більшість з них здаються "легшими" для вирішення, ніж рак і хвороба Альцгеймера, і в багатьох випадках вже спостерігається різке зниження. Наприклад, смертність від серцевих захворювань вже знизилася більш ніж на 50%, а прості втручання, такі як агоністи GLP-1, вже досягли величезного прогресу в боротьбі з ожирінням і діабетом.

Біологічна свобода. Останні 70 років характеризувалися досягненнями в області контрацепції, фертильності, контролю ваги та багато іншого. Але я підозрюю, що біологія, прискорена ШІ, значно розширить можливості: вага, фізичний вигляд, репродукція та інші біологічні процеси будуть повністю під контролем людей. Ми будемо називати це під заголовком біологічної свободи: ідея, що кожна людина повинна мати можливість вибирати, ким вона хоче стати, і жити своїм життям так, як їй найбільше подобається. Звичайно, будуть важливі питання щодо глобальної рівності доступу; див. розділ 3.

Подвоєння тривалості життя людини18. Це може здатися радикальним, але очікувана тривалість життя збільшилася майже в 2 рази в 20 столітті (з ~40 років до ~75), тому це "в тренді", що "стиснуте 21" подвоїть її знову до 150. Очевидно, втручання, пов'язані з уповільненням самого процесу старіння, будуть відрізнятися від тих, які були необхідні в минулому столітті для запобігання (в основному дитячої) передчасної смерті від хвороб, але масштаб змін не є безпрецедентним19. Конкретно, вже існують препарати, які збільшують максимальну тривалість життя у щурів на 25-50% з обмеженими побічними ефектами. І деякі тварини (наприклад, деякі види черепах) вже живуть 200 років, тому люди явно не знаходяться на якійсь теоретичній верхній межі.

На мою думку, найважливішим, що потрібно, можуть бути надійні, не-Гудхартівські біомаркери людського старіння, оскільки це дозволить швидку ітерацію експериментів і клінічних випробувань. Як тільки тривалість життя людини досягне 150 років, ми можемо досягти "швидкості виходу", купуючи достатньо часу, щоб більшість тих, хто зараз живе, змогли жити стільки, скільки захочуть, хоча, звичайно, немає гарантії, що це біологічно можливо.

Варто поглянути на цей список і подумати, наскільки іншим буде світ, якщо все це буде досягнуто через 7-12 років від сьогодні (що відповідало б агресивному графіку ШІ). Зайве говорити, що це було б неуявним гуманітарним тріумфом, одночасним усуненням більшості бід, які переслідували людство тисячоліттями. Багато моїх друзів і колег виховують дітей, і коли ці діти виростуть, я сподіваюся, що будь-яка згадка про хворобу буде звучати для них так само, як для нас звучать цинга, віспа або бубонна чума. Це покоління також отримає користь від підвищеної біологічної свободи та самовираження, і, з удачею, також зможе жити стільки, скільки захоче.

Важко переоцінити, наскільки несподіваними будуть ці зміни для всіх, крім невеликої спільноти людей, які очікували потужного ШІ. Наприклад, тисячі економістів і політичних експертів в США зараз обговорюють, як зберегти платоспроможність Social Security і Medicare, і в більш широкому сенсі, як стримати зростання витрат на охорону здоров'я (які в основному споживаються людьми старше 70 років і особливо тими, хто має термінальні захворювання, такі як рак). Ситуація для цих програм, ймовірно, буде радикально покращена, якщо все це станеться20, оскільки співвідношення працездатного населення до пенсіонерів різко зміниться. Без сумніву, ці проблеми будуть замінені іншими, такими як забезпечення широкого доступу до нових технологій, але варто подумати про те, наскільки світ зміниться, навіть якщо біологія буде єдиною областю, яку успішно прискорить ШІ.

2. Нейронаука та розум. У попередньому розділі я зосередився на фізичних захворюваннях і біології в цілому, і не охопив нейронауку або психічне здоров'я. Але нейронаука є підрозділом біології, і психічне здоров'я так само важливе, як і фізичне здоров'я. Насправді, якщо вже на те пішло, психічне здоров'я впливає на добробут людини ще більш безпосередньо, ніж фізичне здоров'я. Сотні мільйонів людей мають дуже низьку якість життя через такі проблеми, як залежність, депресія, шизофренія, низькофункціональний аутизм, ПТСР, психопатія21 або інтелектуальна недостатність. Мільярди інших борються з повсякденними проблемами, які часто можна інтерпретувати як набагато м'якші версії одного з цих серйозних клінічних розладів. І як і у випадку з загальною біологією, можливо, можна піти далі вирішення проблем і покращити базову якість людського досвіду.

Основна структура, яку я виклав для біології, однаково застосовується і до нейронауки. Галузь рухається вперед завдяки невеликій кількості відкриттів, часто пов'язаних з інструментами для вимірювання або точного втручання - у списку вище оптогенетика була відкриттям в нейронауці, а нещодавно CLARITY і експансійна мікроскопія є досягненнями в тому ж дусі, на додаток до того, що багато загальних методів клітинної біології безпосередньо переносяться на нейронауку. Я думаю, що швидкість цих досягнень буде аналогічно прискорена ШІ, і тому структура "100 років прогресу за 5-10 років" застосовується до нейронауки так само, як і до біології, і з тих же причин. Як і в біології, прогрес в нейронауці 20-го століття був величезним - наприклад, ми навіть не розуміли, як і чому нейрони спрацьовують, до 1950-х років. Таким чином, здається розумним очікувати, що нейронаука, прискорена ШІ, призведе до швидкого прогресу протягом кількох років.

Є одна річ, яку ми повинні додати до цієї базової картини, а саме те, що деякі речі, які ми дізналися (або дізнаємося) про сам ШІ за останні кілька років, ймовірно, допоможуть просунути нейронауку, навіть якщо вона продовжуватиме здійснюватися тільки людьми. Інтерпретованість є очевидним прикладом: хоча біологічні нейрони поверхнево працюють зовсім по-іншому, ніж штучні нейрони (вони спілкуються через спайки і часто швидкість спайків, тому є часовий елемент, відсутній у штучних нейронах, і ряд деталей, пов'язаних з клітинною фізіологією і нейротрансмітерами, суттєво модифікує їх роботу), основне питання "як розподілені, навчені мережі простих одиниць, що виконують комбіновані лінійні/нелінійні операції, працюють разом для виконання важливих обчислень" є однаковим, і я сильно підозрюю, що деталі індивідуальної комунікації нейронів будуть абстраговані в більшості цікавих питань про обчислення і схеми22. Як лише один приклад цього, обчислювальний механізм, відкритий дослідниками інтерпретованості в системах ШІ, нещодавно був повторно відкритий в мозку мишей.

Набагато легше проводити експерименти на штучних нейронних мережах, ніж на реальних (останнє часто вимагає розрізання мозку тварин), тому інтерпретованість може стати інструментом для покращення нашого розуміння нейронауки. Крім того, потужні ШІ, ймовірно, самі зможуть розробляти і застосовувати цей інструмент краще, ніж люди.

Але крім інтерпретованості, те, що ми дізналися з ШІ про те, як навчаються інтелектуальні системи, повинно (хоча я не впевнений, що це вже сталося) викликати революцію в нейронауці.

Коли я працював в нейронауці, багато людей зосереджувалися на тому, що я б зараз вважав неправильними питаннями про навчання, тому що концепція гіпотези масштабування / гіркого уроку ще не існувала.

Ідея про те, що проста цільова функція плюс багато даних може призвести до неймовірно складної поведінки, робить більш цікавим розуміння цільових функцій і архітектурних упереджень і менш цікавим розуміння деталей виникаючих обчислень.

Я не дуже уважно стежив за галуззю в останні роки, але у мене є смутне відчуття, що обчислювальні нейронауковці все ще не повністю засвоїли цей урок. Моє ставлення до гіпотези масштабування завжди було "ага - це пояснення, на високому рівні, того, як працює інтелект і як він так легко еволюціонував", але я не думаю, що це погляд середнього нейронауковця, частково тому, що гіпотеза масштабування як "секрет інтелекту" не повністю прийнята навіть в рамках ШІ.

Я думаю, що нейронауковці повинні намагатися поєднати це базове розуміння з особливостями людського мозку (біофізичні обмеження, еволюційна історія, топологія, деталі моторних і сенсорних входів/виходів), щоб спробувати розгадати деякі ключові загадки нейронауки. Деякі, ймовірно, вже це роблять, але я підозрюю, що цього ще недостатньо, і що нейронауковці ШІ зможуть більш ефективно використовувати цей підхід для прискорення прогресу.

Я очікую, що ШІ прискорить нейронауковий прогрес у чотирьох різних напрямках, які всі разом можуть допомогти вилікувати психічні захворювання та покращити функціонування:

Традиційна молекулярна біологія, хімія та генетика. Це по суті та ж історія, що і загальна біологія в розділі 1, і ШІ може прискорити її за допомогою тих же механізмів. Існує багато ліків, які модулюють нейротрансмітери для зміни функції мозку, впливають на пильність або сприйняття, змінюють настрій тощо, і ШІ може допомогти нам винайти ще багато таких. ШІ, ймовірно, також може прискорити дослідження генетичної основи психічних захворювань. Точне нейронне вимірювання та втручання. Це здатність вимірювати, що роблять багато окремих нейронів або нейронних схем, і втручатися, щоб змінити їх поведінку. Оптогенетика та нейронні зонди - це технології, здатні як вимірювати, так і втручатися в живі організми, і ряд дуже передових методів (таких як молекулярні тікер-стрічки для зчитування схем спрацьовування великої кількості окремих нейронів) також були запропоновані і здаються можливими в принципі.

Передова обчислювальна нейронаука. Як зазначалося вище, як конкретні знання, так і загальний підхід сучасного ШІ, ймовірно, можуть бути плідно застосовані до питань системної нейронауки, включаючи, можливо, розкриття реальних причин і динаміки складних захворювань, таких як психоз або розлади настрою.

Поведінкові втручання. Я не дуже згадував про це, враховуючи акцент на біологічній стороні нейронауки, але психіатрія та психологія, звичайно, розробили широкий репертуар поведінкових втручань протягом 20-го століття; логічно припустити, що ШІ міг би прискорити їх також, як розробку нових методів, так і допомогу пацієнтам дотримуватися існуючих методів. В більш широкому сенсі, ідея "ШІ-коуча", який завжди допомагає вам бути найкращою версією себе, який вивчає ваші взаємодії і допомагає вам навчитися бути більш ефективним, здається дуже перспективною. Я припускаю, що ці чотири напрямки прогресу, працюючи разом, як і з фізичними захворюваннями, будуть на шляху до лікування або запобігання більшості психічних захворювань у наступні 100 років, навіть якби ШІ не був залучений - і тому можуть бути розумно завершені за 5-10 років, прискорених ШІ. Конкретно, мій здогад про те, що станеться, це щось на кшталт:

Більшість психічних захворювань, ймовірно, можна вилікувати. Я не експерт з психіатричних захворювань (мій час у нейронауці був витрачений на створення зондів для вивчення невеликих груп нейронів), але я припускаю, що такі захворювання, як ПТСР, депресія, шизофренія, залежність тощо, можуть бути розгадані і дуже ефективно лікуватися за допомогою якоїсь комбінації чотирьох вищезазначених напрямків. Відповідь, ймовірно, буде якоюсь комбінацією "щось пішло не так біохімічно" (хоча це може бути дуже складно) і "щось пішло не так з нейронною мережею, на високому рівні". Тобто, це питання системної нейронауки - хоча це не применшує впливу поведінкових втручань, обговорених вище. Інструменти для вимірювання та втручання, особливо у живих людей, здаються ймовірними призвести до швидкої ітерації та прогресу. Стани, які дуже "структурні", можуть бути більш складними, але не неможливими. Є деякі докази того, що психопатія пов'язана з очевидними нейроанатомічними відмінностями - що деякі області мозку просто менші або менш розвинені у психопатів. Також вважається, що психопатам не вистачає емпатії з раннього віку; що б не було іншим у їхньому мозку, воно, ймовірно, завжди було таким. Те ж саме може бути вірно для деяких інтелектуальних недоліків і, можливо, інших станів.

Реструктуризація мозку звучить складно, але це також здається завданням з високою віддачею від інтелекту. Можливо, є якийсь спосіб спонукати дорослий мозок до більш раннього або більш пластичного стану, де його можна перебудувати. Я дуже невпевнений, наскільки це можливо, але мій інстинкт - бути оптимістичним щодо того, що ШІ може винайти тут.

Здається можливим ефективне генетичне запобігання психічним захворюванням. Більшість психічних захворювань частково успадковуються, і дослідження асоціацій по всьому геному починають досягати успіху в ідентифікації відповідних факторів, які часто бувають численними. Ймовірно, буде можливо запобігти більшості цих захворювань за допомогою скринінгу ембріонів, аналогічно до історії з фізичними захворюваннями. Одна відмінність полягає в тому, що психіатричні захворювання з більшою ймовірністю є полігенними (багато генів вносять свій вклад), тому через складність існує підвищений ризик ненавмисного відбору проти позитивних рис, які корелюють із захворюванням. Дивно, однак, що в останні роки дослідження GWAS, здається, припускають, що ці кореляції могли бути перебільшені. У будь-якому випадку, нейронаука, прискорена ШІ, може допомогти нам розібратися в цих речах. Звичайно, скринінг ембріонів на складні ознаки піднімає ряд суспільних питань і буде суперечливим, хоча я припускаю, що більшість людей підтримали б скринінг на серйозні або виснажливі психічні захворювання. Буде вирішено також повсякденні проблеми, які ми не вважаємо клінічними захворюваннями. Більшість із нас мають повсякденні психологічні проблеми, які зазвичай не вважаються такими, що досягають рівня клінічного захворювання. Деякі люди швидко гніваються, інші мають проблеми з концентрацією уваги або часто сонливі, деякі боязкі або тривожні, або погано реагують на зміни.

Сьогодні вже існують препарати, які допомагають, наприклад, з пильністю або концентрацією (кофеїн, модафініл, риталін), але, як і в багатьох інших попередніх областях, можливо набагато більше. Ймовірно, існує ще багато таких препаратів, які не були відкриті, і можуть також існувати абсолютно нові способи втручання, такі як цільова світлова стимуляція (див. оптогенетику вище) або магнітні поля. Враховуючи, скільки ліків ми розробили в 20-му столітті, які налаштовують когнітивні функції та емоційний стан, я дуже оптимістично налаштований щодо "стиснутого 21-го", де кожен може змусити свій мозок поводитися трохи краще і мати більш насичений повсякденний досвід. Базовий досвід людини може бути набагато кращим. Роблячи ще один крок далі, багато людей переживали надзвичайні моменти одкровення, творчого натхнення, співчуття, задоволення, трансцендентності, любові, краси або медитативного спокою. Характер і частота цих переживань сильно відрізняються від людини до людини і в межах однієї людини в різний час, і іноді також можуть бути викликані різними наркотиками (хоча часто з побічними ефектами).

Все це свідчить про те, що "простір того, що можливо відчути" дуже широкий і що більша частка життя людей могла б складатися з цих надзвичайних моментів. Ймовірно, також можливо покращити різні когнітивні функції в цілому. Це, можливо, нейронаукова версія "біологічної свободи" або "продовженої тривалості життя". Одна тема, яка часто з'являється в науково-фантастичних зображеннях ШІ, але яку я навмисно не обговорював тут, - це "завантаження розуму", ідея захоплення патерну і динаміки людського мозку та втілення їх у програмному забезпеченні. Ця тема могла б бути предметом окремого есе сама по собі, але достатньо сказати, що хоча я думаю, що завантаження майже напевно можливе в принципі, на практиці воно стикається зі значними технологічними та суспільними викликами, навіть з потужним ШІ, які, ймовірно, виводять його за межі 5-10-річного вікна, яке ми обговорюємо.

Підсумовуючи, нейронаука, прискорена ШІ, ймовірно, значно покращить лікування або навіть вилікує більшість психічних захворювань, а також значно розширить "когнітивну та психічну свободу" та когнітивні та емоційні здібності людини. Це буде настільки ж радикальним, як і покращення фізичного здоров'я, описані в попередньому розділі. Можливо, світ не буде видимо відрізнятися зовні, але світ, який переживають люди, стане набагато кращим і більш гуманним місцем, а також місцем, що пропонує більші можливості для самореалізації. Я також підозрюю, що покращення психічного здоров'я пом'якшить багато інших суспільних проблем, включаючи ті, що здаються політичними або економічними.

3. Економічний розвиток і бідність Попередні два розділи присвячені розробці нових технологій, які лікують хвороби та покращують якість людського життя. Однак очевидне питання з гуманітарної точки зору: "чи матимуть всі доступ до цих технологій?"

Одна справа розробити ліки від хвороби, інша справа - викорінити хворобу зі світу. Більш широко, багато існуючих медичних втручань ще не застосовані скрізь у світі, і те ж саме стосується (не медичних) технологічних вдосконалень в цілому.

Іншими словами, рівень життя в багатьох частинах світу все ще відчайдушно низький: ВВП на душу населення становить ~$2,000 в Африці на південь від Сахари порівняно з ~$75,000 в Сполучених Штатах. Якщо ШІ ще більше збільшить економічне зростання і якість життя в розвиненому світі, мало що роблячи для допомоги світу, що розвивається, ми повинні розглядати це як жахливу моральну невдачу і пляму на справжніх гуманітарних перемогах у попередніх двох розділах. В ідеалі, потужний ШІ повинен допомогти світу, що розвивається, наздогнати розвинений світ, навіть коли він революціонізує останнім.

Я не настільки впевнений, що ШІ може вирішити проблеми нерівності та економічного зростання, як я впевнений, що він може винаходити фундаментальні технології, тому що технологія має такі очевидні високі віддачі від інтелекту (включаючи здатність обходити складності та відсутність даних), тоді як економіка включає багато обмежень від людей, а також велику дозу внутрішньої складності. Я дещо скептично ставлюся до того, що ШІ міг би вирішити відому "проблему соціалістичного розрахунку"23, і я не думаю, що уряди будуть (або повинні) передавати свою економічну політику такій сутності, навіть якби вона могла це зробити. Є також проблеми, як-от як переконати людей приймати лікування, які є ефективними, але до яких вони можуть ставитися з підозрою.

Виклики, що стоять перед світом, що розвивається, ще більше ускладнюються поширеною корупцією як у приватному, так і в державному секторах. Корупція створює замкнене коло: вона посилює бідність, а бідність, у свою чергу, породжує ще більше корупції. Плани економічного розвитку, керовані ШІ, повинні враховувати корупцію, слабкі інститути та інші дуже людські виклики.

Тим не менш, я бачу значні причини для оптимізму. Хвороби були викоренені, і багато країн перейшли від бідних до багатих, і очевидно, що рішення, пов'язані з цими завданнями, демонструють високу віддачу від інтелекту (незважаючи на людські обмеження та складність). Тому ШІ, ймовірно, може виконувати їх краще, ніж це робиться зараз. Можуть також бути цільові втручання, які обходять людські обмеження і на яких ШІ міг би зосередитися. Що ще важливіше, ми повинні спробувати. Як компанії з ШІ, так і політики розвиненого світу повинні зробити свій внесок, щоб забезпечити, що світ, що розвивається, не залишиться осторонь; моральний імператив занадто великий. Тому в цьому розділі я продовжу робити оптимістичний сценарій, але пам'ятайте скрізь, що успіх не гарантований і залежить від наших колективних зусиль.

Нижче я роблю деякі припущення про те, як, на мою думку, можуть розвиватися речі у світі, що розвивається, протягом 5-10 років після розробки потужного ШІ:

Розповсюдження медичних втручань. Область, де я, можливо, найбільш оптимістичний, - це розповсюдження медичних втручань по всьому світу. Хвороби фактично були викоренені масштабними кампаніями: віспа була повністю ліквідована в 1970-х роках, а поліомієліт і дракункульоз майже викоренені з менш ніж 100 випадками на рік. Математично складне епідеміологічне моделювання відіграє активну роль у кампаніях з викорінення хвороб, і здається дуже ймовірним, що розумніші за людину системи ШІ можуть виконувати цю роботу краще, ніж люди. Логістику розповсюдження також, ймовірно, можна значно оптимізувати. Одна річ, яку я дізнався як ранній донор GiveWell, полягає в тому, що деякі благодійні організації охорони здоров'я набагато ефективніші за інші; надія полягає в тому, що зусилля, прискорені ШІ, будуть ще ефективнішими. Крім того, деякі біологічні досягнення фактично значно спрощують логістику розповсюдження: наприклад, малярію важко викоренити, тому що вона вимагає лікування кожного разу, коли хвороба контрактується; вакцина, яку потрібно вводити лише один раз, робить логістику набагато простішою (і такі вакцини проти малярії фактично зараз розробляються). Можливі навіть простіші механізми розповсюдження: деякі хвороби в принципі можна викоренити, націлюючись на їхніх тваринних носіїв, наприклад, випускаючи комарів, інфікованих бактерією, яка блокує їхню здатність переносити хворобу (які потім інфікують всіх інших комарів), або просто використовуючи генетичні приводи для знищення комарів. Це вимагає однієї або декількох централізованих дій, а не скоординованої кампанії, яка повинна індивідуально лікувати мільйони.

Загалом, я думаю, що 5-10 років - це розумний термін для того, щоб хороша частка (може, 50%) переваг для здоров'я, керованих ШІ, поширилася навіть на найбідніші країни світу. Хорошою метою могло б бути, щоб світ, що розвивається, через 5-10 років після потужного ШІ був принаймні значно здоровішим, ніж розвинений світ сьогодні, навіть якщо він продовжує відставати від розвиненого світу. Звичайно, для досягнення цього знадобляться величезні зусилля в галузі глобального здоров'я, філантропії, політичної адвокації та багатьох інших зусиль, з якими повинні допомогти як розробники ШІ, так і політики.

Економічне зростання. Чи може світ, що розвивається, швидко наздогнати розвинений світ не лише в охороні здоров'я, але й в економіці в цілому?

Для цього є деякі прецеденти: в останні десятиліття 20-го століття кілька східноазіатських економік досягли стійких темпів реального зростання ВВП ~10% на рік, що дозволило їм наздогнати розвинений світ. Людські економічні планувальники приймали рішення, які призвели до цього успіху, не шляхом прямого контролю над цілими економіками, а шляхом натискання кількох ключових важелів (таких як промислова політика експортно-орієнтованого зростання та опір спокусі покладатися на багатство природних ресурсів); правдоподібно, що "ШІ-міністри фінансів та центральні банкіри" могли б повторити або перевершити це 10% досягнення. Важливе питання полягає в тому, як змусити уряди країн, що розвиваються, прийняти їх, поважаючи принцип самовизначення - деякі можуть бути ентузіастами щодо цього, але інші, ймовірно, будуть скептично налаштовані. З оптимістичного боку, багато з медичних втручань, згаданих у попередньому пункті, ймовірно, органічно збільшать економічне зростання: викорінення СНІДу/малярії/паразитичних черв'яків матиме трансформаційний ефект на продуктивність, не кажучи вже про економічні вигоди, які деякі нейронаукові втручання (такі як покращення настрою та концентрації) матимуть як у розвиненому світі, так і в світі, що розвивається. Нарешті, не медичні технології, прискорені ШІ (такі як енергетичні технології, транспортні дрони, покращені будівельні матеріали, краща логістика та розподіл тощо) можуть просто проникнути в світ природним шляхом; наприклад, навіть мобільні телефони швидко проникли в Африку на південь від Сахари через ринкові механізми, без необхідності філантропічних зусиль.

З більш негативного боку, хоча ШІ та автоматизація мають багато потенційних переваг, вони також створюють виклики для економічного розвитку, особливо для країн, які ще не індустріалізувалися. Пошук способів забезпечити, щоб ці країни все ще могли розвиватися та покращувати свою економіку в епоху зростаючої автоматизації, є важливим викликом, який повинні вирішити економісти та політики. Загалом, мрія-сценарій - можливо, мета, до якої слід прагнути - це 20% річний темп зростання ВВП у світі, що розвивається, з 10% від кожного з рішень, керованих ШІ, та природного поширення технологій, прискорених ШІ, включаючи, але не обмежуючись охороною здоров'я. Якщо це буде досягнуто, це приведе Африку на південь від Сахари до нинішнього ВВП на душу населення Китаю за 5-10 років, піднявши більшу частину решти світу, що розвивається, до рівнів, вищих за нинішній ВВП США. Знову ж таки, це мрія-сценарій, а не те, що відбувається за замовчуванням: це щось, над чим всі ми повинні працювати разом, щоб зробити більш ймовірним.

Продовольча безпека24. Досягнення в технології вирощування культур, такі як кращі добрива та пестициди, більша автоматизація та більш ефективне використання землі, різко збільшили врожайність культур протягом 20-го століття, врятувавши мільйони людей від голоду. Генетична інженерія в даний час ще більше покращує багато культур. Пошук ще більшої кількості способів зробити це - а також зробити сільськогосподарські ланцюги поставок ще ефективнішими - міг би дати нам другу Зелену революцію, керовану ШІ, допомагаючи скоротити розрив між світом, що розвивається, та розвиненим світом.

Пом'якшення наслідків зміни клімату.

Зміна клімату буде відчуватися набагато сильніше в світі, що розвивається, перешкоджаючи його розвитку. Ми можемо очікувати, що ШІ призведе до вдосконалення технологій, які уповільнюють або запобігають зміні клімату, від видалення вуглецю з атмосфери та технологій чистої енергії до вирощеного в лабораторії м'яса, яке зменшує нашу залежність від вуглецево-інтенсивного промислового тваринництва. Звичайно, як обговорювалося вище, технологія - не єдине, що обмежує прогрес у боротьбі зі зміною клімату - як і з усіма іншими питаннями, обговореними в цьому есе, важливі людські суспільні фактори. Але є вагомі причини думати, що дослідження, посилені ШІ, дадуть нам засоби зробити пом'якшення наслідків зміни клімату набагато менш дорогим і руйнівним, роблячи багато заперечень недійсними та звільняючи країни, що розвиваються, для більшого економічного прогресу.

Нерівність всередині країн. Я в основному говорив про нерівність як про глобальне явище (яке, я думаю, є її найважливішим проявом), але, звичайно, нерівність також існує всередині країн. З передовими медичними втручаннями і особливо радикальним збільшенням тривалості життя або когнітивними засобами покращення, безумовно, будуть обґрунтовані побоювання, що ці технології "тільки для багатих". Я більш оптимістично налаштований щодо нерівності всередині країн, особливо в розвиненому світі, з двох причин. По-перше, ринки функціонують краще в розвиненому світі, і ринки зазвичай добре справляються зі зниженням вартості високовартісних технологій з часом25.

По-друге, політичні інститути розвиненого світу більш чутливі до своїх громадян і мають більшу державну спроможність виконувати програми універсального доступу - і я очікую, що громадяни будуть вимагати доступу до технологій, які так радикально покращують якість життя. Звичайно, це не є заздалегідь визначеним, що такі вимоги будуть успішними - і це ще одне місце, де ми колективно повинні робити все можливе, щоб забезпечити справедливе суспільство. Існує окрема проблема нерівності багатства (на відміну від нерівності доступу до життєво важливих і життєпокращуючих технологій), яка здається складнішою і яку я обговорюю в розділі 5.

Проблема відмови. Одне занепокоєння як у розвиненому, так і в світі, що розвивається, - це люди, які відмовляються від переваг, наданих ШІ (подібно до антивакцинаторського руху або лудитських рухів в цілому). Можуть виникнути погані цикли зворотного зв'язку, коли, наприклад, люди, які найменш здатні приймати хороші рішення, відмовляються саме від тих технологій, які покращують їхні здібності приймати рішення, що призводить до все більшого розриву і навіть створення дистопічного підклас

у (деякі дослідники стверджують, що це підірве демократію, тему, яку я детальніше обговорюю в наступному розділі). Це знову накладе моральну пляму на позитивні досягнення ШІ. Це складна проблема для вирішення, оскільки я не думаю, що етично правильно примушувати людей, але ми можемо принаймні спробувати підвищити наукове розуміння людей - і, можливо, сам ШІ може допомогти нам у цьому. Один обнадійливий знак полягає в тому, що історично антитехнологічні рухи були більше гавкотом, ніж укусом: критикувати сучасні технології популярно, але більшість людей в кінцевому підсумку приймає їх, принаймні коли йдеться про індивідуальний вибір. Окремі особи, як правило, приймають більшість технологій здоров'я та споживчих технологій, тоді як технології, які дійсно гальмуються, як-от ядерна енергетика, як правило, є колективними політичними рішеннями.

Загалом, я оптимістично налаштований щодо швидкого поширення біологічних досягнень ШІ серед людей у світі, що розвивається. Я сподіваюся, хоча й не впевнений, що ШІ також може забезпечити безпрецедентні темпи економічного зростання і дозволити світу, що розвивається, принаймні перевершити те, де зараз знаходиться розвинений світ. Я занепокоєний проблемою "відмови" як у розвиненому світі, так і в світі, що розвивається, але підозрюю, що вона з часом згасне, і що ШІ може допомогти прискорити цей процес. Це не буде ідеальний світ, і ті, хто відстає, не повністю наздоженуть, принаймні не в перші кілька років. Але за сильних зусиль з нашого боку ми можемо змусити речі рухатися у правильному напрямку - і швидко. Якщо ми це зробимо, ми зможемо зробити принаймні початковий внесок у обіцянки гідності та рівності, які ми винні кожній людині на землі.

4. Мир і управління. Припустимо, що все в перших трьох розділах йде добре: хвороби, бідність і нерівність значно зменшуються, а базовий рівень людського досвіду суттєво підвищується. З цього не випливає, що всі основні причини людських страждань вирішені. Люди все ще є загрозою один для одного. Хоча існує тенденція до того, що технологічне вдосконалення та економічний розвиток ведуть до демократії та миру, це дуже слабка тенденція, з частими (і недавніми) відступами. На початку 20-го століття люди думали, що вони залишили війну позаду; потім прийшли дві світові війни. Тридцять років тому Френсіс Фукуяма писав про "Кінець історії" і остаточний тріумф ліберальної демократії; це ще не сталося. Двадцять років тому політики США вірили, що вільна торгівля з Китаєм змусить його лібералізуватися по мірі того, як він ставатиме багатшим; це дуже не сталося, і тепер ми, здається, рухаємося до другої холодної війни з відродженим авторитарним блоком. І правдоподібні теорії припускають, що інтернет-технології можуть фактично дати перевагу авторитаризму, а не демократії, як спочатку вважалося (наприклад, в період "Арабської весни"). Здається важливим спробувати зрозуміти, як потужний ШІ буде перетинатися з цими питаннями миру, демократії та свободи.

На жаль, я не бачу жодних сильних причин вважати, що ШІ буде переважно або структурно просувати демократію та мир, так само, як я думаю, що він структурно просуватиме здоров'я людини та полегшуватиме бідність. Людський конфлікт є змагальним, і ШІ в принципі може допомогти як "хорошим хлопцям", так і "поганим хлопцям". Якщо вже на те пішло, деякі структурні фактори здаються тривожними: ШІ, здається, дозволить набагато кращу пропаганду та спостереження, обидва основні інструменти в арсеналі автократа. Тому саме від нас як окремих акторів залежить схилити речі в правильному напрямку: якщо ми хочемо, щоб ШІ сприяв демократії та індивідуальним правам, ми повинні боротися за цей результат. Я відчуваю це ще сильніше, ніж щодо міжнародної нерівності: тріумф ліберальної демократії та політичної стабільності не гарантований, можливо, навіть не ймовірний, і вимагатиме великих жертв і відданості з боку всіх нас, як це часто було в минулому.

Я розглядаю це питання як таке, що має дві частини: міжнародний конфлікт і внутрішня структура націй. На міжнародному рівні здається дуже важливим, щоб демократії мали перевагу на світовій арені, коли буде створено потужний ШІ. ШІ-посилений авторитаризм здається занадто жахливим, щоб його можна було розглядати, тому демократії повинні мати можливість встановлювати умови, за якими потужний ШІ буде введений у світ, як для того, щоб уникнути переваги авторитарних режимів, так і для запобігання порушенням прав людини в авторитарних країнах.

Моя поточна здогадка щодо найкращого способу зробити це - це "стратегія згоди"26, в якій коаліція демократій прагне отримати чітку перевагу (навіть якщо тимчасову) в потужному ШІ шляхом забезпечення його ланцюга поставок, швидкого масштабування та блокування або затримки доступу противників до ключових ресурсів, таких як чіпи та обладнання для напівпровідників. Ця коаліція з одного боку використовувала б ШІ для досягнення надійної військової переваги (палиця), а з іншого боку пропонувала б розповсюдити переваги потужного ШІ (морква) на все ширшу групу країн в обмін на підтримку стратегії коаліції щодо просування демократії (це було б трохи аналогічно "Атомам для миру"). Коаліція прагнула б отримати підтримку все більшої частини світу, ізолюючи наших найгірших супротивників і врешті-решт ставлячи їх у позицію, де вони краще погодяться на ту ж угоду, що і решта світу: відмовитися від конкуренції з демократіями, щоб отримати всі переваги і не боротися з вищим супротивником.

Якщо ми зможемо все це зробити, у нас буде світ, в якому демократії лідирують на світовій арені і мають економічну та військову силу, щоб уникнути підриву, завоювання або саботажу з боку автократій, і можуть використати свою перевагу в ШІ для досягнення тривалої переваги. Це оптимістично може призвести до "вічного 1991 року" - світу, де демократії мають перевагу і мрії Фукуями реалізуються. Знову ж таки, це буде дуже важко досягти, і зокрема вимагатиме тісної співпраці між приватними компаніями з ШІ та демократичними урядами, а також надзвичайно мудрих рішень щодо балансу між морквою та палицею.

Навіть якщо все це піде добре, залишається питання боротьби між демократією та автократією всередині кожної країни. Очевидно, важко передбачити, що станеться тут, але я маю деякий оптимізм, що за умови глобального середовища, в якому демократії контролюють найпотужніший ШІ, тоді ШІ може фактично структурно сприяти демократії скрізь. Зокрема, в цьому середовищі демократичні уряди можуть використовувати свій вищий ШІ для перемоги в інформаційній війні: вони можуть протидіяти операціям впливу та пропаганді з боку автократій і навіть можуть створити глобально вільне інформаційне середовище, надаючи канали інформації та послуги ШІ таким чином, що автократії не мають технічної можливості блокувати або моніторити. Ймовірно, не потрібно доставляти пропаганду, лише протидіяти злісним атакам і розблокувати вільний потік інформації. Хоча і не негайно, рівні умови такого роду мають хороший шанс поступово схилити глобальне управління до демократії з кількох причин.

По-перше, підвищення якості життя в розділах 1-3 повинно, за інших рівних умов, сприяти демократії: історично воно це робило, принаймні до певної міри. Зокрема, я очікую, що покращення психічного здоров'я, добробуту та освіти збільшать демократію, оскільки всі три негативно корелюють з підтримкою авторитарних лідерів. Загалом, люди хочуть більше самовираження, коли їхні інші потреби задоволені, а демократія, серед іншого, є формою самовираження. І навпаки, авторитаризм процвітає на страху та обуренні.

По-друге, є хороший шанс, що вільна інформація дійсно підриває авторитаризм, якщо авторитари не можуть її цензурувати. І нецензурований ШІ також може надати окремим особам потужні інструменти для підриву репресивних урядів. Репресивні уряди виживають, відмовляючи людям у певному виді загальних знань, не даючи їм зрозуміти, що "імператор голий". Наприклад, Срджа Попович, який допоміг повалити уряд Мілошевича в Сербії, багато писав про техніки психологічного позбавлення авторитарів їхньої влади, про те, як зламати чари і об'єднати підтримку проти диктатора. Надлюдськи ефективна версія Поповича з ШІ (навички якого здаються такими, що мають високу віддачу від інтелекту) в кишені кожного, яку диктатори безсилі заблокувати або цензурувати, могла б створити вітер у спину дисидентам і реформаторам по всьому світу.

Щоб повторити ще раз, це буде довга і затяжна боротьба, де перемога не гарантована, але якщо ми розробимо і побудуємо ШІ правильно, це може принаймні бути боротьба, де прихильники свободи скрізь мають перевагу.

Як і з нейронаукою та біологією, ми також можемо запитати, як речі можуть бути "кращими за нормальні" - не просто як уникнути автократії, але як зробити демократії кращими, ніж вони є сьогодні. Навіть всередині демократій несправедливість трапляється весь час. Суспільства верховенства права дають обіцянку своїм громадянам, що всі будуть рівні перед законом і всі мають право на основні права людини, але очевидно, що люди не завжди отримують ці права на практиці. Те, що ця обіцянка навіть частково виконується, робить її чимось, чим можна пишатися, але чи може ШІ допомогти нам зробити краще?

Наприклад, чи може ШІ покращити нашу правову та судову систему, зробивши рішення та процеси більш неупередженими? Сьогодні люди в основному турбуються в правових або судових контекстах, що системи ШІ будуть причиною дискримінації, і ці побоювання важливі і потребують захисту. У той же час, життєздатність демократії залежить від використання нових технологій для покращення демократичних інститутів, а не просто реагування на ризики. По-справжньому зріла і успішна реалізація ШІ має потенціал зменшити упередженість і бути справедливішою для всіх.

Протягом століть правові системи стикалися з дилемою, що закон прагне бути неупередженим, але за своєю суттю є суб'єктивним і тому повинен інтерпретуватися упередженими людьми.

Спроба зробити закон повністю механічним не спрацювала, тому що реальний світ складний і не завжди може бути захоплений у математичних формулах. Натомість правові системи покладаються на сумнозвісно неточні критерії, такі як "жорстоке і незвичайне покарання" або "абсолютно без соціальної цінності", які люди потім інтерпретують - і часто роблять це упереджено, фаворитично або довільно. "Розумні контракти" в криптовалютах не революціонізували право, тому що звичайний код недостатньо розумний, щоб вирішувати багато цікавих питань. Але ШІ може бути достатньо розумним для цього: це перша технологія, здатна робити широкі, нечіткі судження повторюваним і механічним способом.

Я не пропоную буквально замінити суддів системами ШІ, але комбінація неупередженості зі здатністю розуміти і обробляти заплутані, реальні ситуації відчувається так, ніби вона повинна мати деякі серйозні позитивні застосування в праві та правосудді. Принаймні такі системи могли б працювати поряд з людьми як допомога в прийнятті рішень. Прозорість була б важливою в будь-якій такій системі, і зріла наука про ШІ могла б її забезпечити: процес навчання таких систем міг би бути широко вивчений, а передові методи інтерпретації могли б бути використані для того, щоб заглянути всередину кінцевої моделі і оцінити її на предмет прихованих упереджень, способом, який просто неможливий з людьми.

Такі інструменти ШІ також могли б використовуватися для моніторингу порушень фундаментальних прав у судовому чи поліцейському контексті, роблячи конституції більш самовиконуваними.

У подібному ключі ШІ міг би використовуватися як для агрегації думок, так і для досягнення консенсусу серед громадян, вирішуючи конфлікти, знаходячи спільну основу і шукаючи компроміс. Деякі ранні ідеї в цьому напрямку були розпочаті проектом обчислювальної демократії, включаючи співпрацю з Anthropic. Більш інформоване і вдумливе громадянство, очевидно, зміцнило б демократичні інститути.

Існує також чітка можливість використання ШІ для допомоги у наданні державних послуг - таких як медичні пільги або соціальні послуги - які в принципі доступні для всіх, але на практиці часто серйозно не вистачає, і гірше в одних місцях, ніж в інших. Це включає медичні послуги, DMV, податки, соціальне забезпечення, забезпечення дотримання будівельних норм тощо. Наявність дуже вдумливого і інформованого ШІ, робота якого полягає в тому, щоб дати вам все, на що ви маєте законне право від уряду, способом, який ви можете зрозуміти - і який також допомагає вам дотримуватися часто заплутаних державних правил - було б великою справою. Збільшення державної спроможності як допомагає виконати обіцянку рівності перед законом, так і зміцнює повагу до демократичного управління. Погано реалізовані послуги в даний час є основним фактором цинізму щодо уряду27.

Все це дещо розпливчасті ідеї, і, як я сказав на початку цього розділу, я далеко не настільки впевнений в їх здійсненності, як я впевнений в досягненнях в біології, нейронауці та подоланні бідності. Вони можуть бути нереалістично утопічними. Але важливо мати амбітне бачення, бути готовим мріяти велике і пробувати речі. Бачення ШІ як гаранта свободи, індивідуальних прав і рівності перед законом - це занадто потужне бачення, щоб не боротися за нього. Політія 21-го століття, посилена ШІ, могла б бути як сильнішим захисником індивідуальної свободи, так і маяком надії, який допомагає зробити ліберальну демократію формою правління, яку весь світ хоче прийняти.

5. Робота і сенс. Навіть якщо все в попередніх чотирьох розділах піде добре - не тільки ми полегшимо хвороби, бідність і нерівність, але ліберальна демократія стане домінуючою формою правління, а існуючі ліберальні демократії стануть кращими версіями себе - принаймні одне важливе питання все ще залишається. "Це чудово, що ми живемо в такому технологічно розвиненому світі, а також справедливому і пристойному", - міг би заперечити хтось, "але з ШІ, що робить все, як люди матимуть сенс? До речі, як вони взагалі виживуть економічно?".

Я думаю, що це питання складніше за інші. Я не маю на увазі, що я обов'язково більш песимістичний щодо нього, ніж щодо інших питань (хоча я дійсно бачу проблеми). Я маю на увазі, що воно більш розпливчасте і його важче передбачити заздалегідь, тому що воно стосується макроскопічних питань про те, як організоване суспільство, які, як правило, вирішуються лише з часом і децентралізовано. Наприклад, історичні суспільства мисливців-збирачів могли уявити, що життя безглузде без полювання і різних видів пов'язаних з полюванням релігійних ритуалів, і уявили б, що наше добре нагодоване технологічне суспільство позбавлене мети. Вони також могли б не зрозуміти, як наша економіка може забезпечити всіх, або яку функцію люди можуть корисно виконувати в механізованому суспільстві.

Тим не менш, варто сказати хоча б кілька слів, пам'ятаючи, що стислість цього розділу не слід сприймати як ознаку того, що я не сприймаю ці питання серйозно - навпаки, це ознака відсутності чітких відповідей.

Щодо питання сенсу, я думаю, що це дуже ймовірно помилка вважати, що завдання, які ви виконуєте, безглузді просто тому, що ШІ міг би виконати їх краще. Більшість людей не є найкращими у світі в чомусь, і це, здається, їх особливо не турбує. Звичайно, сьогодні вони все ще можуть вносити свій внесок через порівняльну перевагу і можуть отримувати сенс від економічної цінності, яку вони виробляють, але люди також дуже люблять діяльність, яка не виробляє жодної економічної цінності. Я проводжу багато часу граючи у відеоігри, плаваючи, гуляючи на вулиці і розмовляючи з друзями, і все це не генерує жодної економічної цінності. Я можу провести день, намагаючись стати кращим у відеогрі або швидше їздити на велосипеді в гору, і мені насправді не важливо, що хтось десь набагато кращий у цих речах. У будь-якому випадку я думаю, що сенс в основному походить від людських стосунків і зв'язків, а не від економічної праці. Люди дійсно хочуть відчуття досягнення, навіть відчуття конкуренції, і в пост-ШІ світі буде цілком можливо провести роки, намагаючись виконати якесь дуже складне завдання зі складною стратегією, подібно до того, як люди сьогодні починають дослідницькі проекти, намагаються стати голлівудськими акторами або засновують компанії28. Факти, що (а) ШІ десь в принципі міг би виконати це завдання краще, і (б) це завдання більше не є економічно винагородженим елементом глобальної економіки, здаються мені не дуже важливими.

Економічна частина насправді здається мені складнішою, ніж частина про сенс. Під "економічною" в цьому розділі я маю на увазі можливу проблему, що більшість або всі люди можуть бути не в змозі значно сприяти достатньо розвиненій економіці, керованій ШІ. Це більш макро проблема, ніж окрема проблема нерівності, особливо нерівності в доступі до нових технологій, яку я обговорював у розділі 3.

По-перше, в короткостроковій перспективі я погоджуюся з аргументами, що порівняльна перевага продовжуватиме робити людей релевантними і насправді збільшить їхню продуктивність, і може навіть у деяких відношеннях вирівняти поле гри між людьми.

Поки ШІ лише на 90% кращий за людину в даній роботі, інші 10% призведуть до того, що люди стануть високо високозатребуваними, збільшуючи компенсацію і насправді створюючи багато нових людських робочих місць, що доповнюють і посилюють те, в чому ШІ є хорошим, так що "10%" розширюються, щоб продовжувати наймати майже всіх.

Насправді, навіть якщо ШІ може робити 100% речей краще за людей, але залишається неефективним або дорогим у деяких завданнях, або якщо ресурсні вклади для людей і ШІ значно відрізняються, тоді логіка порівняльної переваги продовжує застосовуватися. Одна область, де люди, ймовірно, збережуть відносну (або навіть абсолютну) перевагу протягом значного часу, - це фізичний світ. Таким чином, я думаю, що людська економіка може продовжувати мати сенс навіть трохи за межею того моменту, коли ми досягнемо "країни геніїв в центрі обробки даних".

Однак я думаю, що в довгостроковій перспективі ШІ стане настільки широко ефективним і настільки дешевим, що це більше не буде застосовуватися. У цей момент наша нинішня економічна структура більше не матиме сенсу, і виникне потреба в більш широкій суспільній дискусії про те, як повинна бути організована економіка.

Хоча це може звучати божевільно, фактом є те, що цивілізація успішно пережила великі економічні зміни в минулому: від полювання-збирання до землеробства, від землеробства до феодалізму і від феодалізму до індустріалізму. Я підозрюю, що буде потрібно щось нове і дивніше, і що це щось, чого ніхто сьогодні не зробив хорошої роботи з передбачення. Цеможе бути так просто, як великий універсальний базовий дохід для всіх, хоча я підозрюю, що це буде лише невеликою частиною рішення. Це могла б бути капіталістична економіка систем ШІ, які потім розподіляють ресурси (величезні кількості, оскільки загальний економічний пиріг буде гігантським) людям на основі якоїсь вторинної економіки того, що системи ШІ вважають розумним винагороджувати в людях (на основі якогось судження, в кінцевому рахунку похідного від людських цінностей).

Можливо, економіка що працює на очках Whuffie. Або, можливо, люди продовжуватимуть бути економічно цінними в якийсь спосіб, не передбачений звичайними економічними моделями. Усі ці рішення мають тонни можливих проблем, і неможливо знати, чи матимуть вони сенс без багатьох ітерацій та експериментів. І як і з деякими іншими викликами, нам, ймовірно, доведеться боротися, щоб отримати хороший результат тут: експлуататорські або антиутопічні напрямки також явно можливі і їх треба запобігти. Можна було б написати набагато більше про ці питання, і я сподіваюся зробити це в якийсь пізніший час.

Підбиття підсумків

Через різноманітні теми вище я намагався викласти бачення світу, який є як можливим, якщо все піде правильно з ШІ, так і набагато кращим за сьогоднішній світ. Я не знаю, чи реалістичний цей світ, і навіть якщо він є, він не буде досягнутий без величезної кількості зусиль і боротьби багатьох хоробрих і відданих людей. Кожен (включаючи компанії з ШІ!) повинен буде зробити свій внесок як для запобігання ризикам, так і для повної реалізації переваг.

Але це світ, за який варто боротися. Якщо все це дійсно станеться протягом 5-10 років - перемога над більшістю хвороб, зростання біологічної та когнітивної свободи, підняття мільярдів людей з бідності для участі в нових технологіях, ренесанс ліберальної демократії та прав людини - я підозрюю, що всі, хто це спостерігатиме, будуть здивовані ефектом, який це матиме на них. Я не маю на увазі досвід особистої вигоди від усіх нових технологій, хоча це, безумовно, буде дивовижним. Я маю на увазі досвід спостереження за матеріалізацією довго утримуваного набору ідеалів перед нами всіма одночасно. Я думаю, що багато хто буквально будуть зворушені до сліз цим.

Протягом написання цього есе я помітив цікаву напругу. В одному сенсі викладене тут бачення є надзвичайно радикальним: це не те, чого майже хтось очікує, що станеться в наступному десятилітті, і багатьом це здасться абсурдною фантазією. Дехто може навіть не вважати це бажаним; воно втілює цінності та політичні вибори, з якими не всі погодяться. Але в той же час є щось сліпуче очевидне - щось передбачуване - в цьому, ніби багато різних спроб уявити хороший світ неминуче приводять приблизно сюди.

У романі Іена М. Бенкса "Гравець в ігри"29 головний герой - член суспільства під назвою Культура, яке базується на принципах, не дуже відмінних від тих, що я виклав тут - подорожує до репресивної, мілітаристської імперії, в якій лідерство визначається змаганням у складній бойовій грі. Однак гра настільки складна, що стратегія гравця в ній, як правило, відображає їхній власний політичний та філософський світогляд. Головному герою вдається перемогти імператора в грі, показуючи, що його цінності (цінності Культури) представляють виграшну стратегію навіть у грі, розробленій суспільством, заснованим на безжальній конкуренції та виживанні найсильніших. Відомий пост Скотта Александера має ту ж тезу - що конкуренція є самознищувальною і має тенденцію приводити до суспільства, заснованого на співчутті та співпраці. "Моральна дуга всесвіту" - ще одна подібна концепція.

Я думаю, що цінності Культури є виграшною стратегією, тому що вони є сумою мільйона дрібних рішень, які мають чітку моральну силу і які мають тенденцію об'єднувати всіх на одну сторону. Основні людські інтуїції щодо справедливості, співпраці, цікавості та автономії важко оскаржити, і вони є кумулятивними таким чином, яким наші більш руйнівні імпульси часто не є. Легко аргументувати, що діти не повинні вмирати від хвороб, якщо ми можемо цьому запобігти, і легко з цього аргументувати, що всі діти заслуговують на це право однаково. Звідти не важко аргументувати, що ми всі повинні об'єднатися і застосувати наш інтелект для досягнення цього результату. Мало хто не погоджується, що люди повинні бути покарані за напад або завдання шкоди іншим без необхідності, і звідти не великий крок до ідеї, що покарання повинні бути послідовними і систематичними для всіх людей. Так само інтуїтивно зрозуміло, що люди повинні мати автономію і відповідальність за своє власне життя і вибір. Ці прості інтуїції, якщо довести їх до логічного завершення, в кінцевому підсумку приводять до верховенства права, демократії та цінностей Просвітництва. Якщо не неминуче, то принаймні як статистична тенденція, це те, куди людство вже рухалося. ШІ просто пропонує можливість дістатися туди швидше - зробити логіку більш різкою, а пункт призначення більш чітким.

Тим не менш, це річ трансцендентної краси. У нас є можливість зіграти невелику роль у тому, щоб зробити це реальністю.

Подяка Кевіну Есвельту, Парагу Малліку, Стюарту Річі, Метту Іґлесіасу, Еріку Бріньолфссону, Джиму Макклейву, Аллану Дафо та багатьом людям з Anthropic за перегляд чернеток цього есе.

Переможцям Нобелівської премії з хімії 2024 року за те, що показали нам усім шлях.

Примітки:

1. https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace ↩

2. Я передбачаю, що реакція деякої меншості людей буде "це досить скромно". Я думаю, що ці люди повинні, за висловом Twitter, "доторкнутися до трави". Але що ще важливіше, скромність - це добре з суспільної точки зору. Я думаю, що є лише стільки змін, які люди можуть витримати одночасно, і темп, який я описую, ймовірно, близький до меж того, що суспільство може поглинути без крайньої турбулентності. ↩

3. Я вважаю AGI неточним терміном, який набрав багато науково-фантастичного багажу і хайпу. Я віддаю перевагу "потужному ШІ" або "експертному рівню науки та інженерії", що передає те, що я маю на увазі, без хайпу. ↩

4. У цьому есе я використовую "інтелект" для позначення загальної здатності вирішувати проблеми, яку можна застосувати в різних областях. Це включає такі здібності, як мислення, навчання, планування та творчість. Хоча я використовую "інтелект" як скорочення протягом цього есе, я визнаю, що природа інтелекту є складною і дискусійною темою в когнітивній науці та дослідженнях ШІ. Деякі дослідники стверджують, що інтелект не є єдиною, уніфікованою концепцією, а скоріше збіркою окремих когнітивних здібностей. Інші стверджують, що існує загальний фактор інтелекту (g-фактор), що лежить в основі різних когнітивних навичок. Це дебати на інший час. ↩

5. Це приблизно нинішня швидкість систем ШІ - наприклад, вони можуть прочитати сторінку тексту за пару секунд і написати сторінку тексту, можливо, за 20 секунд, що в 10-100 разів швидше, ніж люди можуть робити ці речі. З часом більші моделі мають тенденцію робити це повільніше, але потужніші чіпи мають тенденцію робити це швидше; на сьогоднішній день два ефекти приблизно скасовують один одного. ↩

6. Це може здатися нападом на соломинне опудало, але уважні мислителі, такі як Тайлер Коуен і Метт Іґлесіас, висловили це як серйозне занепокоєння (хоча я не думаю, що вони повністю дотримуються цього погляду), і я не думаю, що це божевільно. ↩

7. Найближча економічна робота, яка мені відома, для вирішення цього питання - це роботи з "технологій загального призначення" та "нематеріальних інвестицій", які служать доповненнями до технологій загального призначення. ↩

8. Це навчання може включати тимчасове, в контексті навчання, або традиційне навчання; обидва будуть обмежені швидкістю фізичного світу. ↩

9. У хаотичній системі малі помилки накопичуються експоненціально з часом, так що навіть величезне збільшення обчислювальної потужності призводить лише до незначного покращення того, наскільки далеко вперед можливо передбачити, і на практиці помилка вимірювання може ще більше погіршити це. ↩

10. Ще один фактор, звичайно, полягає в тому, що сам потужний ШІ потенційно може бути використаний для створення ще більш потужного ШІ. Моє припущення полягає в тому, що це може (насправді, ймовірно, буде) відбуватися, але що його ефект буде меншим, ніж ви могли б уявити, саме через "зменшення граничної віддачі від інтелекту", обговорене тут. Іншими словами, ШІ продовжуватиме ставати розумнішим швидко, але його ефект врешті-решт буде обмежений нерозумними факторами, і аналіз цих факторів є найважливішим для швидкості наукового прогресу поза ШІ. ↩

11. Ці досягнення були для мене натхненням і, можливо, найпотужнішим існуючим прикладом використання ШІ для трансформації біології. ↩

12. "Прогрес у науці залежить від нових технологій, нових відкриттів і нових ідей, ймовірно, в такому порядку." - Сідні Бреннер ↩

13Дякую Парагу Малліку за пропозицію цього пункту. ↩

14. Я не хотів захаращувати текст спекуляціями про те, які конкретні майбутні відкриття могла б зробити наука, що підтримується ШІ, але ось мозковий штурм деяких можливостей: — Розробка кращих обчислювальних інструментів, таких як AlphaFold і AlphaProteo — тобто, загальна система ШІ прискорює нашу здатність створювати спеціалізовані інструменти обчислювальної біології ШІ. — Більш ефективний і селективний CRISPR. — Більш передові клітинні терапії. — Прориви в матеріалознавстві та мініатюризації, що призводять до кращих імплантованих пристроїв. — Кращий контроль над стовбуровими клітинами, клітинною диференціацією та дедиференціацією, і як результат здатність регенерувати або перебудовувати тканини. — Кращий контроль над імунною системою: вибірково включати її для боротьби з раком та інфекційними захворюваннями, і вибірково вимикати її для боротьби з аутоімунними захворюваннями. ↩

15. ШІ, звичайно, також може допомогти бути розумнішим щодо вибору експериментів для про

ведення: покращення експериментального дизайну, отримання більшої кількості інформації з першого раунду експериментів, щоб другий раунд міг зосередитися на ключових питаннях, і так далі. ↩

16. Дякую Метью Іґлесіасу за пропозицію цього пункту. ↩

17. Швидко еволюціонуючі захворювання, такі як мультирезистентні штами, які по суті використовують лікарні як еволюційну лабораторію для постійного покращення своєї стійкості до лікування, можуть бути особливо упертими для боротьби, і можуть бути тим, що заважає нам досягти 100%. ↩

18. Зауважте, що може бути важко дізнатися, що ми подвоїли тривалість життя людини протягом 5-10 років. Хоча ми, можливо, досягли цього, ми можемо ще не знати цього в рамках часу дослідження. ↩

19. Це одне місце, де я готовий, незважаючи на очевидні біологічні відмінності між лікуванням захворювань і уповільненням самого процесу старіння, натомість подивитися з більшої відстані на статистичну тенденцію і сказати "навіть якщо деталі різні, я думаю, що людська наука, ймовірно, знайде спосіб продовжити цю тенденцію; зрештою, плавні тенденції у будь-чому складному обов'язково складаються з додавання дуже різнорідних компонентів. ↩

20. Як приклад, мені сказали, що збільшення зростання продуктивності на рік на 1% або навіть 0,5% було б трансформаційним у прогнозах, пов'язаних з цими програмами. Якщо ідеї, розглянуті в цьому есе, здійсняться, прибутки продуктивності можуть бути набагато більшими за це. ↩

21. ЗМІ люблять зображати високостатусних психопатів), але середній психопат, ймовірно, є людиною з поганими економічними перспективами і поганим контролем над імпульсами, яка в результаті проводить значний час у в'язниці. ↩

22. Я думаю, що це дещо аналогічно тому факту, що багато, хоча, ймовірно, не всі результати, які ми дізнаємося з інтерпретації, продовжували б бути актуальними, навіть якби деякі архітектурні деталі наших поточних штучних нейронних мереж, такі як механізм уваги, були змінені або замінені якимось чином. ↩

23. Я підозрюю, що це трохи схоже на класичну хаотичну систему - обтяжену незменшуваною складністю, якою треба керувати в основному децентралізованим способом. Хоча, як я кажу пізніше в цьому розділі, більш скромні втручання можуть бути можливими. Контраргумент, висунутий мені економістом Еріком Бріньолфссоном, полягає в тому, що великі компанії (такі як Walmart або Uber) починають мати достатньо централізованих знань, щоб розуміти споживачів краще, ніж будь-який децентралізований процес міг би, можливо, змушуючи нас переглянути погляди Хаєка про те, хто має найкращі локальні знання. ↩

24. Дякую Кевіну Есвельту за пропозицію цього пункту. ↩

25. Наприклад, мобільні телефони спочатку були технологією для багатих, але швидко стали дуже дешевими, з покращеннями рік за роком, що відбувалися настільки швидко, щоб нівелювати будь-яку перевагу купівлі "розкішного" мобільного телефону, і сьогодні більшість людей мають телефони подібної якості. ↩

26. Це назва майбутньої статті від RAND, яка викладає приблизно ту стратегію, яку я описую. ↩

27. Коли середня людина думає про державні установи, вона, ймовірно, думає про свій досвід з DMV, IRS, medicare або подібними функціями. Зробити ці досвіди більш позитивними, ніж вони є зараз, здається потужним способом боротьби з надмірним цинізмом. ↩

28. Дійсно, у світі, керованому ШІ, діапазон таких можливих викликів і проектів буде набагато ширшим, ніж сьогодні. ↩

29. Я порушую своє власне правило не робити це про наукову фантастику, але мені було важко не посилатися на неї хоча б трохи. Правда в тому, що наукова фантастика є одним з наших єдиних джерел масштабних експериментів думки про майбутнє; я думаю, що це говорить про щось погане, що вона так сильно переплетена з певною вузькою субкультурою. ↩

Джерело