Світовий порядок зараз схожий на будинок, в якому всі живуть, але ніхто його не чинить. Він може протриматися ще кілька років, але якщо ми продовжимо в тому ж дусі, то повернемося в «джунглі»
Повна версія виступу Юваль листопада Харари на Всесвітньому економічному форумі в Давосі
У третьому десятилітті 21 століття людство зіткнулося з такою кількістю проблем і питань, що тепер на них складно сфокусуватися. Я хочу звернути увагу на проблеми, які загрожують виживанню нашого виду. Це ядерна війна, екологічний колапс і технологічний прорив. Ядерна війна і екологічний колапс - вже знайомі нам загрози, тому дозвольте пояснити, в чому полягає менш відома нам загроза технологічного прориву. Ми стільки чуємо про користь технологій майбутнього, і це, звичайно, так, але вони також можуть розбалансувати людське суспільство і змінити сам сенс людського життя різними способами - від створення світового марного класу до виникнення колоніалізму даних і цифрової диктатури.
1. Даремний клас.
Спочатку ми можемо зіткнутися з потрясіннями на соціальному і економічному рівнях. Автоматизація скоро знищить мільйони робочих місць, і хоч нові робочі місця, безумовно, будуть створені, невідомо, чи зможуть люди придбати необхідні знання та навички вчасно.
Наприклад, ви 50-річний водій вантажівки, що втратив роботу через системи безпілотного управління. Є варіанти нової роботи - створювати програмне забезпечення, наприклад, або вчити інженерів йоги. Але як 50-річний водій вантажівки створить себе заново в якості розробника софта або вчителя йоги? І людям потрібно робити це неодноразово, а знову і знову протягом усього життя, оскільки автоматизована революція - це не разова подія, після якої ринок праці вляжеться і повернеться до балансу.
Швидше за все, нас чекає каскад все більших змін, якщо врахувати, що штучний інтелект ще й близько не розкрив свій потенціал. Робочі місця будуть зникати, з'являться нові, але потім і ця робота зміниться і зникне. Якщо раніше люди боролися з експлуатацією, то в 21 столітті будуть по-справжньому боротися з непотрібністю. І набагато гірше бути непотрібним, ніж експлуатованим. Переможені в цій боротьбі поповнять ряди марного класу. Ці люди будуть марні, звичайно, не в очах сім'ї та друзів, а з точки зору економічної і політичної системи. Даремний клас буде відділений зростаючою прірвою від все більш могутньої еліти.
2. Нерівність і колонії даних.
Революція штучного інтелекту (ШІ) може стати причиною безпрецедентної нерівності не тільки між класами, а й між країнами. У 19 столітті кілька країн, такі як Великобританія і Японія, були індустріалізовані першими, що дозволило їм завойовувати і експлуатувати інші країни. Якщо ми будемо необережні, це ж чекає на нас в 21 столітті завдяки ШІ.
Людство вже посеред гонки озброєнь в області ШІ, в якій займають провідні позиції США і Китай, а більшість країн плететься далеко позаду. Якщо ми не вживемо заходів, щоб розподілити користь і могутність ШІ між нами, він, швидше за все, принесе божевільне багатство декільком технологічним центрам, в той час як інші країни збанкрутують і перетворяться в експлуатовані колонії даних.
Мова не про сценарії, що зійшов зі сторінок наукової фантастики, де роботи бунтують проти людей. Розмова йде про набагато більш примітивний ШІ, якого все-таки досить, щоб порушити світову рівновагу.
Просто подумайте, що відбудеться з економікою країн, що розвиваються, якщо в Каліфорнії дешевше буде виробляти тканини або автомобілі, ніж у Мексиці. І що станеться з політикою вашої країни, якщо через 20 років хтось в Сан-Франциско або Пекіні буде знати про всю медичну та особисту історію кожного політика, судді та журналіста, включаючи всі любовні пригоди, психологічні слабкості і корупційні дії. Чи залишається така країна незалежною чи вона перетвориться в колонію даних? Коли у вас достатньо даних, вам вже не потрібно відправляти кудись солдат, щоб контролювати країну.
3. Цифрова диктатура.
Наступна загроза, з якою ми можемо зіткнутися - це розквіт цифрових диктатур, що невпинно стежать за кожним. Ця загроза може бути викладена у вигляді простої формули, що, на мій погляд, визначальнє життя в 21 столітті: Б х О х Д = МХЛ. У ній «Б» означає біологічні знання, «О» - обчислювальну потужність, «Д» - дані. Результатом множення буде «МХЛ» - можливість хакнути людство. Якщо у вас достатньо: знань з біології, обчислювальної потужності і даних, ви зможете хакнуть моє тіло, мозок і все моє життя, ви будете знати мене навіть краще, ніж я знаю себе. Ви зможете знати мій тип особистості, мої політичні погляди, сексуальні переваги, слабкості моєї психіки, найглибші страхи і надії.
Система, яка розуміє нас більше, ніж ми самі, зможе передбачати наші почуття, рішення і приймати рішення за нас. Безліч тиранів і урядів минулого мріяли про це, але їм не вистачало вищезазначених знань, потужностей і даних, щоб хакнуть мільйони людей. Це було не під силу ні Гестапо, ні КДБ. Але скоро деякі корпорації і уряди зможуть систематично хакати людство.
Пора звикнути до думки, що більше ми не загадкові душі, а тварини, яких можна хакнуть. Уміння хакати людей, звичайно, може бути використано на благо, наприклад, в охороні здоров'я. Але якщо ця сила потрапить в руки Сталіна 21-століття - а в світі достатньо тих, хто хоче приміряти цю роль - результатом стане найгірший тоталітарний режим в історії людства. Тільки уявіть собі Північну Корею через 20 років, в якій всі будуть змушені носити біометричний браслет, постійно стежить за тиском, пульсом, мозковою діяльністю. Якщо слухаючи виступ великого лідера, ви злиться, але при цьому посміхаєтеся і аплодуєте - влада буде знати про це і може відправити вас на подобу ГУЛАГА вже на наступний ранок.
Якщо такі режими тотального стеження будуть існувати, не думайте, що хтось залишиться в безпеці. Влада СРСР у сталінський період стежила за комуністичною елітою більше, ніж за будь-ким. Майбутні режими тотального контролю будуть схожі - чим вище ваше становище в ієрархії, тим більше за вами стежать. Чи хочете ви, щоб ваш гендиректор або президент знали, що ви насправді думаєте про них? Тому все людство, включаючи еліту, зацікавлене в запобіганні виникненню таких цифрових диктатур.
Навіть якщо нам вдасться запобігти виникненню цифрових диктатур, можливість хакнуть людей може змінити саме поняття людської свободи. Чим більше ми покладаємося на ШІ в прийнятті рішень, тим більше влада зміщується до алгоритмів.
Це відбувається вже зараз: сьогодні мільярди дізнаються про новини з Facebook, вірять в справжність інформації, яку приніс алгоритм Google. Тепер Netflix вирішує, що ви подивиться, а алгоритми Amazon і Alibaba/Aliexpress - що купите. В недалекому майбутньому схожі алгоритми можуть вибрати за вас роботу або партнера, чи дадуть вам кредит і вирішать чи піднімати процентну ставку. І якщо ви запитаєте, чому вам не дали кредит або чому банк підняв процентну ставку, відповідь буде одна і та ж: «Комп'ютер вирішив». Так як обмеженому людському мозку не вистачає знань, обчислювальної потужності і данних, люди просто не зможуть зрозуміти рішення комп'ютера.
Тому навіть, здавалося б, в вільних країнах, люди втратять контроль над власними життями і перестануть розуміти державну політику. Навіть сьогодні фінансову систему розуміє близько 1% людей. Через кілька десятиліть цей відсоток буде дорівнювати нулю.
4. Філософська криза.
Ми, люди, звикли думати про життя, як про драму прийняття рішень. У що перетвориться значення людського життя, якщо більшість рішень будуть приймати алгоритми. У нас навіть немає філософських моделей для розуміння такого існування!
Звичайна суперечка між філософами і політиками раніше виглядав так: філософи діляться безліччю фантастичних ідей, а політики у відповідь терпляче пояснюють, що для того, щоб втілити ці ідеї в життя, їм не вистачає коштів. Тепер ми опинилися в протилежній ситуації, ми на порозі філософського банкрутства. Революції-близнюки - інфо- та біотехнологій - подарували політикам і бізнесменам можливість створити пекло або рай, а філософам важко концептуалізувати те, як новий рай чи пекло буде виглядати, і це дуже небезпечна ситуація.
Якщо нам не вдасться осмислити ідею нового раю вчасно, нас легко зможуть ввести в оману наївними утопіями. А якщо не вдасться концептуалізувати нове пекло - ми можемо опинитися замкнені в ньому без будь-якої можливості вийти.
5. Розумний задум.
У наступні десятиліття технології можуть не тільки змінити економіку, політику і філософію, але і біологію. ШІ та біотехнології дадуть нам богоподібні можливості, ми навіть зможемо створювати абсолютно нові форми життя. Після 4 млрд років формування органічного життя шляхом природного відбору, ми опинилися на порозі нової ери, де неорганічне життя сформована розумним задумом. Наш розумний задум стане новою рушійною силою еволюції.
Тому користуючись новими богоподібними силами творення, ми можемо зробити помилку вселенського рівня. Можливо, уряду і корпорації використовуватимуть технології для посилення необхідних їм людських навичок, таких як розум і дисципліна, в той же час нехтуючи іншими людськими навичками, такими як співчуття, художня чутливість і духовність. Результатом може стати раса дуже розумних і дуже дисциплінованих людей, яким при цьому буде не вистачати співчуття, вміння творити і духовної глибини.
Звичайно, це не пророцтва, а просто те, що може статися. Використання технологій ні в якому разі не визначено. У 20 столітті люди використовували технології індустріальної революції, щоб побудувати дуже різні суспільства - фашистську диктатуру, комуністичний режим, ліберальну демократію - те ж саме станеться в 21 столітті. ШІ та біотехнології, безумовно, змінять світ, але ми можемо використовувати їх, щоб створювати дуже різні суспільства.
Світове співробітництво.
Якщо ви боїтеся чогось з того, про що я розповів, ви можете щось зробити, але для чогось по-справжньому ефективного нам потрібно світове співробітництво.
Всі три екзистенціальних проблеми, з якими ми зіткнулися - це світові проблеми, які вимагають світового рішення. Коли будь-який лідер говорить: «Моя країна перш за все», ми повинні нагадувати цьому лідеру, що країна не зможе самостійно запобігти ядерній війні або зупинити екологічний колапс. І немає країни, яка може регулювати діяльність ШІ і біоінженерії самостійно. Будь-яка країна може сказати: «Гей, ми не хочемо розробляти роботів-вбивць або займатися генною інженерією немовлят, ми хороші! Але не наші вороги, їм не можна довіряти, можливо, вони будуть це робити, тому ми зробимо це першими ». Якщо ми дозволимо такій гонці озброєнь іти в областях на кшталт ШІ і біоінженерії, вже не важливо, хто в ній переможе, тому що тим, хто програв буде людство.
На жаль, якраз тоді, коли світове співробітництво потрібно більше, ніж будь-коли, деякі з наймогутніших країн і світових лідерів зараз спеціально цьому протидіють. Лідери, як то, президента США Дональда Трампа говорять нам, що між націоналізмом і глобалізмом є невід'ємне протиріччя, тому потрібно вибрати націоналізм, але це небезпечна помилка! Немає ніякого протиріччя між націоналізмом і глобалізмом, тому що націоналізм - це не про те, щоб ненавидіти іноземців. Націоналізм - це про любов до своїх співгромадян, і в 21 столітті, щоб захистити безпеку своїх співгромадян, необхідно співпрацювати з іноземцями.
Хороший націоналіст 21 століття повинен бути і глобалістом. Глобалізм - це не створення глобального уряду, відмова від всіх народних традицій або відкриття кордонів для нескінченних мігрантів. Глобалізм - це підпорядкування деяким глобальним правилам. Правилам, що не заперечують унікальність кожного народу, а лише регулюють відносини між ними. І хороша модель - це Чемпіонат світу з футболу. Це змагання між країнами, де люди яро вболівають за свою національну команду, але в той же час це і приголомшливий приклад світової гармонії. Франція не може грати в матчі з Хорватією, якщо ці країни не погодяться з одними і тими ж правилами гри. Це глобалізм в дії, якщо вам подобається Чемпіонат світу з футболу - ви вже глобаліст.
Сподіваюся, що країни можуть прийти до загальних правил не тільки у футболі, але і в тому, як запобігти екологічному колапсу, врегулювати небезпечні технології та зменшити світову нерівність. Важливо переконатися в тому, що ШІ приносить користь працівникам текстильної промисловості в Мексиці, а не тільки американським розробникам програмного забезпечення. Звичайно, це набагато складніше, ніж футбол, але зовсім не неможливо, тому що неможливого ми вже досягли. Ми вже вибралися з небезпечних джунглів, в яких жили всю нашу історію.
Закон джунглів.
Тисячі років люди жили по закону «джунглів», перебуваючи в стані повсюдної війни. Закон «джунглів» говорив, що велика ймовірність того, що між двома будь-якими сусідніми країнами в наступному році почнеться війна. Світ означав тільки тимчасова відсутність війни. Коли світ був, наприклад, між Афінами і Спартою чи Францією і Німеччиною - це означало, що зараз вони не воюють, але в наступному році цілком можуть почати.
Тисячі років люди думали, що це неминуче, але за останні кілька десятиліть людство змогло зробити неможливе - порушити закон і втекти з «джунглів». Ми створили ліберальний світовий порядок, заснований на правилах, який, не дивлячись на безліч недоліків, дозволив увійти в саму процвітаючу і мирну епоху в історії людства. Змінилося саме розуміння слова «мир», тепер це не тимчасова відсутність війни, а її малоймовірність.
Зараз в світі є безліч країн, які майже неможливо уявити воюючими один проти одного в наступному році. Наприклад, Франція і Німеччина. У деяких областях світу, звичайно, йде війна, але це не повинно спотворювати світову картину. Зараз під час бойових дій гине менше, ніж від суїциду, а порох представляє меншу небезпеку, ніж цукор. Більшість країн, з деякими винятками, як наприклад, Росія, навіть не мріють про завоювання і анексії сусідів, тому більшість країн може дозволити собі витрачати лише 2% ВВП на оборону і витрачати набагато більше на освіту і охорону здоров'я.
Це не «джунглі». На жаль, ми настільки звикли до цієї чудової ситуації, що приймаємо її як належне, а значить - ми стали надзвичайно безпечними. Замість того, щоб робити все, що в наших силах, щоб посилити крихкий світовий порядок, країни нехтують ним і навіть спеціально йому протидіють.
Світовий порядок зараз схожий на будинок, в якому всі живуть, але ніхто його не чинить. Він може протриматися ще кілька років, але якщо ми продовжимо в тому ж дусі - він зруйнується, і ми повернемося в «джунглі».
Ми забули, що це таке, але повірте мені як історику, ви не хочете повертатися туди. Там набагато гірше, ніж ви думаєте. Так, наш вид еволюціонував в цих «джунглях» - і навіть процвітав тисячі років, але повернувшись туди з новими технологіями 21 століття, ми, швидше за все, знищимо себе. Звичайно, навіть якщо ми зникнемо, це не стане кінцем світу. Щось нас переживе, наприклад, щури, які свого часу зможуть відновити цивілізацію. Може, пацюки тоді зможуть повчитися на наших помилках, але я покладаю більше надії на світових лідерів, а не на щурів.
