Наступний етап нашого існування — це доба штучного інтелекту, Життя 3.0, що звільниться від біологічних кайданів еволюції і стане господарем власної долі. Чи можливо це? І наскільки швидко?
У книжці «Життя 3.0. Доба штучного інтелекту» професор Массачусетського технологічного інституту та один з найавторитетніших дослідників штучного інтелекту Макс Теґмарк аналізує, якими будуть економічні, правові, військові та соціальні наслідки появи штучного інтелекту і що ця технологія дасть людству. Сьогодні розповідаємо про один з можливих сценаріїв розвитку подій та чому все може піти не так.

Ми вже рвонули до створення загального штучного інтелекту (ЗШІ), але не маємо жодного уявлення, до чого це призведе. Але це не заважатиме нам розмірковувати про те, яким ми хочемо побачити результат, тому що наші бажання впливатимуть на наслідок.

Чого хотіли б ви особисто й чому?

Люди + роботи = одна щаслива сім’я

Почнімо зі сценарію, де люди мирно співіснують з технологіями, а в деяких випадках і зливаються з ними, як це уявляють собі численні футурологи й наукові фантасти. Життя на Землі (і поза Землею) ще ніколи не було таким розмаїтим. Якщо подивитися на супутникові знімки Землі, можна легко розрізнити машинні зони, змішані зони та зони проживання лише людей. Машинні зони — це величезні заводи, фабрики й обчислювальні центри під контролем роботів, де зовсім відсутнє біологічне життя. Хоча ззовні машинні зони виглядають монотонними й безрадісними, усередині вирує діяльність. У віртуальних світах відбуваються надзвичайні речі, обчислення колосальних масштабів розкривають таємниці Всесвіту і розвивають революційні технології. На Землі перебувають багато надрозумних інтелектів, які конкурують і співпрацюють, і всі вони «живуть» у машинних зонах.

Мешканці змішаних зон — строката, неповторна суміш комп’ютерів, роботів, людей та гібридів усіх цих трьох видів. Багато хто з людей технологічно вдосконалив своє тіло до різного ступеня, перетворившись на кіборгів, а дехто вивантажив свою свідомість у нову апаратуру, стираючи межу між людиною і машиною.

Найрозумніші істоти не мають постійної фізичної форми. Натомість вони існують у формі програм, здатних миттєво переходити з одного комп’ютера на інший і проявлятися у фізичному світі в тілах роботів.

Оскільки ці свідомості вміють без проблем дублювати себе або зливатися, чисельність такого «населення» постійно змінюється. Звільнення від фізичного субстрату дає таким істотам зовсім інший погляд на життя: вони відчувають себе значно менше індивідуалістами, бо можуть дуже просто ділитися знаннями та модулями своїх переживань і досвіду з іншими, і суб’єктивно вони відчувають себе безсмертними, тому що дуже просто можуть створювати свої резервні копії. У певному сенсі центральними сутностями життя стали не свідомості, а переживання: надзвичайні, дивовижні переживання продовжують жити, тому що їх постійно копіюють і повторно переживають інші свідомості, а нецікаві переживання стирають власники, щоб звільнити місце для зберігання чогось кращого.

Хоча вся взаємодія з огляду на зручність і швидкість відбувається здебільшого у віртуальних середовищах, багатьом свідомостям усе ще подобається перебувати та спілкуватися з іншими також і у фізичних тілах. Наприклад, вивантажені версії Ганса Моравека, Рея Курцвайла і Ларрі Пейджа завели собі звичку по черзі створювати віртуальні реальності, а тоді досліджувати їх разом, але час від часу вони також люблять літати разом у реальному світі, набравши подоби птахоподібних крилатих роботів. Деякі з роботів, яких можна побачити на вулицях, у небі чи в озерах змішаної зони, так само контролюють вивантажені й розширені людські інтелекти, які обрали існування у змішаних зонах, бо їм подобається бути поряд з людьми й одне з одним.

У зонах лише для людей, навпаки, заборонена присутність машин із загальним інтелектом людського рівня або вище, а також технологічно вдосконалених біологічних організмів. Тут життя не надто відрізняється від нинішнього, хіба що люди живуть багатше і комфортніше: з бідністю загалом покінчено, а від більшості відомих нині хвороб знайдено ліки. Невеличка частина людей, які обрали собі життя в цих зонах, фактично існує на нижчому, обмеженішому плані свідомості, ніж усі інші, і має обмежене розуміння того, чим їхні інтелектуальніші співгромадяни займаються в інших зонах. Проте багато хто з них цілком задоволений своїм життям.

Економіка

Абсолютна більшість усіх обчислень відбувається в машинних зонах, якими переважно володіють численні конкуренти — надрозумні ШІ, які «живуть» там. Завдяки своєму винятковому інтелекту і технологіям ніхто інший не може ставити їхній авторитет під сумнів. Ці ШІ домовилися співпрацювати й спільно координувати зусилля в межах лібертаріанської системи врядування, яка не має жодних інших правил, крім захисту приватної власності. Ці права власності поширюються на всі без винятку розумні сутності і допомагають зрозуміти, як могли з’явитися зони лише для людей. Із самого початку групи людей об’єдналися і вирішили заборонити продаж майна іншим формам розумного життя в зонах свого проживання.

Завдяки своїм технологіям надрозумні форми ШІ виявилися заможнішими за цих людей на багато порядків більше, ніж Білл Гейтс заможніший за останнього жебрака. Проте мешканці зон лише для людей усе ще матеріально живуть краще, ніж більшість наших сучасників. Їхня економіка майже не пов’язана з економікою машин, тож присутність машин в інших зонах майже не впливає на них, за винятком деяких корисних технологій, які вони можуть зрозуміти й відтворити для себе. І не важливо, що люди не можуть продати нічого потрібного машинам, бо машинам нічого не треба навзамін.

У змішаних секторах різниця в багатстві між ШІ та людьми помітніша, через що ціна на землю (єдиний належний людям продукт, у придбанні якого зацікавлені машини) сягнула астрономічних висот порівняно з іншими продуктами. Більшість людей, які володіли землею, через це зрештою продали невеличку частину її різним формам ШІ в обмін на довічний гарантований базовий дохід від них і їхніх нащадків/вивантажень. Це звільнило їх від потреби працювати й дало їм змогу насолоджуватися надзвичайним розмаїттям дешевих товарів і послуг машинного виробництва у фізичному світі й віртуальній реальності. Що стосується машин, то змішані зони призначені більше для розваг, ніж для роботи.

 

Чому цього може не трапитися

Перед тим як захоплюватися майбутніми пригодами, які ми можемо пережити у вигляді кіборгів чи вивантажень, розгляньмо кілька причин, через які цей сценарій може не відбутися. Найперше, є два можливі шляхи вдосконалення людей (перетворення їх на кіборгів або вивантаження): 

  1. Ми самі знайдемо спосіб, як їх створити.
  2. Ми створимо надрозумні машини, які це зроблять за нас.

Якщо спочатку ми підемо першим шляхом, то це, природно, може привести до масової появи кіборгів і вивантажень. Утім, більшість дослідників ШІ вважає, що ймовірніше зворотне: вдосконалений або цифровий мозок важче створити, ніж надлюдський ЗШІ з нуля (механічних птахів винайти теж виявилося складніше, ніж літаки). Після створення потужного машинного ШІ немає очевидних причин вважати, що з’являться кіборги або вивантаження.

Друге — навіть якби цей сценарій з кіборгами й вивантаженнями став реальністю, незрозуміло, чи буде він стабільним і тривалим.

Чому протягом тисячоліть повинен зберігатися стабільний баланс сили між численними суперінтелектами? Чи, може, вони об’єднаються або почнуть домінувати найрозумніші? Крім того, чому машини повинні добровільно поважати право власності людей і дозволити людям жити поруч, якщо ті їм ні для чого не потрібні, а всю людську роботу вони самі можуть виконувати краще і дешевше?

Рей Курцвайл припускає, що «природні» й «удосконалені» люди будуть захищені від винищення, тому що «форми ШІ поважають людей за те, що ті створили машини». Не можна впадати у спокусу наділяти ШІ людськими рисами і вважати, що ШІ відчуватиме вдячність, як людина. І справді, хоча ми, люди, наділені схильністю бути вдячними, ми не виказуємо достатньо вдячності нашому інтелектуальному творцеві (нашій ДНК), адже перешкоджаємо його цілям, використовуючи засоби обмеження народжуваності.

Навіть якщо ми допустимо, що форми ШІ погодяться поважати право власності людини, вони зможуть поступово отримати значну частину нашої землі іншими способами, використовуючи своє суперінтелектуальне вміння переконувати, щоб умовити людей продати частину землі в обмін на життя в розкошах. У винятково людських зонах проживання вони можуть підбити людей проводити політичні кампанії за дозвіл продажу землі. Зрештою, навіть найтвердолобіші біолуддити можуть захотіти продати частину землі, щоб урятувати життя хворої дитини або здобути безсмертя. Якщо люди освічені й зайняті якоюсь діяльністю й розвагами, зниження народжуваності може зменшити їхні популяції навіть без втручання машин, як це зараз уже відбувається в Японії й Німеччині. Так людство може вимерти всього за кілька тисячоліть.

Мінуси

Деякі особливо затяті прихильники кіборгів і вивантажень бачать у них обіцянку технологічного раю і продовження життя для всіх. І справді, перспективи вивантажити свою свідомість у майбутньому стали мотивом, через який понад сто людей дозволили аризонській компанії Alcor заморозити свій мозок після смерті.

Утім, якщо така технологія і з’явиться, зовсім не ясно, чи буде вона доступною всім. Багато хто з найзаможніших, мабуть, зможе нею скористатися, але хто ще? Навіть якщо ця технологія подешевшає, де буде проведено межу? Чи вивантажуватимуть свідомість людей з пошкодженням мозку? Чи вивантажуватимуть кожну горилу? Кожну мураху? Кожну рослину? Кожну бактерію? Чи страждатиме майбутня цивілізація на синдром Плюшкіна і намагатиметься вивантажити все підряд, чи вивантажуватиме просто по кілька цікавих екземплярів кожного виду, як у Ноєвому ковчегу? Можливо, лише по кілька екземплярів кожного типу людини?

Незмірно розумнішим за нас сутностям, які існуватимуть у той час, вивантажена людина може здаватися приблизно такою само цікавою, як нам здавалася б симуляція миші чи слимака.

 

Багато кому цей лібертаріансько-утопічний сценарій може не сподобатися, бо він дає змогу уникнути страждання. Позаяк єдиний священний принцип — це права власності, нічого не заважатиме тим самим стражданням, якими переповнений сьогоднішній світ, існувати й далі в людських і змішаних зонах.

Одні люди процвітатимуть, а інші, можливо, житимуть у злиднях і борговій кабалі або потерпатимуть від насильства, страху, репресій або депресії. Наприклад, роман Маршалла Брейна «Манна» (Manna, 2003) змальовує, як прогрес ШІ в лібертаріанській економічній системі залишає більшість американців без роботи та прирікає на животіння в безрадісних, похмурих закладах соціального забезпечення під контролем роботів. Як тварини на фермах, вони нагодовані, здорові, у безпеці й утримуються в тісних приміщеннях, де ніколи не потрапляють на очі багатим. Протизаплідні препарати у воді гарантують, що дітей у них не буде, тож більшість населення поступово вимирає, залишаючи багатим велику частку створеного роботами достатку.

У лібертаріансько-утопічному сценарії страждання не обов’язково має бути лише долею людей. Якщо деякі машини буде наділено свідомими емоційними переживаннями, то й вони зможуть страждати. Наприклад, мстивий психопат може цілком легально взяти вивантажену копію свого ворога і піддати її найжахливішим тортурам у віртуальному світі, викликавши біль такої сили й тривалості, який біологічно неможливий у справжньому світі.

Поділіться своїми враженнями
в соцмережах

Що ви думаєте з цього приводу?

  Подписаться  
Уведомление о
Відгуки (0)
Топ кращих книг

Хочу отримувати
нові статті

Схожі публікації