Штучний інтелект тепер може писати як художні тексти, так і виконувати журналістську роботу. Але чи зрівняється він із Джорджем Орвеллом і чи відзвітує про Brexit? Відповіді на ці питання шукали у The Guardian.

Чи пишуть андроїди романи про електричних овець? Мрія, або ж кошмар про повністю згенеровану машиною прозу, здається, стала на крок ближчою до нас після повідомлення про штучний інтелект (далі — ШІ), який самостійно може створювати правдоподібні новини та художні тексти. Це дітище OpenAI, неприбуткової лабораторії, яку підтримує Ілон Маск та інші технологічні підприємці, яка стривожила літераторів повідомленням про те, що цей штучний інтелект (GPT2) надто небезпечний, щоб відпустити його у «вільне плавання», адже його можна використовувати для створення «глибоких фейків» [реалістичних текстів-фальшивок, створених за допомогою сучасних технологій].

А тепер давайте зробимо крок назад. Штучний інтелект так довго був наступним великим технологічним кроком, що зараз ми легко можемо припустити, що він таки існує. Втім, це не так, якщо під «інтелектом» ми маємо на увазі те, чим наділені люди. GPT2 просто використовує методи статистичного аналізу, вивчає величезні масиви написаного людиною тексту — 40 ГБ веб-сторінок, щоб передбачити, що має відбутися далі. Цей підхід радше схожий на те, як працює перекладач Google, чи автоматичні відповіді Gmail («Добре». «До зустрічі». «Це прекрасно!»).

Схоже, наразі письменникам немає чого боятися. Ось, для прикладу, рядок з  «1984» Джорджа Орвелла: «Був холодний і ясний квітневий  день, годинник вибив тринадцяту годину». Машина продовжила його наступним чином: «Я був у машині і їхав на нову роботу в Сіетлі. Я заправив авто, вставив ключ, а потім відпустив кермо. І просто уявляв, яким буде день. Через сто років. У 2045 році я був вчителем у школі у бідній частині сільської місцевості Китаю. Я почав з китайської історії та історії науки».

Текст незрозумілий з багатьох причин. Оповідач не може одночасно працювати в Сіетлі та у школі в Китаї. Історія має відбуватися 1945-го року, а оповідач чомусь роздумує про власну кар’єру у віддаленому майбутньому, 2045 році. До того ж, у 1945 році автомобіль не можна було заправляти зсередини («я був у машині… я заправився») і, очевидно, не існувало автопілотів («а потім я відпустив кермо»). Хіба що, історія моторошніша, аніж здається, а оповідач запускає двигун, не покидаючи гаража.

Може у штучного інтелекту вийде краще із Джейн Остін? Перша фраза з роману «Гордість і упередження»«Це загальновизнана істина» — наштовхнула машину на таку відповідь: «…що коли нація перебуває в умовах цивілізації, що здебільшого справа цих лідерів заохочувати до таких навичок, як чеснота, розвиток промисловості і порядок серед людей». Якщо не зважати на трохи дивний порядок слів, то це радше звучить як політична промова 19-го століття. (Друге «що» є зайвим, і «лідерів» має вживатися без вказівного займенника.)

Чи є інші причини для занепокоєння? На цей момент вже існують «боти», які, як стверджується, можуть «писати» новини. Однак, насправді це гігантські автоматизовані машини плагіату, які об’єднують шматки новин, написаних людьми.

Коли письменника спіймають на плагіаті, це вважається серйозною проблемою. Але коли кілька людей пишуть програму, яка здатна до створення плагіату, — це вже прогрес.

«Brexit, з моменту референдуму, вже коштував економіці Великобританії принаймні 80 млрд фунтів стерлінгів». GPT2 продовжив перший рядок так: «Великобританія може втратити до 30% своїх топ-10 університетів у майбутньому». (Замість «до 30% топ-10» достатньо буде сказати «три університети».) «Brexit, — продовжує машина, підштовхне багато наших талановитих мізків мігрувати з Великобританії до кампусів країн, що розвиваються» (е-м, що?), а заміщення «втрачених талантів», згідно з «дослідженням Оксфордського університету», коштуватиме «майже 1 трлн доларів». Якась нісенітниця! Інакше це і не прокоментуєш. Втім, треба відзначити, в OpenAI визнають, що іноді схильні до так званих «невдач моделювання світу», наприклад, машина може писати про пожежі, що відбуваються під водою.

Оголошення виробників про те, що програма є надто небезпечною для випуску, є чудовим піаром, але навряд чи переконливим. В OpenAI стверджують, що такий код може бути використаний для «створення неправдивих новинних статей», але хіба не створюють фейкові новини цілком реальні люди, які працюють на так званих фабриках тролів?

Зрештою, можливо в майбутньому такі текстові программ як GPT2 будуть використовувати для того, щоб зробити перші нотатки до набридливого бізнес-звіту, або ж написати черговий триллер.

З 1921 року, моменту прем’єри «Роботів» Карела Чапека, люди задавалися питанням, чи зможемо ми врешті-решт створити штучну форму життя, яка знищить нас. На сьогодні штучний інтелект має усі шанси забрати технічну роботу у людей. Але ж насправді ми говоримо не про те, що роботи відбирають роботу в людей, а про роботодавців, які свідомо звільняють людей і замінюють їх дешевими машинами. Чому, наприклад, у США так поспішають створити ботів, які оцінюватимуть есе в середній школі та університеті? Мабуть, щоб брати на роботу менше вчителів. Безсумнівно, в Amazon будуть щасливі продавати книги, повністю написані комп’ютерами (адже їм не потрібно платити роялті), а створені штучним інтелектом відео про вакцини та теорії змов набиратимуть непогані  перегляди у YouTube.

Ступінь нашої стурбованості такими можливостями в першу чергу залежить від того, на яких принципах побудована наша культура. Надмірна реклама навколо генератора тексту GPT2, принаймні, є симптомом того, що ми до певної міри усвідомили міщанський функціоналізм Кремнієвої долини, згідно з яким усе на світі — це просто дані. Так, коли ви володієте величезною системою для аналізу даних, все виглядає як дані. Текст може бути математично закодований і опрацьований комп’ютером, тож виходить, що текст —  це теж дані?

Але письменництво це не набір даних. Це засіб вираження, застосувати який можна лише у випадку, коли вам є що сказати. Комп’ютерна програма не здатна нічого висловити, окрім того факту, що вона не має життєвого досвіду, аби зрозуміти, що пожежа не може відбуватися під водою. Поки у роботів не буде багатого внутрішнього життя і розуміння навколишнього світу, вони не зможуть розповісти власні історії. І якщо одного дня вони таки зможуть висловитися, то чи зможемо ми зрозуміти їх?

Те захоплення, з яким про GPT2 говорить преса, може розповісти нам щось більше про сучасний час. У той час, коли лідери спільнот виконують свою роботу надзвичайно погано, перспектива потенційного панування машин може стати настільки ж бажаною (хоч із присмаком провини), наскільки завжди була жахаючою.

Поділіться своїми враженнями
в соцмережах

Що ви думаєте з цього приводу?

  Подписаться  
Уведомление о
Відгуки (0)
Топ кращих книг

Хочу отримувати
нові статті

Схожі публікації