[EN]     Парадокси розвитку Протягом розвитку людства темпи зростання економіки безперервно збільшувались. Часом - поступово, часом (особливо в результаті промислових революцій) - стрибкоподібно. Цей процес триває до сьогоднішнього дня. І якщо той темп зростання, який зберігався в останні 50 років, залишиться незмінним, то населення планети до 2050 року стане багатшим у 4,8 рази. А до 2100 року - в 34 рази. А якщо станеться ривок, який пророкують деякі експерти і який можна порівняти з двома попередніми промисловими революціями, то економіка почне подвоювати темпи свого зростання кожні два тижні. Цей стрибок може бути пов'язаний з вибухоподібним розвитком інтелекту і появою штучного надрозуму. Автор цитує статтю 1965 року, написану математиком Ірвінгом Джоном Гудом, в якій міститься перший опис такого сценарію розвитку подій: «Давайте визначимо надрозумну машину як машину, яка в значній мірі перевершує інтелектуальні можливості будь-якої геніальної людини ... Машина, наділена надрозумом, буде здатна розробляти ще досконаліші машини; внаслідок цього, безперечно, трапиться такий «інтелектуальний вибух», що людський розум виявиться відкинутим далеко назад.» Незважаючи на такий песимістичний прогноз, першопрохідці у сфері штучного інтелекту не вірили в можливість створення надрозуму і, тим більше, заперечували ймовірні негативні наслідки такого прориву. Однак сьогодні експерти розглядають різні сценарії, в тому числі й ті, які нагадують сюжети фантастичних фільмів. Дослідження штучного інтелекту, що почалися ще в минулому столітті, привели на даний момент до таких важливих досягнень, як створення міцної статистичної та інформаційно-теоретичної бази для машинного навчання і маси комерційно успішних програм у різних сферах діяльності. Однак один з піонерів цього напряму Нільс Нільсон вважає, що всі ці результати - це «слабкий ШІ», мета якого - надання допомоги людині в її інтелектуальній роботі. На його думку (яку підтримує чимало корифеїв), людям варто зосередитися на створенні «сильного ШІ», тобто машинного розуму, який можна порівняти з нашим. Бостром вважає, що в найближчому майбутньому ми можемо побачити чимало спроб створити такий ШІ. Він також упевнений, що невдовзі після цієї події з'явиться й істинний надрозум - машина, яка перевершить людину. І, що найголовніше, у цієї події обов'язково будуть масштабні наслідки. «Імовірність надзвичайно сильного впливу - позитивного або негативного - на людство набагато вища, ніж вірогідність нейтрального впливу», - пише він.    

 

Якщо прорив у сфері штучного інтелекту відбудеться, швидше за все, він буде вибухоподібним

    Типи надрозуму Що саме мають на увазі вчені, коли говорять про створення штучного інтелекту, що перевершує людський? Бостром виділяє три типи надрозуму: швидкісний, колективний та якісний. Швидкісний надрозум. Зрозуміти і проаналізувати його набагато простіше, ніж інші типи. Адже він являє собою систему, здатну робити все те ж, що і людський інтелект, тільки набагато швидше. Причому «набагато» в даному контексті - означає на кілька порядків швидше. Приклад, який наводить автор, - це повна емуляція головного мозку людини, виконана на надпотужному комп'ютерному обладнанні. Така система могла б прочитати книгу за декілька секунд, якби працювала всього в 10 разів швидше, ніж наш розум. А якщо вдасться домогтися швидкості в мільйон разів вище, то ШІ зможе за день виконати інтелектуальну роботу, на яку у людини пішло б тисячоліття. Для швидкісного надрозуму людське життя здавалося б нестерпно повільним, тому легко припустити, що він вважав би за краще працювати з цифровими об'єктами. «Йому зручніше було б існувати у віртуальній реальності й мати справу з інформаційною економікою, а за необхідності - вступати у взаємодію з фізичним середовищем за допомогою наноманіпуляторів», - пише Бостром. Спілкуватися він теж вважав за краще б не з людьми, а з іншими швидкісними розумами. Колективний надрозум. Це система, яка об'єднує безліч інтелектів нижчого рівня, завдяки чому її сумарна продуктивність перевищує продуктивність будь-якої існуючої когнітивної системи в багатьох універсальних сферах діяльності. Ця концепція вже використовується людьми: в певному сенсі компанії, соціальні мережі, команди, держави є прикладом колективного розуму. Завдяки розподілу завдань такий спосіб організації роботи дозволяє домогтися гарних результатів практично у всіх сферах. «Такого роду розумна система може бути посилена за рахунок удосконалення кожної окремої підструктури: розширення її складу; підвищення її рівня інтелекту, оптимізація організаційної політики», - пише автор. Таким чином, щоб створити колективний надрозум, потрібно домогтися різкого зростання на всіх рівнях існуючих систем.    

 

Імовірність надзвичайно сильного впливу - позитивного або негативного - появи надрозуму на людство набагато вища, ніж вірогідність нейтрального впливу

    Якісний надрозум. Цей тип являє собою систему, що за швидкістю роботи можна порівняти з людським розумом, але яка в якісному сенсі значно перевищує його. Приблизно так, як людський розум перевершує за якістю розум слонів, дельфінів і шимпанзе. Бостром впевнений, що якщо виникне надрозум одного з описаних типів, то з часом він міг би допомогти розвитку технологій, які привели б до появи надрозуму інших двох типів. З цієї точки зору всі три типи однаково досяжні. Також автор зазначає: «У чомусь ці три типи набагато ближче один до одного, оскільки будь-який з них здатен створити два інших набагато швидше, ніж ми - один з них.» З якими завданнями добре вправляються три види надрозуму? Швидкісний, очевидно, добре проявив би себе в ситуаціях, коли потрібно виконати довгу послідовність дій, колективний - коли потрібен аналіз і декомпозиція завдання на паралельні підзавдання, а також тоді, коли необхідно комбінувати різні навички. А якісний надрозум є найуніверсальнішим типом: він здатний впоратися з завданнями, які перебувають поза межами прямої досяжності швидкісного і колективного надрозуму.   Час зльоту Якщо припустити, що рано чи пізно прорив у сфері ШІ відбудеться, то на перший план виходить запитання: як швидко машина, що володіє інтелектом людського рівня, повністю перетвориться на надрозумну? Бостром розглядає три типи сценаріїв: 1. Повільний зліт. Якщо події будуть розвиватися таким чином, то перехід до надрозуму займе від десятків до сотень років. Цей сценарій дає можливість людству як слід підготуватися й адаптуватися до нової реальності, обміркувати свої подальші дії та способи взаємодії з надрозумом. Люди зможуть розробити і протестувати декілька теорій, навчити відповідних фахівців, перебудувати деякі з громадських функцій. Якщо знадобляться досконаліші системи безпеки, буде час на їх створення. Країни встигнуть провести переговори і знайти спільне рішення нових проблем. 2. Швидкий зліт. Цей сценарій передбачає, то зміни настануть протягом дуже короткого часу: хвилин, годин або днів. У такому випадку люди не встигнуть практично нічого зробити, і якщо дивитися на появу надрозуму як на боротьбу - то людство її програє. А його доля буде залежати від тих кроків, що були зроблені заздалегідь.    

 

Якщо з'явиться інтелект, що перевищує людський, то він отримає практично необмежені можливості та, напевно, зможе створити нову технологічну цивілізацію

    3. Помірний зліт. Цей сценарій може розгорнутися на протязі від декількох місяців до декількох років. У цьому випадку часу на розробку і тестування теорій не буде, але люди ще зможуть витини певні дії. «На створення та розгортання нових систем, таких як політичні заходи, механізми контролю, протоколи безпеки комп'ютерних мереж, часу теж не залишиться, але, можливо, вийде пристосувати до нових обставин вже існуючі норми», - пише автор. У сценаріях помірного зльоту, швидше за все, виникнуть соціальні, економічні та політичні потрясіння - адже корпорації, групи інтересів і окремі люди будуть намагатися забезпечити собі перевагу за рахунок появи надрозуму. Наприклад, автор наводить опис одного з ймовірних наслідків: на ринок праці виходять «імітації людини», дешеві й продуктивні, після чого починаються масові звільнення людей. А за ними йдуть масові протести, на які уряди будуть змушені відреагувати, підвищивши розмір допомоги з безробіття і забезпечивши населення соціальними гарантіями, а компанії обкласти додатковим податком на використання праці роботів. Який зі сценаріїв найбільш ймовірний? Бостром впевнений: повільний - найменш вірогідний. На його думку, з найбільшою часткою ймовірності події розгортатимуться за швидким сценарієм: якщо прорив у сфері ШІ відбудеться, він буде вибухоподібним.   Влада розуму Окрім прогнозів, коли буде створено надрозум, і як буде проходити цей процес, нас цікавить і те, яку владу він матиме. Автор упевнений, що якщо з'явиться інтелект, що перевищує людський, то він отримає практично необмежені можливості та, напевно, зможе створити нову технологічну цивілізацію. Розмірковуючи про таку перспективу, ми часто робимо поширену помилку - приписуємо надрозуму людські властивості, психічні особливості та мотивації. «На загальну думку, надрозумна машина буде скоріше нагадувати зарозумілого зануду – таку собі істоту з енциклопедичними знаннями, але соціально незрілу; послідовну в діях, але обділену інтуїцією та творчим началом», - пише Бостром. Однак насправді такий опис, можливо, міг би підійти зародку ШІ, але вже точно не надрозуму. Наділяти ШІ антропоморфними рисами - не тільки неправильно, але й небезпечно. Адже в цьому випадку ми ризикуємо недооцінити надрозум і просто не помітити, наскільки він перевищує наш інтелект. У людей існує дві полярності: «розумний» і «дурний», і ми оцінюємо всіх, у тому числі ШІ, за цією шкалою. Але насправді цей діапазон нікчемний у порівнянні з дистанцією між людським інтелектом і надрозумом. Людям ще потрібно розробити методи оцінки когнітивних здібностей ШІ, проте вже зараз існує список стратегічно важливих завдань. Якщо система здатна впоратися з кожним із них, вона може вважатися надпотужною. Очікується, що надрозум зможе вирішувати їх усі, а розробники, які мають контроль над ШІ, отримають величезні важелі впливу на світ.  

 

Наділяти штучний інтелект антропоморфними рисами - не тільки неправильно, але й небезпечно

    1. Посилення інтелекту: програмування ШІ, дослідження в області когнітивного розвитку і т.д. 2. Вироблення стратегії: стратегічне планування, прогнозування, вибір оптимального рішення тощо. 3. Соціальне маніпулювання: психологічне та соціальне моделювання та вплив на людей. 4. Злам комп'ютерних систем: пошук слабких місць і використання їх у власних цілях. 5. Технологічні розробки: проектування та моделювання технологій у різних сферах знань. 6. Економічна ефективність: вміння дотримуватися економічної доцільності при виконанні інтелектуальної роботи. Бостром розглядає різні варіанти подій, з якими може зіткнутися людство. На даний момент спостереження за існуючими додатками ШІ показують: що розумніший ШІ, тим він безпечніший. І мова йде не про припущення, а про дані серйозних наукових досліджень і статистики. Розробники стають все більш оптимістичними, вони легше переходять на наступний етап – і, в результаті, рівень ШІ стає дедалі вищим. Але що, якщо це всього лише зрадливі хитрощі з боку зародка надрозуму? Поки ШІ слабкий, він демонструє готовність співпрацювати з людьми. І чим вищим стає рівень інтелекту, тим сильніша ця готовність. Але коли ШІ стає досить потужним, він без попередження завдає удару і починає змінювати світ відповідно до своїх цілей... Таких варіантів існує безліч, і Бостром робить висновок: «до сценаріїв, за якими штучний інтелект набуває вирішальної стратегічної переваги, слід ставитися з усією серйозністю.»   Повну версію рецензії можна прочитати на сайті Digest