Ілюзія унікальної раціональності

Нині нам доводиться прощатися з найбільшою ілюзією – переконаністю в унікальності людського розуму. З античних часів люди вважали себе винятковими, раціональними істотами, здатними побачити логіку та порядок в очевидному хаосі цього світу.

Протягом останніх століть ми думали, що порядок складається з кількох правил, які керують складністю Всесвіту. Їх було цілком достатньо, щоб пояснити світ, а коли відбувалося щось незрозуміле, це записувалося до категорії випадковості. Однак події останніх десятиліть, поява інтернету, а потім і машинного навчання неухильно руйнують нашу впевненість у винятковості стосунків людини з навколишнім світом.

Процес прощання з колишнім самосприйняттям часто виявляється досить болісним і супроводжується відчуттям втрати психологічного комфорту. Але, як відзначає автор, нервозність або напруга, пов’язані з очікуванням чергового підриву або непередбачуваного повороту подій, – це просто локалізований біль, що свідчить про глибше захворювання – розуміння того, що ми зовсім не так добре адаптовані до Всесвіту, як хотіли б думати.

Еволюція дала нам розум, налаштований на виживання, який лише іноді здатний осягнути істину. Наші заяви про те, що формує нашу унікальність, – про людські емоції, інтуїцію та креативність – починають здаватися надто наполегливими, у них звучать нотки розпачу.

Прийняття непоясненості

Ми звикли до того, що технологія дає нам швидкість, комфорт, різноманіття вражень і багато іншого. При цьому ми не завжди помічаємо, як у вирі науково-технічного прогресу змінюється сутність нашої взаємодії зі світом.

Deep Patient – розроблений у лікарні Маунт-Синай (Нью-Йорк) алгоритм глибокого навчання – один із прикладів систем, що ставлять під сумнів нашу здатність пояснити все. У програму ввели зовсім різні дані про 700 тис. пацієнтів (приблизно так, ніби скинули у гігантський чан залишки їжі з величезного стола). Однак, проаналізувавши дрібні крихти інформації, система не лише спромоглася визначити ймовірність розвитку певних захворювань у пацієнтів, але й зробила це з набагато більшою точністю, аніж найдосвідченіші медики.

Deep Patient здатна встановлювати різні рівні кореляції між даними, нічого не знаючи про те, що вони означають. Щоб зрозуміти, чому Deep Patient вважає, що у конкретного пацієнта з 75%-вою ймовірністю може розвинутися шизофренія, дослідник повинен увібрати у свій мозок мільйони одиниць даних – кожну з усією сукупністю можливих взаємозв’язків. Це завдання є практично непосильним для людини.

Алгоритми глибокого навчання працюють, тому що здатні сприйняти складність, мінливість і навіть красу світу, в якому все впливає на все

Алгоритми глибокого навчання працюють, тому що здатні сприйняти складність, мінливість і навіть красу світу, в якому все впливає на все

Звісно, пацієнт може відкинути імовірнісні висновки Deep Patient, але при цьому він серйозно ризикує. Адже реальність така, що ми використовуємо діагностичні системи типу «чорний ящик» (нездатні пояснити свої висновки), тому що часто їхні прогнози набагато точніші за ті, які роблять лікарі.

У процесі розвитку обчислення цього типу можуть ставати ще загадковішими. Так, якщо відняти число можливих ходів у шахах від числа можливих ходів у китайській грі го, залишок у кілька разів перевищить кількість атомів у Всесвіті. Однак створена Google програма Alphago послідовно виграє у найкращих світових гравців, хоча й не знає про цю гру нічого, крім того, що вивчила, проаналізувавши 60 млн ходів зі 130 тис. записаних партій.

Якщо ми спробуємо зазирнути всередину програми, щоб розібратися, чому був зроблений саме такий, а не якийсь інший хід, то побачимо тільки безліч складних наборів взаємозалежностей між даними. Програвши Alphago, один із провідних гравців у го Фань Хуей сказав: «Це не схоже на ходи, які робить людина; ніколи не бачив, щоб люди діяли так… Наскільки ж це прекрасно – неймовірно прекрасно».

Алгоритми глибокого навчання працюють, тому що здатні сприйняти краще, ніж будь-хто з людей, складність, мінливість і навіть красу світу, у якому все впливає на все – і це відбувається одночасно. Машинне навчання – це лише один з інструментів, що відкривають нам очі на незбагненну складність буття. Однак, щоб повною мірою це усвідомити, ми повинні відмовитися від переконання: ми завжди здатні зрозуміти наш світ, а також механізми подій та явищ, що відбуваються у ньому.

Поза межами прогнозування

У 1814 році французький математик П’єр-Симон Лаплас запропонував уявний експеримент, головним героєм якого став демон – всезнаюча істота, здатна в будь-який момент часу визначити швидкість і місцезнаходження кожної частки у Всесвіті, а також знати перебіг її еволюції у минулому та майбутньому. Так учений хотів показати, наскільки люди не усвідомлюють справжні причини того, що відбувається, і визначав ступінь точності, до якого, на його думку, повинна прагнути наука.

«Ми можемо розглядати теперішній стан Всесвіту як наслідок його минулого та причину його майбутнього, – писав мислитель. – Розум, якому в кожен момент часу були б відомі усі сили, що приводять природу в рух, зміг би поєднати єдиним законом рух найбільших тіл та найдрібнішого атома; для такого розуму нічого не було б невідомого, і майбутнє існувало б у його очах так само, як минуле».

Демон Лапласа зображує картину світу, що нагадує годинник: будь-яка подія описується початковими умовами, які точно визначають перебіг протікання процесу. Хоча в наступні сторіччя наука завдавала удару за ударом механічному детермінізму, ідея світу, що функціонує як годинник, міцно затвердилася у нашій свідомості.

Перша модель прогнозування погоди була створена норвезьким ученим Вільгельмом Б’єркнесом у 1900 році. Вона включала сім факторів і ґрунтувалася на законах ньютонівської фізики. Далі такі моделі поступально удосконалювалися, і число змінних у них сягало сотень. Але, як зауважує автор, до появи машинного навчання їхня сутність практично нічим не відрізнялася від концепції Б’єркнеса, що втілювала ідею демона Лапласа. Тобто якби ми знали правила, що управляють поведінкою кожного із семи факторів, якби мали дані про них на кожний момент життя Всесвіту, то змогли б передбачити, якою буде погода у наступний момент.

Людство ніколи не вміло точно визначати, скільки ресурсів потрібно для реалізації стратегії «передбачити та підготуватися». Але в умовах невизначеності її недоліки можуть виявитися катастрофічними

Людство ніколи не вміло точно визначати, скільки ресурсів потрібно для реалізації стратегії «передбачити та підготуватися». Але в умовах невизначеності її недоліки можуть виявитися катастрофічними

Однак проблема полягає у тому, що число факторів, які визначають погоду, безмежно велике. Власне, теорія хаосу виникла на основі безплідних спроб навчитися точно передбачати погоду. Фактично на погоду впливає все, що відбувається на землі. Певно, найвідомішою ілюстрацією теорії хаосу є образ метелика, змах крил якого може вплинути на погоду в іншому регіоні планети. Такий метафоричний метелик, що персоніфікує незначну подію, може зруйнувати кожну із прогнозних моделей, незалежно від того, чи стосується вона розвитку глобальних трендів або ж прогнозу продажу в невеликій компанії.

Автор звертає увагу на наступний парадокс: удосконалюючи свою здатність прогнозувати, ми дедалі глибше усвідомлюємо, наскільки непередбачуваним є наш світ.

Передбачити та підготуватися

Наші способи прогнозування показують, як ми думаємо про майбутнє, а також те, як влаштовано середовище, у якому ми живемо. Зазвичай майбутнє сприймається як сукупність багатьох можливостей. При його наближенні їхня кількість скорочується, і тоді нам залишається вибрати одну з них і зробити все, щоб її реалізувати. Думаючи про майбутнє, ми передбачаємо те, що може відбутися, але це не обов’язково досягає рівня прогнозу. Передбачення може бути чимсь украй простим, як, наприклад, упевнене намацування ключів у кишені під час наближення до будинку, а може стосуватися якихось важливих кроків. Але, у будь-якому разі, у цьому – основа нашої взаємодії зі світом. Не передбачаючи, ми не змогли б ані черпнути ложкою суп, ані створити успішну бізнес-стратегію.

Передбачивши потреби середнього класу, що тільки зароджувався, Генрі Форд створив Model T. Автомобіль мав бути простим у керуванні, оскільки більшість людей, що його купували, уперше сідали за кермо; мати високий кліренс, тому що був призначений для подорожей вибоїстими дорогами, де раніше їздили запряжені кіньми вози; бути дешевим у виробництві, щоб стати доступним для широкого кола споживачів. А ще, передбачивши, що люди будуть їздити також і у темний час доби, Форд вирішив обладнати машину фарами.

Приблизно через десять років після виведення автомобіля на ринок, коли обсяги продажу налічували мільйони одиниць, інженери показали Генрі Форду оновлену версію моделі. Він взяв до рук молоток, розбив макет, а потім, не вимовивши жодного слова, вийшов з кімнати. Форд вважав, що все треба робити правильно з першого разу. Ця стратегія ґрунтується на переконанні в тому, що майбутнє можна прогнозувати.

Упродовж тисячоліть стратегія «передбачити та підготуватися» доводила свою дієвість (зрештою, саме їй ми зобов’язані виживанням нашого виду). Однак практично завжди вона означає чималі витрати, пов’язані з надмірною, недостатньою або неправильною підготовкою. На побутовому рівні це може виявлятися у продуктах, що псуються у холодильнику, у банках або пляшках, що вкриваються пилом, чекаючи невідомо на що. Хоча такі витрати часто залишаються непоміченими, оскільки коштують небагато, але загалом їхня сукупна вартість може бути досить високою. Наприклад, американці викидають 40% усієї придбаної їжі – на $165 млрд. на рік.

У промисловій сфері вади цієї стратегії найбільш наочно проявляються у недостатніх або надмірних товарних запасах. Так, згідно з даними одного дослідження, у 1995 році на піку комп’ютерного буму невідповідність між попитом та пропозицією спричинила надмірні товарні запаси на суму, що дорівнює операційному прибутку цілої галузі.

Людство ніколи не вміло точно визначати, скільки ресурсів потрібно для реалізації стратегії «передбачити та підготуватися». Але тепер, коли майбутнє характеризується високою невизначеністю, її недоліки можуть виявитися катастрофічними.

Часто навіть найбільш проникливі компанії не здатні передбачити бажання клієнтів, оскільки ті самі можуть не знати, що їм потрібно

Часто навіть найбільш проникливі компанії не здатні передбачити бажання клієнтів, оскільки ті самі можуть не знати, що їм потрібно

Не-передбачення як реакція на складність

Інтернет і машинне навчання кардинально змінюють наше сприйняття світу. Одночасна взаємодія гігантського числа одиниць інформації може запускати несподівану низку подій, а дрібні деталі можуть ставати причиною непередбачувано різких поворотів, що роблять системи. Замість того, щоб позбуватися деталей, як це робимо ми, узагальнюючи або забираючи «непотрібну» або «неважливу» інформацію, технології вбирають у себе все, проникаючи в недоступні для нас глибини та дозволяючи досягати неймовірних результатів.

За словами Вайнбергера, саме успіх у використанні інтернету та машинного навчання показує, що світ набагато складніший та хаотичніший, ніж нам завжди здавалося. Це підштовхує нас до пошуку нових підходів і стратегій, що суперечать уявленням про те, чому у світі відбувається те, що відбувається, а також ставлять під сумнів доцільність прагнення зрозуміти та пояснити все. Зрештою, формується нове розуміння того, як функціонує наше середовище.

Упродовж двох останніх десятиліть інтернет, а тепер і машинне навчання, вчать нас краще пристосовуватися до хаосу та принаймні іноді відмовлятися від стратегії «передбачити та підготуватися» на користь підходу «не передбачати та навчатися». У бізнес-середовищі друга стратегія (яку часто визначають як стратегію створення мінімально життєздатного продукту) уже не перший рік успішно використовується цілою низкою технологічних та інших компаній.

У 2004 році стартап IMVU зіштовхнувся з необхідністю досить швидко вивести на ринок сервіс миттєвих повідомлень. За словами співзасновника компанії Еріка Райза, було прийнято рішення «усе зробити неправильно». Пояснюючи цей крок, він пише у книзі «Стартап без помилок» (The lean startup): «Замість того, щоб витрачати роки на вдосконалювання нашої технології, ми створили мінімально життєздатний продукт, повний “глюків”. А потім запропонували його клієнтам задовго до того, як він був повністю готовий. І взяли за це гроші».

Далі, у процесі спілкування з користувачами, компанія з’ясовувала, як вони хочуть використовувати продукт і відповідно його модифікувала (серед іншого, йшлося про використання технології тривимірних аватарів). Може здатися, що IMVU просто пощастило, однак насправді цей підхід зводить роль удачі до мінімуму, оскільки йдеться не про те, щоб правильно вгадати, а про те, щоб довідатися, чого ж насправді прагнуть клієнти.

Часто навіть найбільш проникливі компанії не здатні передбачити бажання клієнтів, оскільки останні самі можуть не знати, що їм потрібно. І зовсім не тому, що дурні, а тому, що продукти складні, і те, як вони впишуться у нашу складну роботу та не менш складне життя, можна довідатися лише у процесі їх використання. Зі свого боку, те, як споживачі використовують продукти, дає поштовх до появи нових потреб та ідей.

На момент старту, у вересні 2008-го, Dropbox надавала користувачам єдиний сервіс: можливість працювати над одним файлом, перебуваючи в різних місцях, не маючи при цьому проблем зі швидкістю. Далі, спостерігаючи за користувачами, навчаючись у них, компанія послідовно додавала нові функції: резервне копіювання, спільне редагування тощо.

Однак автор пише про те, що допоки люди виконуватимуть дію X, щоб одержати Y, не-передбачення не замінить повністю стару стратегію «передбачити та підготуватися». Місцевий театр буде й надалі друкувати більше програмок, ніж придбають глядачі; бізнеси будуть купувати забагато у передчутті чергового передсвяткового піку; ми ж купуватимемо те, що може ніколи не знадобитися. Але незважаючи на це, наше ставлення до майбутнього змінюється: ми дедалі більше готові відмовлятися від контролю над ним, щоб дати можливість з’явитися чомусь цінному, тому, що неможливо спрогнозувати.

Створення майбутнього, що перебуває поза сферою нашого контролю, може виявитися напрочуд продуктивною стратегією. І у цьому аспекті інтернет уже подарував нам кілька уроків. Один з них: передбачення не масштабується та обмежує нас у можливостях, а не-передбачення, навпаки, вивільняє їх.

Передбачення не масштабується та обмежує нас у можливостях, а не-передбачення, навпаки, вивільняє їх

Передбачення не масштабується та обмежує нас у можливостях, а не-передбачення, навпаки, вивільняє їх

Стратегія та можливості

Традиційно сутність дієвої організаційної стратегії полягала у тому, щоб сфокусувати всю енергію компанії на досягненні якоїсь найважливішої для неї мети. Може здатися, що в складному, непередбачуваному та навіть хаотичному середовищі стратегічний фокус (або рішення про те, як найефективніше використовувати обмежені ресурси) важливий як ніколи. Часто це так і є, але багато організацій починають бачити стратегію інакше, реалізовуючи підходи lean, agile або йдучи шляхом інноваційних підривів. До цього їх підштовхує мінливість навколишнього середовища, усвідомлення прихованих витрат стратегії «передбачити та підготуватися» або ж якісь інші причини. Але щоразу підходи до створення стратегії показують, як її творці розуміють можливості.

У 1941-му, ще до нападу японців на Перл-Харбор, американське та британське командування сформулювало загальну стратегічну мету, яка полягала у тому, щоб спочатку завдати поразки нацистській Німеччини та лише після цього атакувати Японію. З цієї мети випливала ціла низка стратегічних рішень, у тому числі про те, на яких театрах воєнних дій сфокусувати основні ресурси.

У 1960-ті у компанії Royal Dutch Shell було впроваджено сценарне планування. Менеджери пропонували декілька версій рівноможливого майбутнього, а далі глибоко вивчали кожен варіант імовірного перебігу подій. За словами автора цього підходу П’єра Вака, головне завдання полягало в тому, щоб спонукати керівників вийти за межі усталеної розумової парадигми і прийняти як факт те, що бізнес-середовище неминуче змінюватиметься. Серед розглянутих версій розвитку майбутніх подій була нафтова криза – сценарій, що втілився у життя у 1973 році. Згідно з даними Bain&Company, у 2006 році сценарне планування використовували 70% компаній.

У виданій в 2013 році книзі «Кінець конкурентної переваги» (The end of competitive advantage) Рита Макграт сформулювала ідею про постійну стратегічну реконфігурацію. Діджиталізація, глобалізація та інші фактори зробили зовнішнє середовище надмірно динамічним, тому думка про стійку конкурентну перевагу втрачає актуальність. Необхідно постійно реагувати на нові зміни. Відповідно, компаніям потрібні оргструктура та культура, що дозволяють швидко змінювати стратегічний курс.

Якщо у сценарному плануванні враховуються тільки масштабні фактори, у концепції Макграт значущими можуть виявитися практично усі, навіть найменші, зміни. Стратегічні можливості створюються у процесі взаємодії усіх елементів системи.

Незважаючи на кардинальні відмінності цих трьох стратегій, їхня сутність зводиться до того самого – визначення якоїсь однієї можливості, яку найдоцільніше реалізувати на поточному часовому проміжку. Нині ж існують компанії, що втілюють стратегії, засновані не на звуженні, а на розширенні спектру можливостей. Серед прикладів, які наводяться у книзі, – Drupal.

Drupal – це відкрита система керування контентом. Дріс Бейтарт, засновник і керівник проєкту, відкрив для усіх код, щоб система розбудовувалася у різноманітних, часто несподіваних, напрямках. З 2004-го Drupal використовувалася для різних цілей – від створення соціальної мережі, що підтримувала виборчу кампанію кандидата у президенти Говарда Діна, до формування спільноти іспанських футбольних уболівальників і платформи самообслуговування для австралійських платників податків. Навіть якби Бейтарт мав повноваження та бажання для того, щоб визначати спільну стратегію, він у такий спосіб обмежив би здатність розробників задовольняти потреби різноманітних сайтів.

Щоб запобігти причетності Drupal до реалізації негідних цілей, діє система етичних норм та принципів. «Я намагаюся відійти убік і не заважати роботі екосистеми» – так Бейтарт формулює свою особисту стратегію. Таким чином, він дозволяє реалізовувати можливості, які відкриває архітектура Drupal, і обслуговувати реальні потреби користувачів.

Створення майбутнього, що перебуває поза сферою нашого контролю, може виявитися напрочуд продуктивною стратегією

Створення майбутнього, що перебуває поза сферою нашого контролю, може виявитися напрочуд продуктивною стратегією

Про прогрес

У світі, де хаос стає дедалі сильнішим, змінюється сутність сприйняття прогресу. Якщо раніше він вважався поступальним удосконаленням чогось, наприклад, механічних годинників, то нині просування вперед можна описати так: ви розбиваєте годинник і кидаєте компоненти у повітря, не знаючи, що з ними станеться далі. Єдина відмінність: у цифровому світі не треба щось розбивати для того, щоб окремі складники якось кимось використовувалися з метою, яку ви навряд чи змогли б передбачити.

Фактично мережа – це наймогутніший інструмент, на основі якого створюються будь-які інші інструменти. Інтернет є генеративним за своєю сутністю, він включає весь спектр значень, які можна вкласти у цей термін.

Термін «генеративність» запропонував Джонатан Зіттрейн у своїй книзі «Майбутнє інтернету – і як йому запобігти» (The Future of the Internet, and How to Stop It), щоб показати, з якою легкістю ми можемо використовувати цей інструмент, незалежно від того, для чого він колись призначався. Якщо поняття «інтероперабельність» стосується ступеню, до котрого елементи різних систем можуть взаємодіяти один з одним, то термін «генеративність» описує здатність інструмента або системи бути використаними у способи, які неможливо передбачити. Інакше кажучи, генеративність – це ступінь, з яким інтероперабельність втілює не-передбачення у реальність.

Традиційно прогрес припускає, що щось одне замінюється чимсь іншим, досконалішим (як, скажімо, протягом століть розвивався годинниковий механізм). А сутність генеративності полягає у тому, що із чогось одного з’являється незліченна множина чогось іншого, зовсім непередбачуваного.

Рушійною силою генеративного прогресу є не стільки кінцева точка шляху, куди ми крок за кроком прагнемо потрапити, скільки зниження бар’єрів для винаходів. Це відбувається завдяки інтероперабельності, генеративності та відкритим мережам розробників: завдяки цьому людська креативність може бути використана для вирішення проблем і задоволення бажань, які інакше просто залишилися б непоміченими.

Якщо раніше наше нове розуміння прогресу в основному формувалося під впливом комп’ютерів та інтернету, то тепер дедалі більшу роль у цьому відіграватиме машинне навчання. Можливо, у нас будуть підстави для того, щоб у деяких сферах приймати зроблені штучним інтелектом висновки, тільки повністю розуміючи сутність процесів, на підставі яких вони були зроблені, відзначає автор. Він звертається до опублікованого в 1872 році роману Семюеля Батлера «Єрихон» (Erewhon), де той пророчо зазначив, що ми припинимо процес створення деяких машин через страх, що вони перевершать нас. Проте у більшості сфер ми продовжуватимемо використовувати машини, які створюють рекомендації на основі даних та взаємозалежностей, що перевершують нашу здатність їх розуміти.

Про технологічний детермінізм

Як стверджують прихильники ідеї технологічного детермінізму, технологія є головним чинником, що визначає перебіг розвитку нашого суспільства та культури. Серед прикладів технодетермінізму, що наводяться у книзі, – твердження письменника Ніколаса Карра про те, що інтернет руйнує нашу здатність концентруватися та поринати в глибокі міркування. А також застереження психолога Шеррі Теркл щодо того, що захоплення мобільними гаджетами культивує у наших дітях нарцисизм. На такі твердження складно знайти заперечення. Однак Вайнбергер вважає, що і беззастережне прийняття ідеї технодетермінізму, і її відкидання – крайнощі.

Ми не є наслідком існування речей, так само як і поява різних речей не є просто результатом наших дій. Наявні у нас інструменти визначають те, як ми мислимо, а якщо з’являються нові інструменти, ми починаємо інакше розуміти цей світ. Іноді наше сприйняття змінюється радикально.

Машинне навчання руйнує основну ідею західної цивілізації про те, що людський мозок унікальний і налаштований на осягнення істин Всесвіту. Нині ми починаємо усвідомлювати, що це не так, і ця думка бентежить нас. Але це водночас свідчить про те, що наші спроби зрозуміти устрій речей не безплідні, а також про те, що ми є частиною Всесвіту, і у цьому наша унікальність.

Зараз ми більше, ніж будь-коли раніше, готові прийняти складність світу як таку. Ми перебуваємо на порозі усвідомлення нового парадоксу: з одного боку, ми можемо контролювати набагато більшу частину майбутнього, ніж будь-коли, а з іншого – усвідомлюємо, що воно виходить усе далі за межі нашого розуміння

Джерело: Digest, спільний проєкт kmbs та Kyivstar