Повстання машин: чи варто остерігатися, що штучний інтелект захопить світ. Частина І

evolveandascend.com
Чому Ілон Маск та Стівен Гокінг бояться штучного інтелекту та як із цим жити

В лавах техноутопістів, котрі ще недавно єдиним фронтом рухали людство у світле майбутнє, намітився серйозний розкол. І причиною тому – штучний інтелект.

Ілон Маск постійно каже про загрози з цього боку, йому вторить Стівен Гокінг. Білла Гейтса лягає прийдешня соціальна нерівність.

В той же час винахідник та футуролог Рей Курцвейл вважає штучний інтелект чи не панацеєю, а Марк Цукерберг відверто сміється зі страхів Маска

Останній, втім, на зустрічі із інвесторами Tesla висловився на цю тему більш стримано, нагадав, що він є співзасновником OpenAI (некомерційна організація, що займається розробкою штучного інтелекту), та заявив, що «просто необхідно переконатися в тому, що штучний інтелект дійсно приноситиме користь, а не стане інструментом для скоєннях якихось дурниць».

Чому ж люди, що безпосередньо причетні до розробки штучного інтелекту, ставляться до нього настільки по-різному?

Прощавай, антропоморфізме

Слово «штучний» більшість людей розуміють однаково – це щось, створене руками людини, чого не існувало у природі. Причому коли мова йде про штучний розум, людина (і це серйозна морально-етична проблема) виступає в ролі бога, що заважає багатьом сприйняти подібні розробки як належне.

rb.ru

З «інтелектом» складніше. Вважалося (і тепер вважається у колах, далеких від теми інтелекту взагалі), що це чисто людська якість психіки.

Це, в цілому, правда. Інтелект, як його розуміють словники, це поєднання вмінь пристосовуватися, навчатися та запам’ятовувати, накопичувати досвід, розуміти та застосовувати абстракції для управління оточуючим середовищем.

Але це не вся правда. Адже тварини, наприклад, також володіють інтелектом – когнітивна етологія, порівняльна психологія та зоопсихологія в один голос заявляють, що інстинкти та навчання не можуть пояснити притаманних тваринам зародків мислення, здатності до навчання та комунікації. Високорозвинені тварини емоційні, в них є мотиви, вони вміють будувати логічні припущення та планувати. А ще – спілкуватися. В тому числі і з нами – так, ваш собака знає, що робить, коли зворушливо просить їжі. Вищі примати здатні впізнавати себе в дзеркалі.

Люди, звісно, різні, але все рівно залишаються людьми, тому підходять до всього із людськими мірками

Інтелект – це щось, притаманне багатьом видам, але люди зуміли його розвинути і перетворити на дуже потужний інструмент підкорення оточуючого середовища, тоді як решті пощастило менше.

Тобто інтелект не обов’язково має бути схожим на нас. Але зрозуміти чужий розум заважає антропоморфізм. Проблема в тому, що люди, звісно, різні, але все рівно залишаються людьми, тому підходять до всього із людськими мірками.

Ми не винні, на жаль – або на щастя, – що до сих пір є єдиним повноцінно розумним видом на планеті. Найпростіший приклад антропоморфізму – казки, де тварини наділяються людськими якостями. Підла лисичка-сестричка живе в будиночку, розмовляє, снує підступи, викрадаючи наївного Півника, якого доводиться рятувати Котикові, що грає на музичних інструментах.

naked-science.ru

Насправді ми маємо дещо спільне із усіма ссавцями. Але подібностей цих недостатньо, аби вважати, що, отримавши розум, вовк прийде до нас на вечерю і буде пити чай, розмовляючи про новий серіал.

Він залишиться хижаком, збереже свої повадки, як ми зберегли повадки приматів, і радше влаштовуватиме посиденьки посеред лісу під місяцем, аби повити із іншими вовками, житиме зграєю (або великою родиною) та активно захищатиме свою територію – в тому числі, імовірно, і зброєю.

Все це до того, що штучний інтелект не буде «Скайнетом» або «Богомашиною» з «Матриці». Він не буде Піфією або агентом Смітом, не буде схожим на нас (звісно, якщо ми не запрограмуємо його бути схожим на нас, що поки що малоймовірно, оскільки люди не зовсім розуміють, як функціонує їх власний мозок). Він народився у комп’ютері, його предком був комп’ютер, його далекі родичі в еволюційному ланцюжкові – радше дерев’яна рахівниця та калькулятор, аніж ми з вами.

Вони повсюди!

Візьміть в руки смартфон. Практично всі додатки, які ви бачите (окрім базових типу калькулятора, мабуть), пов’язані зі штучним інтелектом. Пошук Google, алгоритми Facebook та Instagram, розпізнавання зображень та звуку. Все це – роботи, нейромережі, здатні навчатися.

Shutterstock

Роботи керують аеропортами, водять машини, допомагають астронавтам, працюють у всіх техногігантах, діагностують рак, пишуть музику, створюють картини та вірші, обіграють людей в шахи та ґо.

Але ніхто не спалює смартфони та комп’ютери, остерігаючись, що завтра вони знищать людство. Навпаки, ми з радістю віддаємо їм частину роботи, насолоджуючись вільним часом. Все це – так звані ВШІ (вузькоспрямований штучний інтелект). Проблема таких роботів у тому, що вони вміють робити лише щось одне.

На наступному етапі еволюції стоїть ЗШІ – загальний штучний інтелект. Його поки що не існує (але ми ніби як заздалегідь побоюємося).

ЗШІ навряд чи буде тикати дрючком в осине гніздо – він радше задіє різні сенсори, аби його просканувати та прийняти потрібне рішення

По суті, ЗШІ – це цифровий розум рівня людини, себто, комп’ютер, котрий володіє здатністю пристосовуватися, навчатися та запам’ятовувати, накопичувати досвід, розуміти та застосовувати абстракції для управління оточуючим середовищем.

Тільки робить він це по-своєму. Наприклад, ЗШІ навряд чи буде тикати дрючком в осине гніздо – він радше задіє різні сенсори, аби його просканувати та прийняти потрібне рішення. Хоча в цілому для ЗШІ оса стане об’єктом з іншого виміру (як мошки для риб), з котрим можна взаємодіяти, але це зовсім не обов’язково.

І, нарешті, третій етап еволюції – ШНІ. Штучний надінтелект. Ось тут вже варто злякатися, оскільки здатності та можливості такого розуму будуть, як на людське розуміння, божественними.

Shutterstock

При чому, стрибок від ЗШІ до ШНІ може зайняти миті, оскільки еволюція цифрових систем, згідно передбаченням ряду експертів, буде стрибкоподібною. Варто тільки ШНІ усвідомити себе (або ж виробити інший алгоритм розуміння та взаємодії зі світом), він тут же досягне захмарних висот.

Адже, по суті, ЗШІ – це, скажемо так, надія людства.

В гіршому випадку ми, відсталі мурахи, навіть не зрозуміємо, звідки взявся ШНІ, поки не стане занадто пізно. Техножурналіст Тім Урбан малює потішну картинку: люди стоять на станції ЗШІ з плакатами «Ласкаво просимо!», а потяг штучного інтелекту проноситься повз на величезній швидкості, прямуючи до станції надінтелекту.

Поділитися: