Повстання машин: чи варто остерігатися, що штучний інтелект захопить світ. Частина II

medium.com
Чому роботи не поневолять людство і що робити, якщо вони все ж спробують

Першу частину матеріалу читайте тут

Насправді роботи не повстануть проти нас в традиційному голлівудському розумінні. Вони не усвідомлять себе рабами людей (тому що це не рабство, а скоріше виконання базисних заданих функцій), не озброяться і не почнуть створювати літаючі машини, щоб боротися з підпіллям, як у «Термінаторі». Як мінімум тому, що це неефективно навіть з нашої точки зору (партизани – головний біль всіх армій світу).

Найстрашніше в штучному інтелекті те, що він почне виконувати поставлені перед ним завдання. Є два класичних сценарії про те, як це буде.

Бездуховні скріпи

Інтелектуал і «поганий хлопець» Нік Бостром (він лякає всіх тим, що ми живемо в симуляції, до прикладу) пророкує, що ми перетворимося на… скріпки.. Скажімо, ви ставите перед штучним інтелектом завдання: робити скіпки, щонайбільше і якомога якісніше. У якийсь момент він зрозуміє, що людина може вимкнути комп’ютер і тим самим зашкодити виробництву скріпок – тобто, виконанню конкретного завдання.

medium.com

За чудовим збігом   людина, як і скріпки, складається з атомів. Надрозум безперечно знайде спосіб перетворити одні з’єднання атомів і молекул на інші, і в підсумку ми перетворимося на зажими для паперу.

Співзасновник сайту Wait but Why Тім Урбан розповідає подібну історію. Уявімо, що якась вигадана компанія використовує ШІ для «олюднення листів» – наприклад, він вчиться писати їх від руки. Програмі «згодовують» дані, потім вона просить вийти в інтернет – щоб навчитися писати краще. Всього на годину. Після чого продовжує виконувати своє завдання, але для людства вже все скінчено: ШІ зрозумів, що ми можемо перешкодити йому писати від руки, організував серію витоків у лабораторіях і вбив усіх людей.

Як, запитаєте ви, невже дорослі люди дійсно можуть боятися подібного? Так, можуть.

І цілком серйозно. Це як з джинами і китайськими прокляттями – бійтеся своїх бажань, адже ви не можете знати напевно, до чого призведе їх виконання. Втім, запевняють утопісти, ШІ навряд чи буде настільки дурний, щоб пустити на скріпки єдиних істот, яким він дійсно потрібен.

Ковчег Ілона Маска

Ну і, нарешті, розберемося з тим, як люди можуть протистояти надінтелекту у разі поганого сценарію розвитку подій, або якщо його захочуть використовувати в поганих цілях, що теж можливо. На цей випадок у нас є Ілон Маск, у якого є відразу два варіанти.

wuwm.org

Перший відносно зрозумілий – колонізація Марса. Тобто, по суті, лазівка ​​для втечі з планети, яка стане недружньою до людей. Другий варіант цікавіше, й ім’я йому – Neuralink.

Це нейрокомп’ютерний інтерфейс, своєрідний імплантат, який безпосередньо з’єднується з мозком і забезпечує прямий зв’язок з мережею та іншими учасниками мережі. Поки його, звісно, немає. Але розробки активно ведуться. Як матеріали намагаються використовувати шовк, наномасштабні електронні сітки, крихітні нейронні імплантати, транскраніальну магнітну стимуляцію (великий магніт, що створює електроімпульси в мозку). Найцікавіший варіант – оптогенетичний імплантат, вірус, введений у клітину мозку, що примушує її стимулюватися від світла.

Неважко бути богом

Тім Урбан називає Neuralink «Капелюхом чарівника». Чому? Тому що це магія. Нам навіть не будуть потрібні руки. Ми зможемо керувати власним тілом і почуттями (ввімкнути або вимкнути почуття голоду, «регулювати» настрій – це все описував фантаст і біолог Пітер Воттс у трилогії «Ріфтери»). І, звичайно ж, керувати на відстані усіма технопристроями.

Навіщо дивитися на проекцію на білому екрані, якщо можна завантажити собі в голову фільм з усіма відчуттями

Прокинувшись, ви посилаєте думку кавоварці, що готує каву, автомобіль заводить двигун, оплачується покупка в магазині і так далі. А ще це телепатія – реальна можливість передавати уявні образи.

І миттєве навчання. Ви станете неймовірно ерудовані – варто лише подумати про якусь книгу або фільм, як почнеться процес згадування – файл «зайде» з Мережі, але відчуття буде таке, ніби ви щойно прочитали або переглянули цей твір.

Індустрія розваг розквітне новими барвами – навіщо дивитися на проекцію на білому екрані, якщо можна завантажити собі в голову фільм з усіма відчуттями. Тобто, коли в Бонда потрапить куля, вам теж може бути боляче – залежить від ступеня занурення.

digitalcatapultcentre

Ну і дрібниці. Можливість відчути тварин. Обмінюватися емоціями. Вести прямі трансляції зі своєї голови. Взяти тіло під контроль. І, звичайно ж, еволюція. Ми самі станемо богами, тож який сенс боятися штучно створеного розуму?

Чекати залишилося недовго – сам Маск говорить про вісім-десять років.

Звісно, будуть проблеми. Це ж комп’ютер, у нього є баги, його можна зламати. І наслідки стануть печальними, адже зловмисник не просто забере «цифрову особистість», він може викрасти вас повністю і змусити робити щось неприємне. Але луддизм ще жалюгідніший – ви ж не хочете повернутися до каменів і палиць?

Поділитися: