Восстание машин: стоит ли опасаться, что искусственный интеллект захватит мир. Часть II

medium.com
Почему роботы не поработят человечество и что делать, если они всё-таки попытаются

Первую часть материала читайте тут 

На самом деле роботы не восстанут против нас в традиционном голливудском понимании. Они не осознают себя рабами людей (потому что это не рабство, а скорее выполнение базисных заданных функций), не вооружатся и не начнут создавать летающие машины, чтобы бороться с подпольем, как в «Терминаторе». Как минимум потому, что это неэффективно даже с нашей точки зрения (партизаны – головная боль всех армий мира).

Самое страшное в искусственном интеллекте то, что он начнёт выполнять поставленные перед ним задачи. Есть два классических сценария о том, как это будет.

Бездуховные скрепы

Интеллектуал-плохиш Ник Бостром (он пугает всех тем, что мы живём в симуляции, к примеру) предсказывает, что мы превратимся в… скрепки. Скажем, вы ставите перед искуственным интеллектом задачу: делать скрепки, как можно больше и качественнее. В какой-то момент он поймёт, что человек может выключить компьютер и тем самым помешать производству скрепок – то есть, выполнению заданной задачи.

medium.com

По замечательному совпадению человек, как и скрепки, состоит из атомов. Сверхразум определённо найдёт способ превратить одни соединения атомов и молекул в другие, и в итоге мы превратимся в зажимы для бумаги.

Сооснователь сайта Wait but Why Тим Урбан рассказывает похожую историю. Представим, что некая вымышленная компания использует ИИ для «очеловечивания писем» – например, он учится писать их от руки. Программе «скармливают» данные, потом она просит выйти в интернет – чтобы научиться писать лучше. Всего на час. После чего продолжает выполнять свою задачу, но для человечества уже всё кончено: ИИ понял, что мы можем помешать ему писать от руки, создал ряд утечек в лабораториях и убил всех людей.

Как, спросите вы, неужели взрослые люди действительно могут бояться подобного? Да, могут.

И вполне всерьёз. Это как с джиннами и китайскими проклятиями – бойтесь своих желаний, ведь вы не можете знать наверняка, к чему приведет их выполнение. Впрочем, уверяют утописты, ИИ вряд ли будет настолько глуп, чтобы пустить на скрепки единственных существ, которым он по-настоящему нужен.

Ковчег Илона Маска

Ну и, наконец, разберёмся с тем, как люди могут противостоять сверхинтеллекту при плохом сценарии развития событий или если его захотят использовать в дурных целях, что тоже вероятно. На этот случай у нас есть Илон Маск, у которого есть сразу два варианта.

wuwm.org

Первый относительно понятен – колонизация Марса. То есть, по сути, лазейка для бегства с планеты, которая станет недружелюбной для людей. Второй вариант поинтереснее, и имя ему – Neuralink.

Это нейрокомпьютерный интерфейс, своего рода имплантат, который напрямую соединяется с мозгом и обеспечивает прямую связь с сетью и другими участниками сети. Пока его, конечно, нет. Но разработки вовсю ведутся. В качестве материалов пытаются использовать шёлк, наномасштабные электронные сетки, крошечные нейронные имплантаты, транскраниальную магнитную стимуляцию (большой магнит, создающий электроимпульсы в мозгу). Самый интересный вариант – оптогенетический имплантат, вирус, введённый в клетку мозга и заставляющий её стимулироваться от света.

Нетрудно быть богом

Тим Урбан называет Neuralink «Шляпой волшебника». Почему? Потому что это магия. Нам даже не нужны будут руки. Мы сможем управлять собственным телом и чувствами (включать и отключать чувство голода, «регулировать» настроение – это всё описывал фантаст и биолог Питер Уоттс в трилогии «Рифтеры»). И, конечно же, управлять на расстоянии всеми техноустройствами.

Зачем смотреть на проекцию на белом экране, если можно загрузить себе в голову фильм со всеми ощущениями

Проснувшись, вы посылаете мысль кофеварке, которая готовит кофе, автомобиль заводит двигатель, оплачивается покупка в магазине и так далее. А ещё это телепатия – реальная возможность передавать мыслеобразы.

И мгновенное обучение. Вы станете невероятно эрудированы – стоит лишь подумать о какой-то книге или фильме, как начнется процесс вспоминания – файл «зайдет» из Сети, но ощущение будет такое, будто вы только что прочли или посмотрели это произведение.

Индустрия развлечений расцветёт новыми красками – зачем смотреть на проекцию на белом экране, если можно загрузить себе в голову фильм со всеми ощущениями. В смысле, когда в Бонда попадет пуля, вам тоже может быть больно – зависит от степени погружения.

digitalcatapultcentre

Ну и по мелочи. Возможность почувствовать животных. Обмениваться эмоциями. Вести прямые трансляции из своей головы. Взять тело под контроль. И, конечно же, эволюция. Мы сами станем богами, так какой смысл бояться искусственно созданного разума?

Ждать осталось недолго – сам Маск говорит о восьми-десяти годах.

Конечно, будут проблемы. Это же компьютер, у него есть баги, его можно взломать. И последствия станут печальными, ведь злоумышленник не просто уведёт «цифровую личность», он может выкрасть вас целиком и заставить делать что-то неприятное. Но луддизм ещё непригляднее – вы же не хотите вернуться к камням и палкам?

Поделиться: