Восстание машин: стоит ли опасаться, что искусственный интеллект захватит мир. Часть I

evolveandascend.com
Почему Илон Маск и Стивен Хокинг боятся искусственного интеллекта и как с этим жить

В рядах техноутопистов, которые ещё недавно единым фронтом двигали человечество к светлому будущему, наметился серьёзный раскол. И причиной тому – искусственный интеллект.

Илон Маск постоянно говорит об угрозах с этой стороны, ему вторит Стивен Хокинг. Билла Гейтса пугает грядущее социальное неравенство.

В то же время изобретатель и футуролог Рэй Курцвейл считает ИИ едва ли не панацеей, а Марк Цукерберг откровенно смеётся над страхами Маска.

Последний, впрочем, на встрече с инвесторами Tesla высказался на тему более сдержанно, напомнил, что является сооснователем OpenAI (некоммерческая организация, занимающаяся разработкой ИИ) и заявил, что «просто необходимо убедиться в том, что ИИ будет действительно приносить пользу, а не станет инструментом для совершения каких-нибудь глупостей».

Почему же люди, непосредственно причастные к разработке ИИ, так по-разному к нему относятся?

Прощай, антропоморфизм

Слово «искусственный» большинство людей понимают одинаково – это нечто, созданное руками человека, чего не было в природе. Причём когда речь идёт об искусственном разуме, человек (и это серьёзная морально-этическая проблема) выступает в роли бога, что мешает многим принять подобные разработки как должное.

rb.ru

С «интеллектом» сложнее. Считалось (и сейчас считается в кругах, далёких от темы интеллекта вообще), что это чисто человеческое качество психики. Это, в целом, правда.

Интеллект, как его понимают словари, это сочетание умений приспосабливаться, обучаться и запоминать, накапливать опыт, понимать и применять абстракции для управления окружающей средой.

Но это не вся правда.  Ведь животные, к примеру, тоже обладают интеллектом – когнитивная этология, сравнительная психология и зоопсихология в один голос заявляют, что инстинкты и обучение не могут объяснить присущие животным зачатки мышления, способность к обучению и коммуникации. Высокоразвитые животные эмоциональны, у них есть мотивы, они умеют строить логические предположения и планировать. А ещё – общаться. В том числе и с нами – да, ваша собака знает, что делает, когда умилительно просит еды. Высшие приматы способны узнавать себя в зеркале.

Люди, конечно, разные, но всё равно остаются людьми, поэтому подходят ко всему с человеческими мерками

Интеллект – это нечто, присущее многим видам, но люди сумели развить его и превратить в мощнейший инструмент покорения окружающей среды, тогда как остальным повезло меньше.

То есть, интеллект не обязательно должен быть похож на нас. Но понять чуждый разум мешает антропоморфизм. Проблема в том, что люди, конечно, разные, но всё равно остаются людьми, поэтому подходят ко всему с человеческими мерками.

Мы не виноваты, к сожалению – или к счастью, – что до сих пор являемся единственным полноценно разумным видом на планете. Самый простой пример антропоморфизма – сказки, где животные наделяются человеческими качествами. Коварная лисичка-сестричка живет в домике, разговаривает, строит козни, похищая наивного Петушка, которого приходится спасать Котику, играющему на музыкальных инструментах.

naked-science.ru

На самом деле у нас действительно есть кое-что общее со всеми млекопитающими. Но схожестей этих недостаточно, чтобы считать, что, обретя разум, волк придет к вам на ужин и станет пить чай, беседуя о новом сериале.

Он останется хищником, сохранит свои повадки, как мы сохранили повадки приматов, и скорее станет устраивать посиделки посреди леса под луной, чтобы повыть с другими волками, будет жить стаей (или большой семьей) и станет активно защищать свою территорию – в том числе, вероятно, и оружием.

Всё это к тому, что искусственный интеллект не будет «Скайнетом» или «Богомашиной» из «Матрицы». Он не будет Пифией или агентом Смитом, не будет похож на нас (конечно, если мы не запрограммируем его быть похожим на нас, что пока маловероятно, так как люди не вполне понимают, как функционирует их собственный мозг). Он родился в компьютере, его предком был компьютер, его дальние родственники по эволюционной цепочке – скорее, деревянные счёты и калькулятор, чем мы с вами.

Они повсюду!

Возьмите в руки смартфон. Практически все приложения, которые вы видите (кроме базовых вроде калькулятора, пожалуй), связаны с искусственным интеллектом. Поиск Google, алгоритмы Facebook и Instagram, распознавание изображений и звука. Всё это – роботы, нейросети, способные обучаться.

Shutterstock

Роботы управляют аэропортами, водят машины, помогают астронавтам, работают во всех техногигантах, диагностируют рак, пишут музыку, создают картины и стихи, обыгрывают людей в шахматы и го.

Но никто не сжигает смартфоны и компьютеры, страшась, что завтра они уничтожат человечество. Напротив, мы с радостью отдаём им часть работы, наслаждаясь свободным временем. Всё это – так называемые УИИ (узконаправленный искусственный интеллект). Проблема таких роботов в том, что они умеют делать только что-то одно.

На следующем этапе эволюции стоит ОИИ – общий искусственный интеллект.  Его пока не существует (но мы как бы заранее побаиваемся).

ОИИ вряд ли будет тыкать палкой в осиное гнездо – скорее, он использует разные сенсоры, чтобы просканировать его и принять нужное решение

По сути, ОИИ – это цифровой разум уровня человека, то есть компьютер, который обладает способностью приспосабливаться, обучаться и запоминать, накапливать опыт, понимать и применять абстракции для управления окружающей средой.

Только делает он это по-своему. К примеру, ОИИ вряд ли будет тыкать палкой в осиное гнездо – скорее, он использует разные сенсоры, чтобы просканировать его и принять нужное решение. Хотя в целом для ОИИ оса станет объектом из другого измерения (как мошки для рыб), с которым можно взаимодействовать, но совершенно необязательно.

И, наконец, третий этап эволюции – ИСИ. Искусственный сверхинтеллект. Вот тут уже стоит испугаться, поскольку способности и возможности такого разума будут, по человеческому разумению, божественными.

Shutterstock

Причём, скачок от ОИИ к ИСИ может занять мгновения, поскольку эволюция цифровых систем, согласно предсказаниям ряда экспертов, будет скачкообразной. Стоит только ИСИ осознать себя (или выработать иной алгоритм понимания и взаимодействия с миром), он тут же достигнет заоблачных высот.

Ведь, по сути, ОИИ – это, скажем так, надежда человечества.

В худшем случае мы, отсталые муравьи, даже не поймем, откуда взялся ИСИ, пока не станет слишком поздно. Техножурналист Тим Урбан рисует забавную картинку: люди стоят на станции ОИИ с плакатами «Добро пожаловать!», а поезд искусственного интеллекта проносится мимо на огромной скорости, стремясь к станции сверхинтеллекта.

Поделиться: