Почти возможно: как заставить роботов стать умными

18
Shutterstock
Наука допускает, что когда-нибудь машины смогут думать и чувствовать, как люди

Людям нравятся истории про умных роботов. Кто главный герой в «Западном мире»? Искусственный интеллект, который обрёл сознание, пройдя через лабиринт. И проявил черты, свойственные только людям: жестокость, желание отомстить, но и милосердие, сопереживание.

В реальном мире таких роботов нет – только ходячий магнитофон Софи, которую программируют заново перед каждым интервью, заставляя ляпнуть что-то очаровательно милое вроде «я убью человечество». Однако искусственный интеллект (ИИ) упрямо учится побеждать нас в играх, которые требуют определенного воображения, к примеру, го или вторая DotA.

Конечно, до настоящего машинного сознания тут далеко, однако в недавнем выпуске Science появился обзор от учёных-когнитивистов Станисласа Деана, Хоквана Лау и Сида Куайдера, в котором нейробиологи допускают возможность его появления.

Сознание вычисляемо

Сознание – это результат работы биологического компьютера, которым, по сути, является наш мозг. Если смогла биология, цифра тоже может справиться. Вопрос лишь в том, как повторить код. Разработчики ИИ уже многое почерпнули у нейробиологии. Осталось лишь изучить структуры, генерирующие сознание в мозгу человека, и создать алгоритмы для компьютера.

Сознание, как у человека? Это возможно. Почти. redorbit.com

Современные глубокие нейросети напоминают те, что функционируют в нашем мозге. Обучение с подкреплением. Делаешь правильно – получаешь награду. Неправильно – не получаешь.

Но это бездумные алгоритмы, а не движение мысли. Время от времени специалисты в области ИИ высказывают и вовсе крамольную идею, что проще «закрыть крышку» и дать нейросетям время эволюционировать самим.

Но, возможно, стоит попытаться понять, что такое сознание, чтобы попробовать поделиться им. Деан с коллегами видят его как многослойный конструкт из двух взаимодействующих составляющих: С1 – это информация, которая хранится в сознании в готовом виде, С2 – способность получать и отслеживать информацию о себе.

Информация: получить извне, оценить внутри

Только С1 – это не бумажный каталог, а настоящий «чертог памяти», сложная архитектура, позволяющая мозгу использовать разные типы информации, будь то данные памяти или сигналы органов чувств. По сути, это огромный хаб, благодаря которому мозг может воспринимать информацию и реагировать на нее.

Если смогла биология, цифра тоже может справиться. Вопрос лишь в том, как повторить код

Мичио Каку в «Физике сознания» описал процессы в С1 как большую корпорацию, где различные вычислительные схемы мозга, как амбициозные работники, «бьются за внимание» шефа.

А затем «работают над проектом», получив в свое распоряжение пространство и соответствующие «инструменты».

Авторы обзора в Science пришли к тем же выводам: «победители» занимают центр внимания и находятся там, пока не завершится процесс принятия поведенческого решения.

Чтобы сделать такое же с машинами, нужно связать все их модули в единую систему, которая «общается» и позволяет отдельным компонентам получать полезную информацию от других компонентов. Если проще – ваш телефон сам закажет еду, когда ему об этом скажет пустой холодильник. Но это только первая часть задачи.

С1 – настоящий «чертог памяти», сложная архитектура. LiveJournal

Если С1 работает с внешним миром, то С2 смотрит вглубь. Это «метапознание», рефлексия на новые знания, восприятия или ошибки. То самое чувство, которое говорит нам «кажется, я нашёл верное решение».

Эта структура работает с памятью и любопытством, помогает нам осознавать наши знания, что необходимо для обучения. Оба измерения взаимодействуют. С1 собирает актуальную информацию от лучших вычислителей в хаб, а С2 определяет, насколько полезным получился результат.

То есть машинам нужен самоконтроль – ещё одна сеть, которая будет администрировать ту, что выполняет основную задачу, оптимизировать её, заставлять разные участки сотрудничать и направлять друг друга. Подобные системы существуют и вроде как даже «понимают» сами себя. В строго практическом и ограниченном смысле, конечно.

Эволюция сознания – это долго. Но не для машин

Является ли это сознанием? Функционально и достаточно упрощённо – да. Такой робот сможет фиксировать проблему, сообщать о ней другим и искать лучшее решение. И, вероятно, галлюцинировать, если сенсоры будут повреждены. Это смесь гибкости и самоограничения.

В каком-то смысле он и вправду «осознаёт» себя, свое «тело», свои «органы чувств», наблюдая за собой

Он «поймёт», если что-то пойдет не так, и постарается «исправить это». Будет ли роботу при этом «неприятно»? Вряд ли. Скорее это будет нечто вроде Роршаха из «Ложной слепоты» Питера Уоттса – эволюционно успешный организм, который не осознаёт себя, хотя и выглядит развитым и способным к коммуникации.

Наш мозг эволюционировал миллиарды лет. Машины справятся быстрее. pbs.org

Однако наш мозг тоже развился не за мгновение. Так что стоит продолжить переносить знания о работе мозга в компьютерные технологии. А учитывая скорость обучения нейросетей в узком смысле, машинам может понадобиться чуть меньше наших 3,8 млрд лет эволюции от первого предка.

Вам будет интересно: «Восстание машин: стоит ли опасаться, что искусственный интеллект захватит мир»
Поделиться: