Майже можливо: як змусити роботів стати розумними

8
Shutterstock
Наука припускає, що колись машини зможуть думати і відчувати, як люди

Людям подобаються історії про розумних роботів. Хто головний герой у «Західному світі»? Штучний інтелект, який розвинув у собі свідомість, пройшовши через лабіринт. І виявив риси, властиві лише людям: жорстокість, бажання помститися, але й милосердя, співчуття.

У реальному світі таких роботів немає – лише ходячий магнітофон Софі, яку програмують заново перед кожним інтерв’ю, змушуючи ляпнути щось надзвичайно миле на кшталт «я вб’ю людство». Однак штучний інтелект (ШІ) вперто вчиться перемагати нас в іграх, які вимагають певної уяви, наприклад, го або друга DotA.

Звісно, до справжньої машинної свідомості тут далеко, проте в недавньому випуску Science з’явився огляд від учених-когнітивістів Станісласа Деана, Хоквана Лау і Сіда Куайдера, в якому нейробіологи допускають можливість її появи.

Свідомість можна обчислити

Свідомість – це результат роботи біологічного комп’ютера, яким, по суті, є наш мозок. Якщо змогла біологія, цифра теж може впоратися. Питання лише в тому, як повторити код. Розробники ШІ вже багато що взяли з нейробіології. Залишилося лише вивчити структури, що генерують свідомість в мозку людини, і створити алгоритми для комп’ютера.

Свідомість, як у людини? Це можливо. Майже. redorbit.com

Сучасні глибокі нейромережі нагадують ті, що функціонують в нашому мозку. Навчання з підкріпленням. Робиш правильно – отримуєш винагороду.

Неправильно – не отримуєш. Але це бездумні алгоритми, а не мислення. Час від часу фахівці в галузі ШІ висловлюють зовсім крамольну ідею, що простіше «закрити кришку» і дати нейромережам час еволюціонувати самим.

Але, можливо, варто спробувати зрозуміти, що таке свідомість, щоб спробувати поділитися нею. Деан із колегами бачать її як багатошаровий конструкт із двох складових, що взаємодіють: С1 – це інформація, яка зберігається у свідомості в готовому вигляді, С2 – здатність отримувати і відстежувати інформацію про себе.

Інформація: отримати ззовні, оцінити всередині

Тільки С1 – це не паперовий каталог, а справжній «палац пам’яті», складна архітектура, що дає мозку змогу використовувати різні типи інформації – чи то дані пам’яті, чи то сигнали органів чуття. По суті, це величезний хаб, завдяки якому мозок може сприймати інформацію і реагувати на неї.

А потім «працюють над проектом», отримавши в своє розпорядження простір і відповідні «інструменти».

Автори огляду в Science дійшли таких самих висновків: «переможці» заволодівають центром уваги і перебувають там, поки не завершиться процес прийняття поведінкового рішення.

Щоб зробити таке саме з машинами, слід зв’язати всі їхні модулі в єдину систему, яка «спілкується» і дає змогу окремим компонентам отримувати корисну інформацію від інших компонентів. Якщо простіше – ваш телефон сам замовить їжу, коли йому про це скаже порожній холодильник. Але це тільки перша частина завдання.

С1 – справжній палац пам’яті, складна архітектура. LiveJournal

Якщо С1 працює із зовнішнім світом, то С2 дивиться вглиб. Це «метапізнання», рефлексія на нові знання, сприйняття або помилки. Саме те відчуття, яке каже нам «здається, я знайшов правильне рішення».

Ця структура працює з пам’яттю і цікавістю, допомагає нам усвідомлювати наші знання, що необхідно для навчання. Обидва виміри взаємодіють. С1 збирає актуальну інформацію від найкращих обчислювачів у хаб, а С2 визначає, наскільки корисним вийшов результат.

Тобто машинам потрібен самоконтроль – ще одна мережа, яка адмініструватиме ту, що виконує основне завдання, оптимізувати її, змушувати різні ділянки співпрацювати і направляти один одного. Подібні системи існують і ніби як навіть «розуміють» самі себе. У строго практичному і обмеженому сенсі, звичайно.

Еволюція свідомості – це довго. Але не для машин

Чи є це свідомістю? Функціонально і досить спрощено – так. Такий робот зможе фіксувати проблему, повідомляти про неї іншим і шукати найкраще рішення. І, ймовірно, галюцинувати, якщо сенсори будуть пошкоджені. Це суміш гнучкості й самообмеження.

У якомусь сенсі він і справді «усвідомлює» себе, своє «тіло», свої «органи чуття», спостерігаючи за собою

Він «зрозуміє», якщо щось піде не так, і спробує «виправити це». Чи буде роботу при цьому «неприємно»? Навряд чи. Швидше це буде щось на зразок Роршаха з «Несправжньої сліпоти» Пітера Воттса – еволюційно успішний організм, який не усвідомлює себе, хоч і виглядає розвиненим і здатним до комунікації.

Наш мозок еволюціонував мільярди років. Машини впораються швидше. pbs.org

Однак наш мозок теж розвинувся не за мить. Тож варто продовжити переносити знання про роботу мозку в комп’ютерні технології. А з огляду на швидкість навчання нейромереж у вузькому сенсі, машинам може знадобитися трохи менше наших 3,8 млрд років еволюції від першого предка.

Вам буде цікаво: «Повстання машин: чи варто остерігатися, що штучний інтелект захопить світ»
Поділитися: