Сознание машин

Что такое сознание?

Мне близка интерпретация Марвина Мински: сознание — это то, что связывает события, которые с нами происходят, связывает настоящее, будущее и прошлое, реализует поток мыслей, который проходит у нас в голове; это то, что связывает ум с телом (mind–body connection). Сознание придает смысл событиям, которые происходят вокруг нас.

С одной стороны, это определение не проводит четко границ: что есть сознание, что не есть сознание, — но оно определяет его ядро, центр. Это определение дает возможность сделать следующий шаг. Возникает вопрос: как мы можем реализовать сознание в вычислительных системах?

Существует множество подходов и когнитивных архитектур, которые пытаются подойти к проблеме сознания. Точки зрения некоторых экспертов доходят до того, что сознание принципиально нереализуемо в вычислительных системах. Дэвид Чалмерс приводит пример: что, если мы представим себе сознание, которое существует, у которого есть некоторые причинно-следственные связи, происходящие в человеческом сознании, и начнем понемногу заменять его части на машинные, но с сохранением причинно-следственных связей, с сохранением механизма работы этого сознания? Теоретически такое сознание должно в результате воспроизвестись в вычислительной системе.

Дисциплинарные перспективы проблемы

), с помощью которых мы пытаемся подойти к сознанию и его воспроизведению в вычислительных системах. Это философская перспектива данного вопроса.

У проблемы машинного сознания, естественно, есть и нейробиологическая перспектива: как сознание реализуется в мозге с помощью нейронов? По этому поводу есть много замечательных трудов Антонио Дамасио. Оказывается, что сознание невозможно без эмоциональных реакций. Сознательные реакции невозможны без эмоциональных реакций. Соответственно, мы должны принимать это во внимание, работая над проблемой вычислительного сознания.

В частности, в тесте Тьюринга все достаточно прямолинейно: нужно обмануть трех собеседников. Одним из основных моментов преткновения — почему системы искусственного интеллекта не могли пройти тест Тьюринга (интервьюеры не являются специалистами в области искусственного интеллекта, а могут быть, например, философами или лингвистами) — было то, что системы искусственного интеллекта практически не демонстрировали эмоций. Из-за этого интервьюеры достаточно быстро определяли, что это — система искусственного интеллекта. В итоге система искусственного интеллекта, которая смогла в 2014 году пройти тест Тьюринга, выиграла интересным путем — притворившись 12-летним мальчиком с Украины с предположительно плохим знанием английского языка.

Системы машинного обучения сделали большой шаг вперед. Есть распознавание образа, которое сравнимо с человеческим. Есть системы на основе машинного обучения, которые распознают голос. Это произошло за счет того, что мы начали смотреть, как работает мозг, и воплощать подходы, которые в действительности реализуются у новорожденных детей, в наших нейронных сетях. Данный подход известен как deep learning.

Неизбежно мы столкнемся и с вопросом обучения, любопытства, рассуждения, рефлексии. Каким образом эти явления реализуются на уровне нейробиологических процессов, как в действительности происходят вычисления на уровне клеток, как эти высокоуровневые феномены собираются и как в конечном итоге их можно воплотить в виде вычислительных процессов?

Искусственный интеллект и суперкомпьютер Watson

Машинное сознание будет лишь составной частью искусственного интеллекта. И, скорее, правильно говорить даже не «интеллект», а cognition — «понимание». Человеческое понимание (в терминах Дамасио) невозможно без человеческого сознания. Если мы напрямую отображаем это в вычислительной системе, то вычислительное понимание (machine cognition) невозможно без вычислительного сознания (machine consciousness).

Очень интересная работа в области вычислительного понимания (machine cognition) без сознания. В 2011 году суперкомпьютер IBM Watson выиграл у людей в викторину Jeopardy! В этой системе нет сознания, то есть она не осознает того, что делает. Watson не понимает, что он такое. Нет в ней и mind–body connection, связи «ум — тело», и так далее. Но если мы приближаемся к человеческому, хотим, чтобы у нас было нечто похожее на человеческое понимание, на человеческое cognition, тогда в этом смысле мы можем адекватно именно так и сказать: машинное понимание наподобие человеческого невозможно без машинного сознания наподобие человеческого.

Основная проблема искусственного интеллекта — это непонимание того, как работает естественный интеллект. Не зная правил работы мозга, мы пытаемся найти подходы и реализовать машинное сознание путями, исходя из современных представлений о работе, которые далеко не полные.

Для чего нужно сознание? Если мы постулируем, что машинное сознание нужно для воспроизведения машинного понимания наподобие человеческого или близкого к человеческому, то оказывается, что построить систему, адекватно взаимодействующую с людьми, без сознания не получается. Это значит, что даже простейшую задачу, которая включает в себя социальное взаимодействие, очень трудно автоматизировать без построения понимания. Соответственно, мы опять возвращаемся к проблеме сознания. Необходимо, чтобы машина начала понимать человека. А для этого важно, чтобы она начала осознавать себя. Это взаимозависимые вещи.

В этом вопросе мы как сапожник без сапог: ученые окружены громадным количеством замечательного программного обеспечения, которое не может автоматизировать, казалось бы, простейшие вещи. Почему? Потому что мы не можем построить нормальное, адекватное человеческое понимание. Потому что громадное количество вариаций и возможностей социального взаимодействия рушит все прямолинейные и жесткие подходы в этом направлении, которые существуют на сегодняшний день. Для автоматизации решения задач с помощью искусственного интеллекта, на мой взгляд, необходимо дать свободу системе, чтобы она была гибкая, может быть, даже с некоторой свободой воли и соответствующим пониманием как себя, так и людей.

В 2005 году — и на сегодняшний день это актуально — Марвин Мински говорил об этом так: «Не найдется программного обеспечения, в котором есть структура под названием „цель“». Программы на текущий момент не могут самосовершенствоваться, так как они не знают, зачем были созданы, какова цель их существования. Естественно, без осознания собственной сущности очень трудно представить себе систему, которая могла бы самосовершенствоваться.

Мозг vs компьютер

Самый яркий представитель искусственного интеллекта — это, пожалуй, Watson, который сделал достаточно большой шаг в сторону создания машинного понимания, но неосознанного машинного понимания. Вполне вероятно, это максимум, чего можно будет добиться от ненейробиологически инспирированной системы.

В пользу этого говорит то, что специалисты из IBM именно в Watson начали внедрять чипы (TrueNorth), в которых реализованы 4 миллиона нейронов, чтобы эта система смогла принимать решения на основе подходов, существующих у человека. С одной стороны, это очень большой шаг. Эта система позволяет анализировать большое количество данных, помогает в медицине в постановке диагноза, в анализе финансовых рынков и так далее.

С другой стороны, я бы хотел предостеречь читателя от популярной темы технологической сингулярности и идеи, что она крайне близка. Вспомним, что для последней симуляции работы 1% коры человеческого мозга понадобилось в 2013 году 250 суперкомпьютеров «Кей», у каждого из которых 80 тысяч процессоров на борту. Причем работали они в 1000 раз медленнее человеческого мозга. Мы можем посчитать, сколько суперкомпьютеров понадобится на весь человеческий мозг, а стоимость эксплуатации одного компьютера — 10 миллионов долларов в год. Пока, очевидно, дешевле нанять человека.

Сингулярность, которая очень популярна сейчас в обсуждениях, базируется на том, что в ближайшем будущем появятся вычислительные системы, по вычислительной мощности такие же, как человеческий мозг. Они смогут создать более совершенные системы, которые создадут более совершенные системы и так далее, что может привести к тому, что машины выйдут из-под контроля человека со всеми вытекающими последствиями. Я не думаю, что реалистично в ближайшем будущем этого ожидать. Мы пока еще очень далеки от мощностей, которыми обладает мозг.

Несмотря на то, что компьютер был построен по аналогии с мозгом, он работает не так. В классической архитектуре фон Неймана ярко выделен процессор, отдельно от него существует память, между ними существует шина обмена данных и внешние устройства. Это очень высокоуровневая аналогия, которая была взята фон Нейманом, видимо, исходя из его понимания работы мозга.

В реальности не существует отдельно процессорного модуля и памяти, и за это отвечают 86 миллиардов нейронов.

В коре головного мозга человека от 19 до 23 миллиардов нейронов, и они работают параллельно друг с другом, постоянно взаимодействуя.

В среднем у каждого нейрона 10 тысяч соединений. В гиппокампе их по 50 тысяч соединений на каждый нейрон с другими нейронами. Эти соединения (синапсы) считаются основой нашей памяти. Кроме всего прочего, эти настройки постоянно меняются, соединения исчезают и появляются. Перенастройка реализует замечательную функцию адаптации к окружающему миру. Еще один важный момент, который сейчас начинает применяться, в том числе и в робототехнике, — то, что нейрон работает стохастически. То есть это случайный процесс.

Мозг — это орган, который живет каждую секунду, в отличие от компьютера, у которого нет этих жизненных функций. И если мы посмотрим с определенной перспективы — может быть, стоит реализовать какие-то жизненные функции, например воспроизведение, в наших вычислительных системах? Иметь в наших вычислительных системах возможность регенерации: если выходит из строя какая-то часть, она через некоторое время будет заменена другой. Но компьютеры пока не способны ни на что подобное.

Существует инициатива правительства Соединенных Штатов по воплощению вычислительных систем в виде чипов (в виде «железа»), построенных на тех же основах, на которых построены нейроны. Основная цель: в двух литрах объема сосредоточить вычислительную мощность, способную к взаимодействию, способную к реакциям в условиях реального времени, потребляющую энергию, сравнимую с той, сколько потребляет головной мозг человека — примерно 20 Вт. Это значительно меньше, чем потребляют современные компьютеры. Это даст возможность реализовать автономные роботизированные системы, которые можно будет выпустить на улицу. Суперкомпьютер Watson не может перейти улицу. Он в принципе не способен сам передвигаться.

В этом смысле очень хороший пример — автомобили, которые могут выполнять ограниченный набор функций. Современные системы искусственного интеллекта очень сильно узконаправленны. Для того чтобы создать более широкие системы, нужно искать другие подходы. Опять мы смотрим в сторону мозга, опять мы смотрим в сторону человека. Основной постулат остается неизменным: давайте сначала поймем, как работает мозг, а потом попытаемся это воплотить в вычислительных системах.

Эволюция с точки зрения вычислительной системы — это оптимизация количества когнитивных функций на единицу мощности. Если мы приложим такое понимание эволюции к человеческому мозгу, то получится, что сам мозг, его структура находится в некотором экстремуме. Является ли этот максимум глобальным или локальным — это открытый вопрос, ответ на который не известен никому. Если этот максимум глобальный, единственная возможность воссоздать вычислительные мощности, которые есть в человеческом мозге, — дать жизнь новому человеку, и это может сделать каждая женщина за девять месяцев, перефразируя Булгакова. Если этот максимум локальный, то тогда, может быть, мы сможем воспроизвести подобные вычислительные процессы и мощности в кремнии или на какой-то другой основе. Но этот вопрос открыт.