Автограф | «Автономный искусственный интеллект»

— Почему вы решили написать эту книгу? Как она появилась?

— Еще студентом я увлекся задачей «Как же устроен мозг?». Я начал об этом думать, у меня появились идеи, в голове стала вырисовываться модель. Она выстраивалась несколько лет, я думал об этом практически постоянно.

Я учился в Кировском политехническом институте на факультете автоматики и вычислительной техники. У нас работала группа, которая сотрудничала со знаменитым Ленинградским физико-техническим институтом имени Иоффе. Мы участвовали в экспериментах, связанных с обработкой данных по рентгеновскому излучению Солнца с целью предсказания солнечных вспышек. Спутники записывали информацию с помощью датчиков, сбрасывали их по телеметрии на Землю, и получались длинные ряды, в которых нам необходимо было обнаруживать какие-то закономерности. По научной классификации это относится к задачам анализа данных, основное направление которых — выискивать закономерности и на их основе прогнозировать или восстанавливать какие-то пропущенные данные. Здесь формировалась способность понимать закономерности временных процессов, что оказалось очень полезным в жизни.

В этой среде были люди, которые интересовались многими темами, в том числе и биологией. Вопрос о том, как происходит управление в живых организмах, как работает такая интересная вычислительная машина, как мозг, очень бередил душу некоторых физиков. Очень хотелось понять, как мозг решает удивительные и фантастически сложные задачи управления, которые не решаются с помощью наших технологий. Этой задачей увлекли и меня.

С тех пор вот уже более 30 лет я занимаюсь этой проблемой. Построена модель мозга, отражающая его функциональный состав и структуру, разработан алгоритм его работы, который многократно реализовывался и показал свою работоспособность. Результаты описаны в большом количестве статей, сейчас их более сотни. В какой-то момент необходимо было подвести итог, и я решил написать эту книгу. Она писалась мной где-то с 2005 года и в 2008 году увидела свет. А через год издательство за свой счет выпустило второе издание 2009 года, в два раза увеличив тираж, потому что продавалась она достаточно неплохо и интерес к ней был высокий.

— Что же такое автономный искусственный интеллект?

— Я считаю, что есть два класса систем искусственного интеллекта. Первый класс — это системы, которые моделируют мозг, это биологически инспирированные системы, которые пытаются воспроизвести устройство мозга, принципы его действия со всеми вытекающими отсюда свойствами. Эти свойства — адаптивность, эмоциональный аппарат и свобода принятия решений. Когда вы говорите этой системе сделать что-то определенное, она может вам ответить, что у нее другие желания, что она устала, и это является естественным для биологического мозга. Такие системы я назвал системами автономного искусственного интеллекта, потому что они независимы, обладают свободой выбора и подчинены сами себе, своим целевым функциям и желаниям.

Сейчас в основном разрабатывают системы второго класса — это системы, которые решают интеллектуальные задачи, ранее решавшиеся только человеком. Например, игра в шахматы, управление роботом, перевод с одного языка на другой, продажа билетов, поддержка принятия решений и так далее. Эти системы призваны автоматизировать некоторые интеллектуальные функции, и авторы добиваются своего результата с помощью каких-то решений ad hoc. Способы решения задач, осуществляемые такими системами, могут не иметь никакого отношения к биологии, к устройству нервной системы, мозга. Я называю их системами подчиненного искусственного интеллекта, потому что они подчинены человеку и его целевым функциям. Это человек пытается выжить и решить свои задачи, используя эти системы как инструмент, они не должны проявлять своей воли, которая противоречит человеку. Моя книга же о тех системах, которые моделируют мозг и обладают его свойствами.

— Расскажите, пожалуйста, подробнее о модели искусственного интеллекта, которая представлена в вашей книге.

— Дело в том, что мозг можно исследовать по-разному, с разных позиций. Биологи берут свои инструменты, сложные методики, начинают вскрывать мозг, пытаться туда заглянуть, как-то его препарировать, разобрать, проанализировать и так далее. Но это очень сложная машина, там огромное количество нейронов — 1011, и проследить все связи между ними просто невозможно, это хуже, чем копаться в какой-нибудь микросхеме. Конечно, биологи могут исследовать какие-то статистические вещи — например, как в целом определенная часть мозга реагирует на раздражение. Но смысла, происходящего в мозге, на мой взгляд, этими методами понять не удастся.

Я всегда привожу такой пример. Раньше мое поколение любило заниматься радиотехникой, конструировать радиоприемники. Как это происходило? Мы брали нарисованную схему радиоприемника, потом переносили эту схему на картонку, покупали радиодетали и по этой схеме с помощью проводов спаивали их друг с другом. И когда мы все это настраивали и включали, эта картонка с деталями работала. Тогда мы ее разбирали, делали так называемую печатную плату (это такая маленькая пластмассовая пластинка с металлическими проводниками), очень рационально и компактно утрамбовывали эти детальки, поэтому динамик был на входе, антенна на выходе, а внутри все перепутано. Но схема оставалась та же самая, только она была свернута в тесный клубок. И она по-прежнему работала.

Если дать кому-то эту микросхему и попросить нарисовать ту принципиальную схему радиоприемника, которую она собой представляет, сделать это будет очень трудно, потому что там внутри все очень запутано. То же самое и с мозгом. Природа эту схему утрамбовывала и пыталась сделать ее рациональной и компактной миллионы лет. И вот этот радиоприемник попадает в руки биологам, которых просят понять эту принципиальную схему.

— То есть совершенно необязательно исследовать отдельные клетки, нейроны и принципы их взаимодействия внутри мозга? Для понимания работы мозга достаточно знать алгоритм?

— Конечно. В радиоприемнике самое главное — это его принципиальная схема. А конденсаторы, сопротивления, транзисторы могут быть разной формы и реализованными на основе разных физических принципов. Иногда вы можете даже не догадаться, что это и есть, например, транзистор. При этом биологи не знают основ электронной техники, они не изучали такие предметы, как теория управления, теория распознавания, анализ данных и так далее. А принципиальная схема мозга — это система управления. Более того, она адаптивная, она решает задачу анализа данных и извлекает оттуда информацию, определенные знания. Она их как-то должна запомнить, а потом использовать для управления. Биологи тратят десятилетия на изучение своих специфических технологий, того, как работать с живой материей, пользоваться специальными инструментами, методиками, и они знают огромное количество биологической информации. Но она очень частная и к системам управления имеет мало отношения. В биологическом языке нет слов для обозначения принципиальной схемы мозга. Изучив деталь, вы не поймете, как работает компьютер, потому что для того, чтобы это понять, надо представлять схему компьютера: что такое процессор, что такое оперативная и долговременная память, как они взаимодействуют, что такое принцип программного управления и т. д.

В этой книге представлена концептуальная модель нервной системы, которая следует не из биологических результатов наблюдений или математических постановок, а из кибернетических знаний. Я думал о том, как должна быть устроена нервная система и мозг, если они находятся в наблюдаемых нами условиях. Ведь мозг рождается внутри индивидуального сильноизменчивого организма, этот организм рождается в малоизвестной ему окружающей среде. Кое-что мозг о ней знает от предков, но в каком-то отношении она ему неизвестна. И мозг вынужден обеспечить выживание организма в этой неизвестной среде за счет адаптивного управления.

Это управление основано на знаниях. А знания надо еще получить из этой же среды. И выходит, что мозг должен решать две противоречивые задачи. С одной стороны, испытать, исследовать эту среду, постоянно извлекать из нее знания. Среди них выбрать полезные и пользоваться этими знаниями, чтобы выжить, избежать опасности, спастись. А с другой стороны, как-то укрепить свое положение, развиваться и сохраниться в течение жизни. Я убежден, что алгоритм мозга состоит из двух ветвей. Одна из них гносеологическая, имеющая целью поиск новых знаний. Вторая — оптимизационная, обеспечивающая принятие оптимальных решений на основе уже накопленных знаний.

Если поставить перед собой задачу сделать мозг, который будет работать в определенных условиях, вы нарисуете схему, которая описана в моей книге. То есть это схема, выведенная из условий, в которых появляется на свет нервная система. И если вы еще учтете, что мозг почему-то сделан из нейронов, и подумаете, почему это так, подумаете, что должен собой представлять нейрон, то вы дойдете до того, что такое нейрон и как из этих нейронов построить весь мозг.

— Что включает в себя ваша схема нервной системы?

— Она представляет собой комплекс взаимосвязанных сложных задач, таких как формирование и распознавание образов, система принятия решений, извлечение знаний, представление их в базе знаний и аппарат эмоций. Эти системы должны работать в определенной связи и последовательности, только тогда эта схема будет представлять собой адаптивную систему управления. Такая система может формировать образы, например, если это мобильный робот — образы препятствий (стенка, ворота, препятствия слева, справа, далеко и близко). Когда она их сформировала, она обучается их распознавать. Затем система ищет действия, при выполнении которых она сможет реагировать на эти ситуации. У нее есть набор действий, какие-то положения руля, например, скорость, торможение и так далее. Она пробует разные действия в разных ситуациях, пытаясь понять, чем-то или иное действие заканчивается. По результатам этих проб и ошибок, анализируя свою предысторию, она извлекает закономерности. Например, через какое-то время понимает, что если препятствие справа, то, повернув направо, она об него ударится, а если повернет влево, то не ударится.

Также в этой системе есть аппарат эмоций, который все время вычисляет текущую эмоцию робота. Этот аппарат зависит от каких-то базовых величин и формирует эмоциональные оценки для новых образов. Вся эта информация складывается в определенные структуры, которые мы называем знаниями. Причем под словом «знание» мы понимаем вполне конкретную информационную структуру, которая представляет собой коллекцию элементарных знаний определенного вида.

Элементарное знание — это такая логическая конструкция, включающая в себя распознанную ситуацию, представленную множеством распознанных и нераспознанных образов. Дальше с ней ассоциируется набор возможных действий, которые можно в этой ситуации выполнять и которые приводят к закономерным последствиям. И система, мозг, добровольно выбирает то действие, которое по ее информации даст ей наилучший результат в смысле эмоциональной оценки. Если через какое-то время что-то изменится, появятся новые образы, новые действия, изменятся эмоциональные оценки, система в этой же ситуации сможет выбрать другое действие. Здесь нет рефлекса, но есть возможность выбора. Рефлекс — это только некоторая конечная, вырожденная форма простых, надежных и полезных знаний, которая уже застыла и зафиксирована навсегда. Но интеллект — это не совокупность рефлексов, как думают многие исследователи, интеллект — это знание об альтернативах и возможность выбора!

То есть мозг как адаптивная система управления решает целый комплекс задач. Она адаптивна, в ней формируются новые образы, находятся новые действия, меняются эмоциональные оценки. И в целом ее поведение изменяется по мере появления новых сформированных элементов: образов, действий и оценок. Еще надо понимать, что построить программу и «процессор» мозга — это одно. Но наполнять ее информацией в течение миллионов лет, что, как считается, привело к появлению человека, — это другое.