Главы: Типы сверхразума

Отрывок из книги Ника Бострома «Искусственный интеллект» о трех типах сверхразума — скоростном, коллективном и качественном

flickr // Global Panorama

Совместно с издательством «Манн, Иванов и Фербер» мы публикуем отрывок из книги «Искусственный интеллект. Этапы. Угрозы. Стратегии» профессора факультета философии Оксфордского университета, основателя и директора Института будущего человечества Ника Бострома об опасностях будущего искусственного интеллекта.

Итак, что именно мы подразумеваем под словом сверхразум? Не хотелось бы погружаться в терминологическую трясину, но что-то сказать для прояснения понятийной основы все-таки нужно. В этой главе мы проведем идентификацию трех типов сверхразума и убедимся, что в практическом смысле все три тождественны. Затем мы продемонстрируем, насколько потенциал биологического интеллекта проигрывает потенциалу машинного. У машин есть множество фундаментальных преимуществ, которые обеспечивают им подавляющее превосходство над человеком. Биологический мозг, даже улучшенный, не сможет с ними конкурировать.

Есть и машины, есть и животные, превосходящие человека в том или ином виде деятельности, — можно сказать, они уже достигли сверхчеловеческого уровня. Летучая мышь, используя при полете эхолокацию, ориентируется в темноте лучше человека, калькулятор обходит его в арифметических расчетах, шахматные программы обыгрывают в шахматы. Перечень специфических задач, с которыми программы специального назначения справляются лучше нас, будет только расти. Безусловно, специализированные информационные системы могут иметь множество применений, но все равно возникают дополнительные серьезные проблемы, когда речь заходит о перспективе создания универсального искусственного интеллекта, способного занять место человека без исключения на всех направлениях.

Уже не раз упоминалось, что термин сверхразум мы используем для обозначения такого интеллекта, который во многих универсальных проявлениях когнитивной деятельности в значительной степени превосходит лучшие умы человечества. Описание весьма расплывчатое (поэтому формулировка и не повторяет дословно ту, что дана нами в предыдущей главе). В соответствии с этим определением на статус сверхразума начнут претендовать самые разные системы с совершенно несопоставимыми функциональными свойствами. Разобраться с имеющимися дефинициями этого довольно простого понятия нам позволит детальный анализ сверхвозможностей мозга, для чего придется распутать далеко не однородный узел, вытягивая из него различительные признаки интеллекта. Есть множество способов провести такую декомпозицию. Для дифференциации воплощений сверхразума обратимся к трем его типам: скоростной сверхразум, коллективный сверхразум и качественный сверхразум.

nickbostrom

Скоростной сверхразум

Скоростной сверхразум представляет собой такой же интеллект, как человеческий, только более быстрый. С концептуальной точки зрения данный тип самый простой для анализа. Мы дадим ему следующее определение:

Скоростной сверхразум — система, способная делать все то же, что и человеческий интеллект, только намного быстрее.

Под «намного» имеется в виду «на несколько порядков». Понимаю, что и это крайне обобщенное определение явно хромает, но я благоразумно отойду в сторону и предоставлю самому читателю разбираться с его интерпретацией.

Самым простым примером скоростного сверхразума могла бы стать полная эмуляция головного мозга, выполненная на сверхмощном оборудовании. Имитационная модель мозга, работающая со скоростью, в десять раз превышающей скорость биологического мозга, смогла бы читать книги за считаные секунды, а докторскую диссертацию написать за день. Если скорость имитационной модели будет выше в миллион раз, она будет в состоянии выполнять за день интеллектуальную работу, на которую у человека ушло бы целое тысячелетие.

Для разума, работающего с такой скоростью, происходящие во внешнем мире события походили бы на замедленную съемку. Представьте, что ваш мозг ускорился в десять тысяч раз. Друг роняет чашку, и вы в течение нескольких часов наблюдаете ее медленное движение в сторону пола — она словно комета, безмолвно скользящая в космосе навстречу далекой планете, — и по мере того как ощущение неизбежной катастрофы мучительно пробивается через извилины серого вещества вашего приятеля, а оттуда в его периферийную нервную систему, на его лице постепенно проступает выражение, предшествующее возгласу «ой!», который вы еще не скоро услышите. Короче говоря, за это время вы успеете принести ему новую чашку, заодно прочитать пару научных статей и даже вздремнуть.

Сознание машинСпециалист в области искусственного интеллекта Максим Таланов о связи сознания и понимания, машинном обучении и суперкомпьютерах IBM

По причине подобного растяжения истинного времени скоростной сверхразум, наверное, предпочел бы работать с цифровыми объектами, а не объектами материального мира. Ему удобнее было бы существовать в виртуальной реальности и иметь дело с информационной экономикой, а при необходимости — вступать во взаимодействие с физической средой при помощи наноманипуляторов, поскольку эти микроскопические конечности могут двигаться быстрее роботизированных. (Частотные характеристики системы обычно обратно пропорциональны ее линейным размерам.) Скоростной ум мог бы взаимодействовать главным образом с другими скоростными умами, а не с людьми, чье брадителически медлительное передвижение в пространстве сравнимо разве что с тягучестью меда.

По мере ускорения интеллекта все более критическим ограничителем становится скорость света, поскольку растут издержки в результате потери времени на путешествие или передачу информации на дальние расстояния. Свет примерно в миллион раз быстрее реактивного самолета, поэтому цифровому агенту со скоростью мышления, в миллион раз превышающей человеческую, потребуется примерно столько же его субъективного времени на путешествие вокруг света, как и его современнику-человеку. Звонок кому-то, находящемуся в другом городе, займет столько же времени, сколько нужно на то, что бы этот кто-то оказался перед вами собственной персоной. Сверхразумам, достигшим высочайшей скорости, которым требуется постоянное интенсивное сотрудничество, предпочтительнее находиться недалеко друг от друга. Если скоростные сверхразумы, например, собираются работать над одной задачей, было бы желательно разместить их — чтобы избавить от долгих периодов ожидания — в компьютерах, стоящих в одном помещении.

Коллективный сверхразум

Следующий тип сверхразума представляет собой большое количество интеллектов более низкого уровня, собирающихся ради достижения сверхпроизводительности в одно целое. Определение этого типа сформулировано следующим образом:

Коллективный сверхразум — система, состоящая из большого количества интеллектов более низкого уровня, в силу этого ее общая производительность значительным образом превышает производительность любой существующей когнитивной системы во многих универсальных областях деятельности.

В отличие от скоростного, коллективный сверхразум не столь ясно очерчен концептуально, но более узнаваем с практической точки зрения. На собственном опыте мы еще никогда не сталкивались со скоростным искусственным интеллектом человеческого уровня, зато хорошо знакомы с таким понятием, как коллективный разум, представляющий объединение людей, организованных в единую систему, чтобы совместно находить решения более эффективные, чем может принимать отдельный, даже самый умный, член этого сообщества. Если несколько абстрагироваться и подойти к вопросу сугубо теоретически, то такого рода системами, способными решать проблемы самого разного уровня сложности, можно назвать компании, проектные группы, социальные сети, общественные организации, научные коллективы, государства и даже, чтобы не мелочиться, весь род человеческий. Из нашей социально-институциональной практики мы знаем, насколько проще принимать решения, если над ними трудится коллективный разум.

Лучше всего коллективный интеллект проявляет себя в разработке комплексных проектов, которые легко разложить на части, чтобы каждую можно было выполнять параллельно силами подструктур единой системы и проверять результаты в автономном режиме. При решении любых задач — от строительства космического корабля многоразового использования до управления сетью закусочных — существует огромное количество возможностей благодаря разделению труда. Над каждым компонентом шаттла работает специализированная команда проектировщиков и инженеров; каждое кафе обслуживается отдельным коллективом профессионалов. Научная среда в целом складывается из особых сообществ, каждое из которых занимается своей отдельной дисциплиной и является самостоятельной системой с довольно жесткой структурой соподчиненных элементов: исследователи, преподаватели, студенты, журналы, гранты, премии — кстати, хочу заметить, что сложившаяся схема не очень способствует развитию того направления, которому посвящена моя книга. Но такова традиционная научная практика, и к этому можно было бы отнестись как к необходимому компромиссу, поскольку в рамках существующего огромное множество творческих личностей и целеустремленных команд, занимаясь самыми разными направлениями и работая практически автономно — когда каждый возделывает собственную научную делянку, — вносят свой коллективный вклад в сокровищницу человеческих знаний, продолжают и развивают их.

Автономный и подчиненный искусственный интеллектМатематик Александр Жданов об определении искусственного интеллекта, моделях мозга и электронных рабах

Такого рода разумная система может быть усилена за счет усовершенствования каждой отдельно подструктуры: расширение ее состава; повышение ее уровня интеллекта, оптимизация ее организационной политики. Для превращения любого существующего коллективного интеллекта в сверх-разум потребуется резкий рост на всех уровнях. Появившаяся в результате система должна быть способна значимо превосходить любой имеющийся коллективный интеллект и другие когнитивные системы во многих универсальных областях знаний. Рождаются и будут дальше появляться многие прогрессивные подходы, например: современные форматы проведения конференций, позволяющие ученым эффективнее обмениваться информацией; создание новейших алгоритмов анализа данных, способствующих лучшему отбору пользовательских предпочтений, в частности читателей и зрителей, — но каково бы ни было их значение, совершенно очевидно, что сами по себе эти инновационные факторы не приблизят нас к появлению коллективного сверхразума. Собственно, как и показатели вроде темпа прироста населения планеты или улучшения методов преподавания в учебных заведениях. Чтобы когнитивные способности человечества в целом начали соответствовать уровню коллективного сверхразума, потребуются совсем другие и количественные, и качественные критерии.

Обратите внимание, что порог для признания системы сверхразумной определяется относительно текущего уровня производительности, то есть на начало XXI века. В доисторические времена и на протяжении всей истории человечества возможности коллективного интеллекта выросли очень сильно. Со времен плейстоцена население Земли увеличилось в тысячу раз.

Исходя из этого — если принять за основу уровень интеллекта эпохи плейстоцена, — нынешний интеллектуальный уровень человечества можно рассматривать как приближающийся к сверхразумному. Столь же существенное влияние оказало совершенствование коммуникационных процессов, особенно возникновение устной речи, а потом и письменных языков, а также градостроение и книгопечатание. Все эти обстоятельства, как по отдельности, так и совокупно, стали огромным стимулом ускорения — настолько мощным, что появись сейчас подобного масштаба новаторский потенциал, его влияние на когнитивные способности всего человечества привело бы к появлению коллективного сверхразума.

5 книг по Computer ScienceЧто читать инженерам-программистам о пи-исчислениях и алгебре процессов, рекомендует специалист в компьютерных науках Мануэль Маццара

Наверняка сейчас некоторые читатели возразят, что, мол, современное общество не кажется им слишком разумным. Возможно, в их родной стране недавно приняли какие-то непопулярные законы или несколько изменилась политическая обстановка, и очевидная неразумность происходящего оборачивается для людей прямым свидетельством моральной и интеллектуальной деградации социума. Разве не подтверждается их вывод об умственной недееспособности современного человечества вполне весомыми аргументами, такими как идолопоклонство перед материальными благами; истощение природных ресурсов; загрязнение окружающей среды; истребление видового разнообразия? Разве эти безобразия не происходят на общем фоне всемирного неравенства, вопиющей несправедливости и полного пренебрежения базовыми гуманистическими и духовными ценностями? Все так, только есть одно но. Оставив без внимания сравнительный анализ, насколько современные социальные изъяны ужаснее недостатков прошлых эпох, хочу вам заметить: в нашем определении коллективного сверхразума нет ничего, что говорило бы, будто высокоразвитое в интеллектуальном плане общество обязано быть справедливым и нравственным. Более того, в определении нет даже намека, будто высокоразвитое в интеллектуальном плане общество должно быть мудрее. Вы спросите, что такое «мудрость»? Договоримся считать мудростью способность относится к самому важному в нашей жизни с той или иной степенью здравого смысла. Представим себе некую организацию с немыслимо огромным штатом сотрудников — людей, обладающих большим умственным багажом, успешно и согласованно работающих, умеющих коллективно решать практически универсальные творческие и интеллектуальные проблемы. Предположим, эта организация может управлять практически любыми предприятиями, разрабатывать практически любую технологию и достигать практически в любом процессе наивысшей продуктивности. Но даже настолько эффективная универсальная организация способна по какому-то принципиально важному, практически судьбоносному, вопросу вдруг принять в корне неверное решение — скажем, не продумать надлежащие меры предосторожности против рисков, угрожающих ее существованию, — и фантастически бурный подъем довольно быстро закончится полным и бесславным упадком. Такая организация могла бы стать носителем мощного общего интеллекта — настолько высокого, что еще чуть-чуть, и коллективный сверхразум получил бы свое реальное воплощение. А теперь вернемся к «справедливости» и «мудрости». Найдя какой-то желательный для нас признак, не стоит поддаваться искушению и обязательно наматывать эту ниточку на огромный клубок нашего общего и очень неопределенного представления о мыслительной деятельности, поскольку невозможно выбрать одно свойство, пусть даже достойное восхищения, без того, чтобы не рассмотреть аналогичным образом все остальные характеристики. Может быть, с этой точки зрения нам следовало бы осознать, как удобны мощные информационные системы — причем системы с элементами искусственного интеллекта, — которые по определению не могут быть ни справедливыми, ни преданными, ни мудрыми. Но к этому вопросу мы вернемся в седьмой главе.

Коллективный сверхразум может быть интегрирован слабо или сильно. В качестве иллюстрации слабоинтегрированного сверхразума представьте планету Мегаземля, на которой достигнут точно такой же уровень коммуникационных и координационных технологий, как на современной Земле, но при этом население больше земного в миллион раз. Соответственно, выше будут и совокупные интеллектуальные ресурсы. Предположим, что научные гении масштаба Ньютона или Эйнштейна появляются как минимум один раз на десять миллиардов человек — тогда на Мегаземле будут одновременно проживать семьсот тысяч гениев, не говоря уже о пропорционально большем количестве просто талантливых и одаренных мегаземлян. Новые идеи и технологии развивались бы на такой планете с бешеной скоростью, и глобальная цивилизация на Мегаземле представляла бы собой слабоинтегрированный сверхразум.

Если постепенно повышать степень интеграции коллективного интеллекта, в конечном счете он может превратиться в единый огромный «рассудок» в противоположность простому набору слабо связанных человеческих умов. Жители Мегаземли могли бы двигаться в этом направлении, совершенствуя коммуникационные и координационные технологии и разрабатывая лучшие методы организации совместной работы множества мегаземлян над трудными интеллектуальными задачами. Таким образом, коллективный сверхразум после заметного роста своей интегрированности воплотился бы в качественный сверхразум.

Качественный сверхразум

Попытаемся определить третий тип сверхразума:

Качественный сверхразум — система, по скорости работы сравнимая с человеческим умом, но в качественном отношении значительно сильнее его.

Понятие «качество интеллекта», как и в случае коллективного разума, является довольно расплывчатым, но ситуация усугубляется отсутствием у нас опыта обращения с интеллектуальными способностями, превосходящими верхние пределы современного человечества. Однако можно получить некоторое представление о них, изучив соответствующие случаи.

Прежде всего можно расширить спектр сравнения, включив в него других млекопитающих, обладающих интеллектом более низкого качества. (Не стоит считать эту ремарку дискриминационной по отношению к животным. Интеллект полосатой перцины отлично адаптирован к ее экологическим нуждам, но наша установка более антропоцентрична: мы рассматриваем производительность мозга с точки зрения сложных когнитивных задач, имеющих отношение к людям.) У животных отсутствует сложный структурированный язык; животные или вовсе не могут пользоваться инструментами и создавать их, или способны на это лишь в рудиментарной степени; они серьезно ограничены в способностях строить долгосрочные планы; у них очень незначительные способности к абстрактному мышлению. Ни одно из этих ограничений не объясняется недостатком скорости когнитивных процессов у животных или отсутствием у них коллективного интеллекта. По критерию одних только вычислительных возможностей человеческий мозг, вероятно, уступает мозгу крупных млекопитающих, включая слонов и китов. И хотя сложная технологическая человеческая цивилизация была бы невозможна без нашего огромного преимущества в коллективном интеллекте, нельзя сказать, что от него зависят умственные способности отдельных людей. Многие достигают высокого уровня развития даже в небольших изолированных обществах типа охотничье-собирательского. И напротив, высокоорганизованные шимпанзе и дельфины, которых обучают инструкторы-люди, или муравьи, живущие в огромных и хорошо организованных сообществах, по своему умственному развитию никогда не сравняются с человеком. Несомненно, поразительные интеллектуальные достижения Homo sapiens, в значительной степени явившись следствием специфических свойств архитектуры нашего мозга, — уникальный генетический дар, не доставшийся ни одному другому живому существу. Приведенные замечания помогут нам несколько уточнить представление о качественном сверхразуме. Итак, это интеллект, в качествен- ном отношении значительно более сильный, чем человеческий, — настолько, насколько человеческий ум превосходит по качеству ум слонов, дельфинов и шимпанзе.

Что такое Big Data?Специалист в компьютерных науках Станислав Протасов объясняет, как анализ больших данных стал главной задачей в IT

Второй способ уточнить определение качественного сверхразума — указать на локальный когнитивный дефицит, которым страдают некоторые люди, особенно когда он не вызван общим слабоумием или иными условиями, связанными с нарушением функционирования нейровычислительных ресурсов мозга. Возьмем, например, людей, страдающих аутизмом, — дефицит социального познания не мешает им нормально действовать в других познавательных сферах; или людей с врожденной амузией, неспособных промурлыкать или распознать даже простые мелодии, — кроме этого неудобства, их жизнь ничем не отличается от жизни остальных людей. В специализированной литературе по психоневрологии в изобилии приведены описания пациентов, страдающих от узколокальных патологических состояний мозга, вызванных генетическими нарушениями или травмами. Эти примеры показывают, что нормальные взрослые люди обладают широким спектром удивительных познавательных талантов, которые нельзя считать простой функцией общей мощности нейровычислительной системы или даже достаточного уровня общего интеллекта — требуется также специфическая схема взаимодействия нейронов. Из этого наблюдения следует идея возможных, но нереализованных талантов познания — то есть талантов, которыми не обладает ни один человек, даже если другие интеллектуальные системы, причем не превосходящие человеческий мозг с точки зрения вычислительной мощности, которые их имеют, могли бы очень сильно выиграть из-за своей способности выполнять широкий спектр стратегически важных задач.

Соответственно, обратившись к примеру животных и людей, страдающих специфическими нарушениями познавательных способностей, мы можем получить некоторое представление о различных качествах интеллекта и их практических отличиях. Если у Homo sapiens отсутствовали бы (лишь в качестве примера) когнитивные модули, позволяющие ему формировать сложные речевые конструкции, он остался бы лишь еще одним видом обезьян, живущих в гармонии с природой. И напротив, найди человек разумный способ обрести некий новый набор модулей, обеспечивающий его преимуществом, сопоставимым со способностью формировать сложные речевые конструкции, он стал бы человеком сверхразумным.

Прямая и опосредованная досягаемость

Сверхразум, возникший по какому-то одному из описанных выше типов, со временем мог бы развить технологии, необходимые для создания сверхразума и по остальным типам. Таким образом, опосредованно все три типа сверхразума одинаково достижимы. В этом смысле опосредованная досягаемость интеллекта человеческого уровня попадает в тот же класс эквивалентности, если исходить из допущения, что мы вообще способны прийти хотя бы к какому-то сверхразуму. Однако в чем-то эти три типа гораздо ближе друг к другу, поскольку любой из них способен создать два других гораздо быстрее, чем мы — один из них, если брать за точку отсчета сегодняшнее развитие технологий.

Прямую досягаемость трех разных типов сверхразума сравнивать сложнее. Скорее всего, ранжировать их не получится. Возможности каждого из них зависят от того, в какой степени они демонстрируют свои преимущества, то есть насколько быстро работает скоростной сверхразум, насколько качественнее качественный сверхразум и так далее. Максимум мы можем сказать, что при прочих равных скоростной сверхразум отлично справляется с задачами, требующими быстрого выполнения длинной последовательности шагов, которые должны быть сделаны один за другим, в то время как коллективный сверхразум лучше показывает себя в задачах, допускающих аналитическую декомпозицию на параллельные подзадачи, а также в таких, когда требуется комбинация множества различных точек зрения и наборов навыков. Качественный сверхразум в некотором смысле должен быть самым универсальным типом, поскольку способен справиться с задачами, находящимися вне пределов прямой досягаемости скоростного и коллективного сверхразумов.

Что такое «робот»?Профессор Мел Сигел рассказывает, какими качествами должен обладать робот и как будет развиваться робототехника

Не все в нашей жизни определяется этими категориями, и не всегда количество способно заменить качество. Один гениальный отшельник, запершись в спальне, обитой пробковым дубом, способен написать «В поисках утраченного времени». Можно ли создать подобный шедевр, собрав в одном помещении множество поденщиков от литературы? При всем существующем многообразии человеческих характеров и дарований мы видим, что в некоторых случаях работа только выигрывает, когда ее выполняют не мириады посредственностей, а берется за нее всего лишь один специалист, но блестящий мастер своего дела. Если посмотреть на это шире, то придется признать вероятность существования таких интеллектуальных задач, с которыми сможет справиться только сверхразум — они окажутся не по плечу даже огромному коллективу обычных людей без усовершенствованных когнитивных способностей.

Таким образом, могут быть задачи, которые способен решить качественный сверхразум и, возможно, скоростной сверхразум, но не слабоинтегрированный коллективный сверхразум (если, конечно, он не займется в первую очередь развитием собственных возможностей). Мы не сможем определить точно характер этих задач, но попробуем описать их в общем виде. Скорее всего, такая задача должна состоять из мультикомплексных взаимозависимостей, не позволяющих разбить ее на автономные подструктуры, следовательно, ее решение может потребовать качественно нового понимания или нового подхода, которые слишком сложны для восприятия нынешнего по- коления смертных. В категорию подобных задач могут попадать отдельные виды художественного творчества, стратегических моделей и даже некоторых научных открытий. Кто-то скажет, что медлительность и крайняя неуверенность в себе в деле решения так называемых вечных вопросов философии связаны с неприспособленностью коры головного мозга человека к умозрительным размышлениям. Поэтому деятельность наших известных философов напоминает походку собаки, которую хозяин заставляет ходить на задних лапах: они насилу достигают «уровня исполнения», который хоть каким-то образом позволяет заниматься этой деятельностью.

Источники преимущества цифрового интеллекта

Серьезные последствия могут иметь даже незначительные изменения в объеме и устройстве мозга, что видно, если сравнить интеллектуальные и технологические достижения людей и человекообразных обезьян. Те сверхмасштабные изменения в вычислительной мощности и архитектуре, которые позволяет осуществить использование искусственного интеллекта, могут иметь гораздо более глубокие последствия. Нам очень трудно — если вообще возможно — интуитивно понять, на что способен сверхразум, можно попытаться лишь приблизиться к этому пониманию, взглянув на преимущества, которыми обладает цифровой интеллект. Легче всего оценить плюсы аппаратного обеспечения.

Скорость вычислительных элементов. Пиковая скорость работы биологических нейронов — около 200 Гц, что на семь порядков медленнее современных микропроцессоров (примерно 2 ГГц). Как следствие, человеческий мозг вынужден полагаться намасштабное распараллеливание задач и неспособен быстро выполнять вычисления, требующие большого количества последовательных операций. (Мозгу под силу лишь несколько десятков таких операций, максимум — чуть больше сотни.) При этом многие из наиболее важных алгоритмов в программировании и кибернетике не так-то легко поддаются распараллеливанию. Многие когнитивные задачи можно было бы решать гораздо эффективнее, если бы естественная склонность мозга к параллельным алгоритмам распознавания образов дополнялась бы возможностью — и интегрировалась с возможностью — быстрых последовательных вычислений.

Скорость внутренних коммуникаций. Аксоны передают потенциал действия со скоростью 120 м/с или даже меньше, в то время как электронные центры обработки информации используют оптику, в которой информация передается со скоростью света (300 000 000 м/с). Медлительность нейронных сигналов ограничивает размеры биологического мозга, который может функционировать как единый вычислительный блок. Например, чтобы задержка в передаче сигналов от одного элемента к другому и обратно между двумя произвольными элементами системы не превышала 10 мс, объем биологического мозга не должен быть больше 0,11 м3. А размер аналогичной электронной системы может равняться 6,1 × 1017 м3 (это размер карликовой звезды), то есть на восемнадцать порядков больше.

Количество вычислительных элементов. В человеческом мозгу чуть меньше 100 миллиардов нейронов. Он примерно в три с половиной раза больше мозга шимпанзе (правда, при этом в пять раз меньше мозга кашалота). Очевидно, что количество нейронов в биологическом существе ограничено объемом черепа и особенностями метаболизма, но в случае крупного мозга вступают в действие и другие ограничения (охлаждение, время созревания, задержки в передаче сигнала — см. предыдущий пункт). В отличие от биологического мозга, компьютерное оборудование масштабируется до гигантских физических размеров. Суперкомпьютеры могут быть размером со склад или даже больше, причем с помощью высокоскоростных кабелей к ним можно подключать дополнительные удаленные вычислительные мощности.

Емкость памяти. Человек способен удерживать в кратковременной памяти не более четырех-пяти блоков информации одновременно. Хотя сравнивать напрямую кратковременную память с оперативной памятью компьютера не совсем корректно, ясно, что конструктивные преимущества цифрового интеллекта позволяют ему иметь рабочую память гораздо большего размера. Это значит, что такой интеллект способен интуитивно схватывать суть сложных взаимоотношений, которые люди могут нащупать лишь при помощи кропотливого труда. Долгосрочная человеческая память также ограниченна, хотя пока и не ясно, способны ли мы исчерпать ее возможности по хранению информации в течение обычной человеческой жизни, ведь скорость накопления нами информации так мала. (По одной из оценок, мозг взрослого человека может хранить примерно миллиард бит, что на пару порядков величины меньше, чем самый простой смартфон.) В случае машинного мозга больше и объем храни- мой информации, и скорость доступа к ней.

Надежность, продолжительность жизни, сенсоры и другое. Машинный интеллект может иметь и другие преимущества на уровне оборудования. Например, биологические нейроны менее надежны, чем транзисторы. Поскольку зашумленные вычисления требуют дополнительных схем декодирования, в которых для обработки единственного бита информации требуется множество элементов, цифровой интеллект получает некоторое преимущество благодаря использованию надежных высокоточных вычислительных элементов. Мозг устает уже после нескольких часов работы и начинает сдавать через несколько десятков лет субъективного времени, у микропроцессоров таких ограничений нет. Поток данных в машинном мозгу можно увеличить за счет добавления миллионов сенсоров. В зависимости от используемой технологии машина может иметь изменчивую архитектуру, способную к оптимизации при изменении требований к выполняемым задачам, в то время как большая часть архитектуры мозга человека фиксирована с рождения, если она и меняется, то незначительно (хотя связи между синапсами могут меняться в течение таких коротких промежутков времени, как несколько дней).

В настоящее время вычислительная мощность биологического мозга все еще превосходит мощность компьютеров, хотя самые современные сверхмощные компьютеры уже достигают уровня производительности, соответствующей оценкам производительности человеческого мозга. Но компьютерное оборудование очень быстро совершенствуется, и предельные возможности его вычислительной мощности намного превышают возможности вычислительных систем биологических компьютеров.

Цифровой мозг имеет крупные преимущества также с точки зрения программного обеспечения.

Редактируемость. С параметрами ПО можно экспериментировать, что практически нельзя делать с нейронной системой биологического головного мозга. Например, в компьютерной модели мозга можно легко посмотреть, что будет, если добавить больше нейронов в ту или иную область коры головного мозга, если повысить или понизить их возбудимость. Проведение таких экспериментов на живом биологическом мозгу было бы гораздо более трудным делом.

Дублируемость. Можно быстро сделать сколько угодно точных копий ПО для установки на имеющееся оборудование. Напротив, чтобы воспроизвести биологический мозг, потребуется очень много времени, поскольку каждый «новорожденный» совершенно беспомощен и не помнит ничего, чему научились его «родители» в течение своей жизни.

Координация целей. Коллективы людей страдают от неэффективности, связанной с тем, что практически невозможно достичь полного единства целей их членов, — и так будет по крайней мере до тех пор, пока не получится добиться покорности при помощи лекарственных препаратов или генетической селекции. У клана копий (группы идентичных или почти идентичных программ, разделяющих общие цели) таких проблем с координацией нет.

Использование общей памяти. Биологический мозг нуждается в длительном обучении и наставничестве, в то время как цифровой может получать воспоминания и навыки, обмениваясь файлами с другими программами. Популяция из миллиарда копий программ искусственного интеллекта могла бы периодически синхронизировать свои базы данных, чтобы каждая из них знала все, чему остальные научились за прошедший час. (Прямая передача данных требует стандартизированных форматов представления информации. Поэтому простой обмен когнитивным контентом высокого уровня между любой парой программ искусственного интеллекта невозможен. В частности, это не получится сделать для компьютерных моделей мозга первого поколения.)

Новые модули, модели поведения и алгоритмы. Восприятие зрительных образов кажется нам простым и не требующим усилий делом, в отличие от решения геометрических задач из школьного учебника, несмотря на то что для этого требуется огромный объем вычислений, чтобы создать реконструкцию трехмерного мира, населенного знакомыми нам объектами, из возникающих на нашей сетчатке двумерных моделей. А простым нам это кажется потому, что в нашем мозгу имеется специальный низкоуровневый нейронный механизм для обработки визуальной информации. Эта низкоуровневая обработка происходит неосознанно и автоматически, без расходования психической энергии и без отвлечения внимания. Восприятие музыки, использование языка, социальное познание и другие формы обработки информации, «естественной» для нас, людей, похоже, также поддерживается специализированными нейровычислительными модулями. Искусственный интеллект, в котором имелись бы такие же модули поддержки в важных для современного мира предметных областях, таких как, например, программирование и разработка проектов и бизнес-стратегий, имел бы большое преимущество перед нами, поскольку человеку, чтобы думать о таких вещах, приходится полагаться на неуклюжий универсальный механизм познания. Кроме того, для использования преимуществ, специфических для компьютеров, — скажем, быстрых последовательных вычислений — могут быть созданы специальные новые алгоритмы.

Предельные преимущества машинного интеллекта, представляющего синтез аппаратного и программного обеспечений, просто громадны. Но насколько быстро можно реализовать этот потенциал? Ответом на этот вопрос мы займемся в следующей главе.

PhD in Philosophy, Professor in the Faculty of Philosophy at Oxford University, the founding Director of the Future of Humanity Institute
Узнал сам? Поделись с друзьями!
  • Незнайка

    Принизить потенциал человека и возвысить цифры и математику. Это же заговор против человека :). Техногенность опаснейший вектор развития для человека, поскольку всегда превращается в оружие уничтожения(даже мирное технологическое превосходство или уничтожает или доминирует над соседом) и чем глупее человек, тем легче его ввести в заблуждение, что бы он этого не видел. Групповой интеллект (не коллективный) дает шанс на выживание группы, поскольку если выживет всего один из группы это проблему кардинально не отменяет.

  • viKtor

    >>Имитационная модель мозга, работающая со скоростью, в десять раз превышающей скорость биологического мозга, смогла бы читать книги за считанные секунды, а докторскую диссертацию написать за день. Если скорость имитационной модели будет выше в миллион раз, она будет в состоянии выполнять за день интеллектуальную работу, на которую у человека ушло бы целое тысячелетие
    — почему же тогда все люди, биофизика нейронной активности и скоростей передачи информации у которых одинаковая, не создают научных теорий, не пишут шекспировские стихи или баховскую музыку? Все ли дело в скорости или в том, как и на что она расходуется?

    >>Представьте, что ваш мозг ускорился в десять тысяч раз. Друг роняет чашку, и вы в течение нескольких часов наблюдаете ее медленное движение в сторону пола»
    -это не работает, так как ускорение мозга не означает ускорения обработки информации сетчаткой, скорость и вычислительные возможности которой и определяют то, что и как увидит зрительная система.

    >>В зависимости от используемой технологии машина может иметь изменчивую архитектуру, способную к оптимизации при изменении требований к выполняемым задачам, в то время как большая часть архитектуры мозга человека фиксирована с рождения, если она и меняется, то незначительно
    -это такое махровое заблуждение, что его придерживаются разве что те, кто последние 20 лет вообще ничего не читал/слышал о нейробиологии. Мозг не только меняется на протяжении жизни, мозг пластичен, но даже может исполнять такие задачи, которые превосходят его классические, биологические потребности — например парализованного пациента, с помощью нейроинтерфейсов, можно научить влиять на активность отдельных нейронов и с их помощью управлять манипуляторами с меньшим/большим числом степеней свободы, чем естественные конечности тела. Более того, в нейроинтрфейсах мозг может «перестроиться» и научиться управлять одновременно тремя конечностями, включая биоморфную, хотя в естесвтенных условиях координирует лишь две.

    Книга похоже не плохая, но философичность подхода и ее изложения накладывает существенные ограничения на полученные автором выводы. Мы только начинаем понимать, насколько мозг сложен и загадочен, а автор пишет так, будто он уже все знает о мозге и машины, которые пока-что лишь играют в аркадные игры и распознают кошек в инете, смогут через несколько десятков лет его превзойти. Мозг, в особенности человеческий, это не о скорости, а как раз о медленности, благодаря которой он может не только быстро считать, распознавать, читать, но и созидать новое. За миллионы лет развития нервных систем, эволюция научила их творить чудеса, которые машины еще долго не смогут превзойти. Но даже если через сотни тысяч лет машинный мозг дойдет до уровня человека, то нечего волноваться. Когда-то и человек вытеснил и превзошел своих гоминидных сородичей. Придет время и ему надо будет уступить место для более совершенных существ.

  • Незнайка

    http://mirvn.livejournal.com/68228.html
    кто кого или как скоро каждый сам за себя :).
    http://gtmarket.ru/laboratory/think/2007/1560
    (что бы мыши не жирели им нужно холить и лелеять кошку?).

  • Дед Мороз

    > Принизить потенциал человека и возвысить цифры и математику.

    Ты хоть сам понимаешь, что за галиматью пишешь?
    Ты правда Иван-дурак или прикидываешься?

  • Незнайка

    Конечно правда, деда)). Не сомневайся.
    Еще есть вопросы? :).

  • Дед Мороз

    Очень жаль.

  • Незнайка

    На самом деле своими нападками Вы оказали мне услугу, поскольку позволили поднять несколько тем, которые на этом ресурсе вряд ли когда либо поднимут :).

  • Незнайка

    Ну, собственно, «постнауку» можно и закрывать или все же попробовать ответить на вопросы, по видимому, еще одного Незнайки :).
    В 13 минутах все то, что тут «жуется» месяцами :).
    http://www.youtube.com/watch?v=9RJTP_I6glc

  • Незнайка

    Мозг и математика, есть там об этом, есть, в первые 13 минут :).
    И о преступлениях, отношении к ним, через призму деятельности мозга.
    http://www.youtube.com/watch?v=RdtRCzSGRlM

  • Дед Мороз

    Незнайка:
    > Ну, собственно, «постнауку» можно и закрывать…

    «Закрыть» надо тебя. Капризный не воспитанный карапуз,

    чуть что «не по его» — всем надо сделать плохо: «постнауку» закрыть.

    Черниговская Т.В.: «Место встречи декабристов» — виселица?

    Как американский проповедник, убивает время на своих «лекциях» скабрезными историями: виселица для декабристов (из «паршивой зеленой пластмассы»).

    Такой «толстый» юмор — «ниже пояса», Черниговская Т.В может почитать и почерпнуть свои знания о виселицах на сайтах для обезьянок Незнаек.

    Петросянить и работать клоуном, пусть и дальше развлекает в школах.

    Купила пластмассовую зеленую виселицу с желтеньким человечком («декабристом»), и передала в Пушкинский музей ?!!

    Зачем, если с её слов это ценность для аукционов «Со́тбис» (англ. Sotheby’s), хранила бы эту пошлую «ценность» у себя дома?

  • Дед Мороз

    До 5:23 мин. — есть хорошие вопросы.

    Далее, белиберда: сравнивать кол-во связей с нейронами и кол-во звезд?

  • Дед Мороз

    Мозг — это проекция… Черниговская Т.В. — это отлично понимает.

    Однако, к сожалению, Татьяна Владимировна негативно
    настроена к точным наукам, в частности, к математике, …
    (это есть в записи ниже, от Незнайки — «последователь» или сама?)

  • Дед Мороз

    Незнайка:
    > Ну, собственно, «постнауку» можно и закрывать

    «Закрыть» надо тебя. Капризный не воспитанный карапуз,
    чуть что «не по его» — всем надо сделать плохо: «постнауку» закрыть.

  • Незнайка

    Угомонись, тролль.

  • Незнайка

    Смело :). Вы тут больше моего мусорите :).
    Если Вы не от самой «постнауки» тут глаголите, то админам пора бы уже или Вас или меня или обоих удалить.

  • Незнайка

    Да потому, что связи это показатель того, что сумма квантов не есть тело, тело это их связи :).
    Ну вы даете, это просто же.
    Но то что просмотрели уже хорошо. При всем вашем троллинге Вы зачем то это делаете)). Хотя казалось бы от Незнайки же :).
    Артист Вы и так просто «палитесь» :).

  • alexander xom

    Подрбный ответ на эту главу http://alexander-xom.livejournal.com/15576.html

  • Незнайка

    Прочитал с удовольствием, работа Вашего разума очевидна и это здорово.
    Если позволите смещу акцент (и хотелось бы услышать Ваше мнение), не на коллективный разум, а на групповой интеллект, поскольку на данном этапе возможность человека позволяет ему коммуникатировать только с определенным кол-вом людей и далеко не в любой группе, как и считывать информацию, где проблема уже хотя бы другой язык, а вот уже группы действительно сливаются в нечто, что можно расценивать как коллективный разум.

    У госпожи Черниговской был довольно интересный вопрос, математика сама по себе или это продукт деятельности мозга?
    Если продукт, то если бы у нас были другие мозги была бы другая математика? И уже вопрос от меня, если бы была другая математика, тогда был бы другим и ИИ?

  • alexander xom

    Да, число Дамбара никто не отменял, и есть много трудов на тему эффективности группового разума, причем забавно, что на него хорошо сказывается присутствие в группе дам (была статья на Элементах). Но так же никто не мешает общаться одной группе с другой, так что и общего коллективного разума это не отменяет. Причем развитие соцсетей позволяют говорить о временных группах под задачу. Коды и язык тут не помеха, если есть общая цель и желание ее достичь, движение opensource в программировании тому подтверждение.

    По поводу математики. Знаком с Татьяной Владимировной, докладывал у нее на когнитивном семинаре. И знаю, что это вопрос из излюбленной ей серии. У меня в ЖЖ есть ответ на другой подобный ее вопрос «Мозг в мире или мир в мозге?». Но на этот вопрос я отвечу достаточно просто. Естественно, что математика — это порождение мозга. Но это порождение создано им как приспособление к изменениям во вне его. Какие это изменения мы не можем сказать окончательно, так как все наши рассуждения строятся на таких же когнитивных схемах как математика. Мы замкнуты в своем ментальном мире. Нам не прорваться в реальность (что доказал еще Кант), поэтому ответить на вопрос соответствия математики чему то вне нашей головы невозможно. Но точно могу сказать, что математика не подобна тому, что вне ее буквально. Это упрощение мозга для того, чтобы справиться с вычислительной сложностью мира. Например, А=В с точки зрения физики абсурд.

  • alexander xom

    Забыл ответить по поводу других мозгов. Теоретически безусловно была бы другая математика. Но возможен ли другой мозг еще вопрос. Математика — это оптимальный механизм моделирования реальности. А реальность у нашего мозга с другим одна. Так что не факт, что расхождения будут больше, чем разные виды математики, которые мы уже породили сами.

  • Незнайка

    << И знаю, что это вопрос из излюбленной ей серии.
    У меня тоже, разум и математика т.е. нейролингвистика раскрывается в новом ракурсе в этом вопросе, как и потенциал мозга. В этом интересе мы с ней похожи :).

  • Дед Мороз

    Незнайка:
    > связи это показатель того, что сумма квантов не есть тело, тело это + их связи 🙂

    Ты болен.
    Может быть, это Незнайке Черниговская Т.В. сказала?

    > читали бы и дальше от «минобразования» методички исключительно :).

    Really?

  • Незнайка

    Без вдохновения как то Вы это выдали. Отпустило? 🙂

  • Дед Мороз

    > Без вдохновения как то Вы это выдали.
    > Отпустило? :).

    > К знахарю Вам надо, восточной медицины
    > желательно, а то похоже не очень ведаете
    > что творите, а он смотришь и поправит Вас,
    > если сами себя не контролируете :).

    В нашем большом научном медицинском центре,
    есть один врач, который тебе поможет (душевнобольные не наша специализация).

    Но один психиатр (не психолог) есть в штатной структуре.

    Сделаем тебе КТ, МРТ твоего мозга…

    А потом, знахарь Незнайка, будешь лечить Наполеонов
    с помощью восточной медицины, в доме для душевнобольных.

    Если найдутся те, кто пока не попали в данное учреждение милосердия, но готовы лечиться у знахаря-мошенника Незнайки, …

    Знахарь Незнайка — если даже это сочетание не отпугнет народ,
    значит, этим людям действительно, терять больше не чего.

    Видели бы Вы какие пациенты к нам приходят, те кто
    занимаются самолечением или лечением у знахарей Незнаек:
    люди гниют заживо… Но это их выбор. Каждый выбирает для себя.

    А мошенник знахарь Незнайка пусть передает привет своему наставнику Черниговской Т.В.

    Много пустых слов Незнайки — псевдо-научная белиберда:

    Незнайка:

    > связи это показатель того, что сумма квантов не есть тело, тело это + их связи 🙂

    Психопат Незнайка, который лезет со своим знанием и поливает помоями то, что не знает и не способен понять,
    потому что болен,…

    Смеяться … ?!! Мне жаль людей, которые пойдут к Незнайке лечиться, мне жаль даже тех, кто его слушает и читает здесь,

    но это их выбор.

  • Незнайка

    От пропёрло то Вас)). Обращаться с своему психиатру не пробовали или это уже после него? Может это Вы? Признайтесь, не стесняйтесь, ученый Вы наш, вон сколько постов напрудили :). Забавный вы тролль, скучный и точно одинокий :). Давайте ещё, явно на публику работаете, с умом у Вас видимо погорячился я, бывает)).
    Привет «постнауке», ей, видимо, все равно что на ресурсе происходит :).

  • Дед Мороз

    Незнайка -> alexander xom

    > работа Вашего разума очевидна и это здорово.

    Тролль дальше, Черномырдин с сатириками-юмористами отдыхает: каждая фраза пёрл.

    Ты по русски, фразы строить еще не научился?
    Черниговская Т.В. не научила?

    Здорово, что очевидно 😉

    Очевидное-невероятное. 🙂

  • Незнайка

    А вам не все равно на русском или китайском? Похоже все равно не очень все понимаете :).
    Рекламу Вы мне сделали, спасибо.
    За это люди деньги платят, особенно за скандальную, а Вы по доброте своей трудитесь, бескорыстно и бесплатно :).

  • Rattus

    Подобные измышления ещё хуже чем средневековая схоластика: если ангелы на конце иглы никогда не считались принадлежащими к «тварному миру», то тут есть претензия на соответствие физической реальности, в то время как многие посылки, на которых основывается автор (неспециалист в рассматриваемой теме), явно некорректны (или, как минимум, устарели).
    По пунктам:

    >По критерию одних только вычислительных возможностей человеческий мозг, вероятно, уступает мозгу крупных млекопитающих, включая слонов и китов.

    Это не так: плотность нейронов на единицу объёма мозга у гоминид максимальная среди изученных млекопитающих: http://mixednews.ru/archives/16163

    >Пиковая скорость работы биологических нейронов — около 200 Гц, что на семь порядков медленнее современных микропроцессоров (примерно 2 ГГц). Как следствие, человеческий мозг вынужден полагаться намасштабное распараллеливание задач и неспособен быстро выполнять вычисления, требующие большого количества последовательных операций.

    Как мы теперь ясно видим, эти единицы гигагерц оказались пределом для кремниевой электроники. Переход на другие 2D-материалы типа графена позволит поднять частоту максимум на порядок:
    Но пока есть большие проблемы с изготовлением микросхем с множеством таких транзисторов: http://elementy.ru/time/pico/pico-4.html
    Переход к фотонике позволил бы взять ещё порядок-два, но там также существует масса серьёзных технологических проблем, включая размер логического элемента, на многие порядки больший современных кремниевых транзисторов: http://elementy.ru/time/femto/femto-2.html
    Поэтому и развитие вычислительной техники тоже теперь пошло по пути массового распараллеливания операций с помощью тех же графических ускорителей.

    >в то время как электронные центры обработки информации используют оптику, в которой информация передается со скоростью света

    Скорость света в обычном оптоволокне составляет 1/3 от скорости света в вакууме, а в оптоволокне с полой сердцевиной — велика потеря сигнала ( https://xakep.ru/2013/04/01/60373/ ), что резко повысит требования к теплоотведению источников, что дополнительно снижает термодинамический предел для таких систем.

    >Например, чтобы задержка в передаче сигналов от одного элемента к другому и обратно между двумя произвольными элементами системы не превышала 10 мс, объем биологического мозга не должен быть больше 0,11 м3. А размер аналогичной электронной системы может равняться 6,1 × 1017 м3 (это размер карликовой звезды), то есть на восемнадцать порядков больше.

    За 10 мс свет проходит 3 тысячи километров. Это даже меньше диаметра Земли-Венеры-белого карлика и ближе к диаметру Марса или Меркурия: http://www.wolframalpha.com/input/?i=10+light+ms+in+kilometers
    И это только в том случае, если все логические элементы расположены только на внутренней поверхности такой площади и обмениваются лазерными сигналами через вакуум.
    А если это полный объём, то возникает проблема питания и теплоотведения в соответствии не только с пределом Ландауэра, но и геометрических ограничений по закону Веста-Энквиста-Брауна — также как мозг или цветная капуста.

    >Емкость памяти. Человек способен удерживать в кратковременной памяти не более четырех-пяти блоков информации одновременно

    Не знаю на счёт «блоков информации», но регистров рабочей памяти у человека от 6 до 8. В процессоре x86_64 — 16 регистров по 8 байт.

    >По одной из оценок, мозг взрослого человека может хранить примерно миллиард бит

    Это сильно устаревшие оценки. Последние оценки дают не меньше петабайта: https://nplus1.ru/news/2016/01/21/brain-hdd

    >Например, биологические нейроны менее надежны, чем транзисторы.

    С тепловой деградацией чипов, выполненных по последним техпроцессам это уже далеко не так очевидно. А если ещё вспомнить про устойчивость к ионизирующему излучению…

    >Мозг устает уже после нескольких часов работы и начинает сдавать через несколько десятков лет субъективного времени, у микропроцессоров таких ограничений нет
    Зато жесткий диск требует периодической очистки, архивации и дефрагментации данных, чему для мозга аналог — сон. Во время которого, кстати, кора больших полушарий не менее активна чем при бодрствовании: http://postnauka.ru/video/25895

    >Но компьютерное оборудование очень быстро совершенствуется
    Завершение действия «закона» Мура предрекается уже менее чем через десять лет в лучшем случае: http://www.3dnews.ru/912898

    >С параметрами ПО можно экспериментировать, что практически нельзя делать с нейронной системой биологического головного мозга.

    Но чем больше код — тем сложнее это делать. Отсюда растёт и неоптимизированность современного ПО.

    В общем по результатам чтения всё более и более прихожу к выводу, что запас содержательных и актуальных материалов на Постнауке исчерпывается…

    Опубликовано материалов
    03586
    Готовятся к публикации
    +28
    Самое читаемое за неделю
  • 1
    ПостНаука
    12 277
  • 2
    ПостНаука
    3 662
  • 3
    Михаил Соколов
    2 452
  • 4
    Андрей Цатурян
    2 300
  • 5
    Татьяна Тимофеева
    2 262
  • 6
    Роман Бевзенко
    1 388
  • 7
    Сергей Афонцев
    1 330
  • Новое

  • 3 662
  • 602
  • 2 262
  • 1 330
  • 1 388
  • 2 452
  • 12 277
  • 2 300