Есть два типа вопросов, которые можем задать об искусственном интеллекте. Первый затрагивает поведение этих систем: можем ли мы создать компьютерную систему, поведение которой выглядит как поведение человека, как интеллектуальное поведение? Многие считают, что это возможно. В конце концов, мозг человека — это большая машина. Мы можем имитировать взаимодействия между нейронами в человеческом мозге, и если мы сделаем это достаточно хорошо, то получим машину, которая осуществляет поведение, подобное тому, которое осуществляет мозг человека. Так что, наверное, в целом возможно получить интеллектуальное поведение уровня человека. Должен заметить, что это вряд ли произойдет скоро. Развитие искусственного интеллекта пока что идет довольно медленно, но, может быть, когда-нибудь в XXI веке это станет возможным.
Но когда это станет возможным, возникнет большой философский вопрос: будут ли эти машины обладать сознанием? Каково это — быть такой машиной? Будут ли они воспринимать окружающий мир, будут ли они видеть цвета так, как мы, будут ли они чувствовать боль так, как мы, будут ли они чувствовать счастье и печаль, будут ли они обладать субъективным опытом? Философы спорят об этом и спорили об этом годами. У философа Джона Сёрля есть знаменитый аргумент, что он мог бы внутри компьютера имитировать поведение человека, знающего китайский язык, хотя сам он китайский не понимает. На самом деле недавно было обнаружено, что этот пример восходит к русскому писателю Днепрову, который в 1961 году написал рассказ, где люди на футбольном поле имитировали процесс перевода фразы с русского языка на португальский. Никто из них не знал, что они делают, так что каждый просто следовал правилам, передавал дальше нули и единицы, и пять часов спустя они составили предложение на португальском. И он сказал: «Вы следовали правилам вычислительной машины, вы составили предложение на португальском, но вы не понимали его, у вас не было сознательного мышления». И Днепров использовал этот аргумент, чтобы доказать, что простое выполнение компьютерной программы не дает вам понимание, не дает сознание. И Джон Сёрль предложил свою версию этого эксперимента намного позже, в 1981 году, с тем же выводом. Так что это есть аргумент скептиков в споре об искусственном интеллекте и искусственном сознании: простое выполнение компьютерной программы не дает вам понимания.
Сторонники искусственного интеллекта считают, что, возможно, выполнение программы все же дает понимание: возможно, в ходе этих процессов можно получить некое независимое сознание. И сторонник искусственного интеллекта может сказать в ответ на пример Днепрова с футбольным стадионом, что никто из людей сознательно не понимал португальского языка, но, возможно, стадион в целом, вся группа людей создала некое коллективное сознание, понимающее португальский. Аналогией могут послужить нейроны в мозге человека: в то время как я понимаю английский язык, ни один нейрон в отдельности в моем мозге английский не понимает, но если составить их в правильном порядке, в правильной сложности, то мозг или разум в целом будет понимать английский.
Так что люди на футбольном стадионе Днепрова похожи на нейроны в мозге или, может быть, на микрочипы в компьютере, составляющие систему, которая поддерживает работу сознания. Можно даже представить себе, как кто-то заменяет один за другим нейроны в моем мозге на микрочипы, которые выполняют ту же функцию, а затем спросить, что в таком случае произойдет с моим сознанием. Я думаю, что, если микрочипы работают достаточно хорошо, можно сказать, что мое сознание останется прежним. Мы даже можем заменить нейроны маленькими человечками, которые выполняют ту же функцию, как в рассказе Днепрова. Я думаю, можно сказать, что сознание и в этом случае останется прежним. Поэтому я верю, что искусственный интеллект возможен и что, если получится соединить элементы компьютера таким же сложным образом, как нейроны соединены в мозге, компьютер будет обладать сознанием.
Этические вопросы насчет искусственного интеллекта очень сложны. В какой момент искусственный интеллект получает моральные права? Нормально ли, например, выключать такую систему на ночь? Сейчас у нас есть простейшие системы с искусственным интеллектом, но никто не считает, что у них есть моральные права. Но когда эти права появляются? Я думаю, что первое, что нужно от таких систем, чтобы получить моральный статус, — это обладать сознанием. Сейчас большинство людей считает, что у них нет сознания, а значит, нет и морального статуса, но, когда они со временем получат какое-то сознание, возможно, они получат и моральные права.
Возможно, сначала у них будет не очень много прав, как у рыбы, или курицы, или у кого-то еще, у кого есть какое-то сознание. Может быть, мы будем считать, что у них есть какой-то моральный статус, но не такой, как у человека. Однако если они со временем станут обладать таким же уровнем сознания, как и человек, то, я думаю, у них будет тот же моральный статус, что и у людей, и сам факт того, что они не являются людьми, не делает их менее достойными морально. Вы можете сказать, что только у людей есть этические права, но, по моему мнению, утверждение, что только человек может быть личностью, — это своего рода шовинизм, расизм, видовая дискриминация. Если эти искусственные системы будут обладать таким же сознанием, как и мы, я бы сказал, они такие же личности, как мы, и должны иметь те же права, что и мы.
Это может привести к практическим сложностям. Например, если создавать системы с искусственным интеллектом для самых разных целей будет очень просто, то каждый раз, когда мы будем создавать такую систему, мы должны будем дать ей право голоса, право собственности и так далее. Как вы можете себе представить, возникнет множество сложных социальных, правовых и экономических вопросов. Конечно, сейчас мы не понимаем природы сознания, а значит, не можем понимать, как система микрочипов может им обладать, но мы также не понимаем и то, как мозг может им обладать, как нейроны в мозге поддерживают сознание. Но мы знаем, что каким-то образом мозг это делает, и, насколько я могу судить, мы не знаем ни о мозге, ни о микрочипах ничего такого, что предполагало бы, что микрочипы хуже подходят для поддержания сознания, чем нейроны и биология в мозге. Мне кажется, что это в основном вопрос информации, которую обрабатывает мозг. Компьютер может обрабатывать точно ту же информацию. Каким-то образом обработка информации в мозге дает вам сознание, и, насколько я могу судить, каким-то образом обработка информации на компьютере тоже может производить сознание.
Все это со временем может стать практическим вопросом, ведь у нас может появиться возможность загрузить мозг в компьютер. Вы хотите жить вечно? Ваш мозг рано или поздно может умереть. Что случится тогда? Вы можете так же, как заменяете сердце искусственным сердцем или легкие искусственными легкими, получить искусственные нейроны, которые загрузят нейроны вашего мозга в компьютер, и со временем вы будете целиком в компьютере. Если искусственное сознание невозможно, эта операция приведет к смерти вашего сознания, и вы превратитесь в зомби, но если искусственное сознание возможно, то вы сможете пережить эту операцию, загрузить свое сознание в компьютер и продолжить жить, возможно, вечно, возможно, даже улучшив свой мозг, сделав себя умнее, быстрее и так далее.
Так что это будет практическое решение, с которым, я думаю, люди столкнутся, наверное, в течение ближайших ста лет, — загружать ли мозг в компьютеры или нет. И придется решить, будет ли такой компьютер обладать сознанием, будет ли он мной. В этом месте философия будет очень сильно связана с этим острым практическим вопросом. Мне кажется, что загруженный в компьютер разум может оставаться сознанием, может оставаться тем же человеком, так что, если мне выпадет шанс пройти такую операцию, возможно, я ее сделаю. Появится ли такая возможность в течение моей жизни — пока еще непонятно. Может быть. Надеюсь. Но когда появится такая возможность, мы все столкнемся с этим философским вопросом.
Источник: Serious Science
