Этика в цифровую эпоху

В проекте «Любовь и материальный мир» совместно со Школой перспективных исследований Тюменского государственного университета мы рассказываем о новых рамках этического и устойчивого взаимодействия человека с нечеловеческими материями и явлениями в XXI веке.

Тема этики в цифровую эпоху достаточно популярна. Рассуждения об освоении цифровых технологий сообществом, философией и социальной и политической теорией стали мейнстримом. Но меня интересует эта тема в связи с возможностью включения гуманитариев, философов, политических мыслителей в принятие решений, касающихся безопасности. Это большие темы, и здесь речь идет о вызовах, которые связаны, с одной стороны, с ухудшением экологии, а с другой стороны, с биотехнологиями, угрожающими образу человека, его будущему. Наконец, это проблемы, имеющие отношение к такому явлению, как терроризм, войны нового типа, которые добрались до наших жилищ. На самом деле мы находимся в состоянии такого постоянного чрезвычайного положения.

Как гуманитариев привлекают к решению этих вопросов? В основном люди, ответственные за решения, привлекают гуманитариев как экспертов, чтобы легитимировать уже принятые решения в этих областях: где начинать войну, как ее вести, как проводить эксперименты в области радикальных технологий и как их обсуждать в обществе. С другой стороны, гуманитариев, этиков в данном случае, привлекают, чтобы они выступили как запретительный щит по отношению к той конкурентной борьбе, которая ведется между государствами де-факто за новые технологии, за успехи в их разработке и применении.

Я хотел бы поговорить о другой стороне этой проблематики, связанной с критикой интеллектуалами тех решений, которые принимаются по поводу ведения дистанционных войн. Например, по поводу использования дронов, то есть беспилотных боевых машин, которые управляются из штаба и за тысячи километров от него могут проводить военные операции.

Люси Сачман, антрополог из Ланкастера, написала статью о биоконвергенции — взаимоотношении машины и человека в области, которая напрямую касается этики в цифровую эпоху. Сачман пересказывает историю десятилетней давности, когда в 2010 году в Афганистане во время ведения военных действий со стороны США были уничтожены 23 мирных жителя, которых приняли за талибов. Военный беспилотник, а также вертолет и военный самолет вели разведку. Все это управлялось из единого штаба. Но из-за рассогласованности действий, из-за того, что пилоты беспилотника действовали в одном режиме, а люди, которые принимали решения, в совершенно другом, невинных людей приняли за подозрительных лиц и уничтожили.

Решение принимали, конечно, люди, и техника здесь ни при чем. Техника виновата только в том, что она еще недостаточно развита, а искусственному интеллекту нельзя делегировать не только распознавание образов и принятие решений, но и этическую оценку этих событий.

Во время операции выяснилось, что чем точнее мы будем размечать территорию, опознавать лица, чем более прозрачной станет для нас картина воображаемого боя, тем выше могут стать издержки, потому что мы не избавляемся от онтологии социальных отношений. При переносе войны далеко от наших домов она парадоксальным образом, как в случае квантовой спутанности, вдруг возвращается в наши дома. Это касается как руководства, так и этих пилотов. Но самое главное, это касается наших соседей и нас самих. На эту проблематику указывает Сачман и, отсылая к разного рода теоретикам, указывает, откуда растут ноги в этой истории.

Все началось с теории суверенности Карла Шмитта, которая на новом историческом этапе приобретает чуть ли не программное обоснование этих действий. То есть врагом становится все человечество, а своими оказываются только те люди, которые управляют беспилотником. Но неправильное распознавание влияет и на них и приводит к психологическим и карьерным издержкам. Это говорит о том, что больше нет никаких своих и чужих. Нет характерного для начала XX века, для предвоенного времени, отношения «друг — враг». Все стали неразличимы в этих войнах, и нужны серьезные усилия, чтобы изменить отношение к другому как врагу, которого нужно уничтожить. Машина здесь всего лишь посредник, на которого нельзя переложить всю ответственность. Нужно заниматься обучением машин на другой логике, на другой онтологии, чтобы к таким эффектам эта история не приводила.

Сачман также приводит историю, когда в 2011 году в той же кампании беспилотник уничтожил двух человек — американского солдата и врача. Это пример того, как устраняется разница между своим и чужим. Исчезает представление о возможности принятия решений в этой области со стороны ответственных лиц. Мы в ситуации, когда мы приручили бога. Ядерные установки, которыми владеют крупные игроки, демистифицировали бога. Они позволили нам существовать в ситуации постоянного напряжения, которая называется безопасностью. На самом деле это псевдобезопасность, потому что под атомным зонтиком продолжают вестись действия, которые приводят, наоборот, к усилению напряжения. И эти отношения между врагами возвращаются и в нашу повседневную жизнь не только в виде терроризма, но и во вполне светских историях, когда мы переходим на самоуправляемые автомобили.

Мы сталкиваемся с тем, что автомобили, движущиеся по определенной программе, спасают нас от нежелательных аварий. Но при этом через программы круиз-контроля они могут контролировать скорость автомобиля и выписывать нам во время движения штрафы за попытку нарушения скоростного режима. Ограничивает это движение автомобиля и свободу автолюбителя? Разумеется. Исчезает целый пласт жизни людей, связанный с романтическими путешествиями по дорогам Европы.

Когда технологии бездумно, без учета издержек, возможных для свободы человека, применяются в технологиях умных городов, умных домов, человек приобретает совершенно другой этос. Он не только теряет свои привычки — изменяются его нравы. Человек становится бессмысленной жертвой бизнеса и технологий управления его телом. С этой точки зрения активное критическое участие интеллектуалов, философов, гуманитариев в обсуждении очень актуально. Оно не должно сводиться к отведенному интеллектуалу узкому направлению, связанному с легитимацией принятия чужих решений или выставлением запретительных мер для развития радикальных технологий.