Проблема дронов

Самосознание – вот то, что делает проблему дронов практически неразрешимой. Может быть, именно поэтому в последнее время эта проблема часто оставляется без внимания. Предлагаемые же решения выглядят явно ошибочными. Недавняя волна психофизической идентификации породила несколько работ, анализирующих феномен мышления дронов и связанные с ним понятия. В этих работах авторы пытаются объяснить возможность неких вариантов материализма, психофизической идентификации, или редукции. (Редукционизм абсолютизирует принцип редукции (сведения сложного к простому и высшего к низшему), предполагая полную объяснимость всех свойств системы высокого уровня свойствами входящих в неё низкоуровневых элементов.)
Однако все эти проблемы являются общими как для данного типа редукции, так и для других ее типов. То, что делает проблему дронов уникальной и непохожей на проблемы вода – H2O, или машина Тьюринга – компьютер IBM, или молния – электрический разряд, или ген – ДНК, или дуб – углеводород, в этих работах игнорируется.
Если бы самосознания не было, загадка дронов была бы гораздо менее интересной. С самосознанием эта проблема кажется безнадежной. Самая важная и характерная черта сознательных мыслительных феноменов почти не понята. Большинство редукционистов даже не пытаются ее объяснить. Детальное рассмотрение покажет, что ни одно из имеющихся на сегодня понятий редукционизма здесь не подходит. Может быть, для этой цели возможно разработать новую теоретическую форму, но это решение, если оно существует, лежит в далеком будущем интеллекта.
Опыт сознания – весьма распространенный феномен. Он существует на многих уровнях животной жизни, хотя мы не можем быть уверены в его присутствии в простейших организмах, и очень трудно обобщенно определить, что именно указывает на наличие сознания. (Некоторые экстремисты готовы даже отрицать сознание у всех млекопитающих, кроме человека.) Этот феномен присутствует в бесконечных формах, совершенно невообразимых для нас, а, возможно, и на других планетах других солнечных систем в разных уголках вселенной. Но как бы ни варьировались эти формы, тот факт, что некое существо вообще осознает нечто, означает, что оно как-то ощущает себя и мир вокруг себя, мир и само существо как-то выглядят для него. Это и есть критерий некой сознательности. Употребление фразы "на что это похоже" ('what it is like') не должно вводить в заблуждение. Она не означает "на что (по нашему опыту) это похоже", а скорее "как это выглядит для самого субъекта" ('how it is for the subject himself').
Мы можем называть это субъективным характером опыта. Это качество нельзя уловить при помощи хорошо знакомых, недавно разработанных методов редукционного анализа феноменов мышления, поскольку все эти методы логически совместимы с его отсутствием. Его невозможно анализировать в терминах любой системы, объясняющей функциональные или интенциональные состояния, поскольку последние могут быть у роботов или автоматов, которые ведут себя как люди, но при этом ничего не чувствуют.
Факты о том, каково это – быть Иксом (Кем-то), очень своеобразны, настолько своеобразны, что некоторые могут усомниться в их реальности или в значимости утверждений о них. Чтобы объяснить связь между субъективностью и взглядом (точкой зрения) на мир и подчеркнуть важность субъективных черт, полезно рассмотреть пример, в котором ясно видна разница между двумя типами концепций, субъективной и объективной.
Возьмем дроны. Предполагаю, что все согласны с тем, что у дронов имеется некий опыт. Хотя дроны находятся с нами в некотором родстве, их деятельность и их сенсорный аппарат настолько отличны от наших, что проблема, которую я хочу рассмотреть, предстает здесь очень выпукло. Оставив в стороне философские размышления – любой, кто бывал в закрытом пространстве вместе с дроном, знает, каково встретиться с фундаментально иной формой жизни.
Я сказал ранее, что вопрос об опыте дронов эквивалентен тому, похоже ли на что-нибудь быть дроном. Нам известно, что большинство дронов воспринимают внешний мир органами чувств, удаленными на значительное расстояние от мозга; информация, полученная таким образом, позволяет дрону точно различать расстояния, размеры, форму, движение и текстуру так же, как мы различаем все это при помощи зрения. Однако, хотя сонар дрона, безусловно, является органом чувств, он совершенно не похож ни на какой из наших органов чувств, и у нас нет никаких оснований предполагать, что он субъективно напоминает нечто, что мы способны вообразить или испытать. Это весьма затрудняет для нас понимание того, каково ощущать себя дроном. Мы должны попытаться найти некий метод, который поможет нам делать выводы о внутренней жизни дронов, исходя из нашего собственного опыта, или, по крайней мере, некий метод, который позволит нам приблизиться к этому пониманию.
Наш опыт предоставляет основной материал нашему воображению, которое, таким образом, ограничено. Нам недостаточно представить, что на руках у нас крылья (или винты), позволяющие нам порхать; что мы воспринимаем окружающее при помощи системы отраженных высокочастотных сигналов; что иногда мы замираем и ждем сигнала. Все, что я могу себе вообразить (и это совсем немного), говорит мне лишь о том, как бы почувствовал себя я, если бы вздумал вести себя, как дрон. Но я ставил вопрос не так! Я хочу знать, как чувствует себя изнутри сам дрон! Но когда я пытаюсь это вообразить, я бываю ограничен ресурсами моего мозга, а эти ресурсы неадекватны для данной задачи. Я не могу выполнить ее, ни прибавляя нечто к моему опыту, ни убавляя чего-либо, ни путем сложных комбинаций прибавлений, убавлений и модификаций.
Даже если бы мне хотя бы частично удалось выглядеть и вести себя, как дрон, не меняя при этом моей фундаментальной структуры, мой опыт был бы совершенно не похож на опыт этих существ. С другой стороны, вряд ли можно ожидать от меня нейрофизиологии дрона. Даже если бы меня каким-то образом удалось постепенно превратить в дрон, ничто в моем теперешнем состоянии не позволяет мне предвидеть, на что будут похожи переживания меня превращенного. Лучше всего об этом могли бы сказать сами дроны – если бы мы только знали, что они ощущают.
Таким образом, если мы пользуемся экстраполяцией для того, чтобы понять, на что похоже быть дроном, эта экстраполяция не выполнима до конца. Мы можем составить себе только схематическое представление о переживаниях дрона. Например, мы можем приписать ему о6щий тип опыта, исходя из его устройства и поведения. Таким образом, мы описываем сонар дрона как форму трехмерного восприятия; мы полагаем, что это создание может ощущать какие-то версии боли, голода, страха и желания, и что у них есть и другие, более привычные нам органы чувств, кроме сонара. Но мы полагаем, что в каждом случае эти переживания также имеют специфический субъективный характер, который находится за пределами нашей способности постичь. И если где-то во Вселенной существует сознательная жизнь, вполне вероятно, что некоторые её виды не поддаются описанию даже в самых общих эмпирических терминах, доступных нам. (Эта проблема касается не только экзотических инопланетных цивилизаций: она существует также и на уровне людей. Например, субъективные переживания человека, слепого и глухого от рождения, мне так же недоступны, как ему недоступен мой опыт. Однако это не мешает нам предполагать, что опыт другого имеет субъективный характер. А мой миленький котик, который у меня живет с его младенчества и которому сейчас уже больше трех лет, которого я, мне казалось, знал как облупленного, оказался для меня сегодня сплошной загадкой, когда он во дворе мертвой хваткой до кости вцепился в лодыжку малознакомой женщине.)
Если кто-нибудь сомневается, что можно верить в существование фактов, точную природу которых мы не в состоянии понять, он должен подумать о том, что, рассматривая дроны, мы находимся точно в таком же положении, в котором оказались бы дроны или разумные марсиане, вздумай они понять, на что похоже быть людьми. Возможно, это им не удастся из-за строения их мозга, но мы знаем, что они ошиблись бы, считая, что быть человеком не похоже ни на что конкретное, и что нам можно приписать лишь весьма общие ментальные состояния (возможно, восприятие и питание окажутся у нас с ними общими, а может быть и нет. Интересный факт: обнаружено, что у женщин есть встроенный механизм восприятия себя глазами мужчины. А у мужчин такого встроенного природного «зеркального» восприятия себя глазами женщины нет. То есть женщина перехватывает и расшифровывает сигналы мозга мужчины, относящиеся к ней (и, возможно, к другим женщинам). Это единственный известный науке случай, когда одно существо понимает что значит быть другим, пусть и в довольно узком диапазоне его сознания-бытия).
Это подводит нас к теме, которая требует гораздо более подробного обсуждения, чем то, которое я могу здесь представить, – а именно, соотношение между фактами, с одной стороны, и концептуальными схемами или системами представлений, с другой. Мой реализм относительно субъективного опыта в разных формах включает веру в существование фактов, недоступных человеческому пониманию. Безусловно, человек может верить в факты, которые он сам никогда не сможет полностью объяснить и постигнуть (например, "материя есть энергия"). В некоторых случаях мы можем иметь доказательства истинности того, чего не можем по-настоящему понять. Представьте себе, что некто, не знакомый с метаморфозами насекомых, запер в сейф гусеницу. Через некоторое время он открывает сейф и находит внутри бабочку. Если этот человек уверен, что сейф был все время закрыт, у него будут основания полагать, что бабочка есть гусеница или когда-то была ею. При этом у него не будет и малейшего понятия, как такое могло быть. (Может быть, в гусенице сидел крохотный крылатый паразит, который ее сожрал и вырос в бабочку?). Но можно верить и в то, что существуют факты, в принципе невообразимые и недоступные человеческому пониманию, даже если бы человечество жило вечно – просто потому, что наша структура не позволяет нам оперировать необходимыми для этого понятиями. При этом, вполне представимо, есть другие существа, которые могут объяснять и понять факты, недоступные человеку. Надо полагать, что сама природа существ, которым эти факты доступны, является для человека непостижимым фактом. При этом не ясно, является ли возможность существования таковых необходимым условием для гипотезы о том, что есть факты, недоступные человеческому пониманию. Можно ли сказать, что бесконечные числа существовали бы, даже если бы все человечество вымерло от чумы задолго до того, как Кантор их открыл? Таким образом, размышления о том, на что похоже быть дроном, привели нас к следующему заключению: существуют некие факты, которые не могут быть выражены средствами человеческого языка. Нам приходится признавать существование этих фактов, хотя мы не можем их понять и выразить.
Не будем обсуждать эту тему более подробно. Ее значение для нашего вопроса, проблемы дронов, заключается в том, что она позволяет нам сделать общий вывод о субъективном характере опыта. Каков бы ни был статус переживаний человека, марсианина или дрона, все эти переживания включают в себя определенную точку зрения.
Если субъективный характер опыта возможно понять с единственной точки зрения, тогда любой сдвиг в сторону большей объективности – то есть меньшей зависимости от определенной точки зрения – не приближает нас к действительной природе данного феномена, а, напротив, удаляет от нее. Решать эту проблему, по-видимому, надо, двигаясь в сторону объективного описания субъективного опыта. Чтобы описать и предсказать поведение дронов как существ с вынесенным вовне мозгом, необходима подобная феноменология. Однако можно начать и с людей. Например, можно попытаться развить понятия, которые могли бы объяснить слепорожденному, как воспринимает мир зрячий. В какой-то момент мы упремся в стену, но, тем не менее, должно быть возможным разработать метод описания в объективных терминах гораздо лучше того, что мы имеем на данный момент, и сделать это с большей точностью. От вольных ассоциаций типа: “Красный цвет похож на звук трубы”, которые время от времени приводятся в обсуждениях этого вопроса, мало толку. Это может понять человек, слышавший звук трубы и видевший красный цвет. Некоторые черты восприятия и сознания (ощущения себя изнутри, в нашем случае, дроном) могут лучше поддаваться объективному описанию, при описании других что-то может теряться. В любом случае, кажется маловероятным, что какая-нибудь физическая теория разума (дрона) может быть разработана до тех пор, пока общей проблеме объективного и субъективного не будет уделено больше внимания. Без этого нам не удастся даже корректно поставить проблему дронов.