Расположенные знания. Вопрос науки в феминизме и преимущество частичной перспективы.
Донна Харауэй
Хелен Ноулз «Перераспределение благ: новая вертикальная суверенность»
Garage Digital
О программе
Философское бессилие разума
Кети Чухров

ФИЛОСОФСКОЕ БЕССИЛИЕ РАЗУМА

КРИТИКА МАШИННОГО ИНТЕЛЛЕКТА В РАБОТАХ ЭВАЛЬДА ИЛЬЕНКОВА

Автор:
Кети Чухров
Перевод:
Алексей Шестаков
Корректура:
Антон Парамонов

Текст был впервые опубликован на английском языке в журнале Radical Philosophy 207 (весна 2020)


В современных теориях вычисления (computation) и искусственного интеллекта часто утверждается, что философия должна отказаться как от своих традиционных подходов к гносеологии (то есть от теорий познания и понимания), так и от представлений об антропоморфном генезисе, или вовсе признать философское рассуждение нерелевантным, так как оно не в силах дать четкий ответ на самые значимые научные и технологические вопросы современности. Если постструктурализм подвергал сомнению возможности философии на основании ее родства с науками и их специфическими дискурсами, то современные «пост-философские» теории, напротив, видят ключевой изъян философии в том, что она недостаточно хорошо понимает науку и технику.

В этом отношении особенно характерны две тенденции в постфилософии сегодняшнего дня. Первую из них представляют когнитивистские теории, считающие философию устаревшей когнитивной практикой, квазимифологическим нарративом, который производит такие фиктивные ненаучные понятия, как трансцендентальность, метафизика, идея, диалектика, универсальное, истина и т. п. К этой тенденции можно отнести труды Томаса Метцингера и Марвина Мински, а также ученых-кибернетиков, убежденных в том, что математическая логика должна вытеснить диалектическую. Другие авторы, например медиаинженер и медиатеоретик Бенджамин Брэттон, довольствуются простым описанием сенсорики машинного интеллекта, не пытаясь соотнести ее с более широким гуманитарным контекстом.

Вторая тенденция предлагает более тонкий и интересный подход. Ее представители рассматривают саму алгоритмическую креативность как философскую процедуру. Признавая значение философской мысли, они помещают ее в границы вычисления и утверждают, что разум как таковой претерпел под влиянием новейших научно-технических достижений радикальные изменения в том, что касается его интенциональности, эпистемологии и мотиваций. Так, целый ряд серьезных шагов в направлении переосмысления задач философии в свете и вследствие вычисления предпринимается в работах Лучаны Паризи, Резы Негарестани и некоторых других авторов.

В  этой статье я рассмотрю предпосылки мысли, опирающейся на современную теорию вычисления (Негарестани, Паризи), чтобы показать, как в сходной ситуации — в 1960-х годах в СССР, когда кибернетические исследования претендовали на роль новой философской дисциплины, — коммунистическая мысль, ключевым примером которой мне послужат труды Эвальда Ильенкова, выработала свои радикальные воззрения на то, что такое разум и почему невозможна его алгоритмическая эмуляция.


РАЗУМ КАК ФУНКЦИОНАЛЬНОСТЬ

Как Негарестани, так и Паризи в своих недавних работах предпринимают попытку найти в мышлении, по исходному определению человеческом, некую «нечеловеческую» функцию, не связанную узами когнитивного родства с умозрением и мышлением, вписанными в контекст опыта, сознания, истории или смертности человека. Подобное понимание нечеловечности мысли и сопутствующие ему теории автономного аутопоэтического интеллекта не предполагают сопряжения человеческого мышления с чем-то превосходящим его в когнитивном плане; скорее, они стремятся выработать совершенно новое представление о мышлении как по определению нечеловеческой способности. Так, Негарестани утверждает, ссылаясь на Алана Тьюринга, что в человеке нет ничего такого, что не поддавалось бы абстрагированию и реализации средствами вычисления. Мало сказать, что человек способен стать другим в результате длительного процесса эволюции; сама его историческая человечность может быть рассмотрена иначе, чем как человеческая.

С точки зрения Негарестани, мышление следует рассматривать прежде всего как выполнение функций. Следовательно, для образования понятий или для интенциональности мысли, как и для любого производства понятий, можно найти подходящий способ алгоритмизации. Чувственный опыт, восприятие и интенциональность, до сих пор считавшиеся недоступными для машинного интеллекта, могут быть вписаны в машину и подвержены алгоритмическому вычислению. Негарестани подчеркивает, что подобный функционализм уже присутствует в философской традиции — в трудах Платона, стоиков, Гегеля, Канта, Селларса и т. д.

Европейскую философию Нового времени Негарестани упрекает в том, что составляет самую ее основу, — в сомнении и в обосновании бессилия человеческого разума перед лицом Абсолюта. В самом деле, философия — от Канта до Деррида — регулярно подчеркивает ограниченность возможностей мышления в его стремлении к Абсолюту и не осмысляемым горизонтам неизъяснимого. Однако для Негарестани неизъяснимость мысли связана не с ее сложностью — в том смысле, что, не найдя способов удовлетворить требованиям инструменатлизации и оптимизации, она по собственному выбору становится немыслимой, —просто с ограниченными способностями разума. В своей критике метафизики философия, утверждает Негарестани, стремилась всего лишь ограничить мысль доводами в пользу разного рода бессилий». Исходя из такой предпосылки, то, что делает человеческую мысль значимой, может быть реализовано путем различных индивидуаций дискретных свойств, вводов, выводов и реализаторов. Следовательно, основой по-настоящему продуктивной мысли (и рассуждений) как раз и может стать «алгоритмический интеллект».

Лучана Паризи в ряде работ идет еще дальше, развенчивая стерео-тип, согласно которому кибернетика сводится к простому вычислению.

Этот стереотип традиционно служил опорой для сомнения в мыслительных возможностях вычисления со стороны философии и гуманитарных наук в целом. Между тем, как подчеркивает Паризи, принципиальная модель вычисления гораздо сложнее: она основывается на предпосылке невычисляемого (incomputable; термин заимствован Паризи у теоретика медиа Грегори Хaйтина). Центральный тезис апологии вычисления заключается в том, что, согласно Паризи, в сравнении с кибернетикой 1950-х годов, или кибернетикой первого порядка, которая работала с предварительно организованными единицами, кибернетика второго порядка (а вслед за ней и в куда большей степени нынешние формы автоматизации) обогатилась существенным новшеством: она может анализировать и сравнивать. По словам Паризи, «автоматизация может быть динамической, не привязанной к заданному набору вычисляемых единиц». Именно таков случай алгоритмов кибернетики второго порядка, в которых вещи «могут следовать своим курсом, не подчиняясь априорному набору определяющих этот курс правил». 

Главный довод в пользу этого тезиса состоит, согласно Паризи, в том, что в любом процессе вычисления вывод больше ввода и не обязательно связан с ним неукоснительной зависимостью: «Между вводом и выводом имеют место энтропические преобразования данных. Число невычислимого бесконечно». Невычислимость (и вообще алгоритмический модус мышления) не является простым разрывом с разумом: скорее, разум выходит за собственные границы и вовлекает в сферу своей обработки максимально возможное число неизвестных единиц, не имеющих телеологической целенаправленности».

В рамках этого нового, другого (по сравнению со старым, «органическим» и критическим) модуса мысли невычислимые бесконечности множатся внутри — и вместе с тем параллельно — исчислимости алгоритмов, будучи способными изменить исходные условия. Эти невычисляемые бесконечности, не предписанные никаким вводом, могут стремиться к целям, не совпадающим с целями органической мысли. «Новым» здесь является то, что результаты этой динамической обработки бесконечностей не учтены в логических предпосылках системы». Невычислимость как важнейшая функция разума (который, я бы сказала, по сути есть не что иное, как вероятность контингентности) вошла в автоматизированную структуру понимания как новая эпистема, которую Паризи называет «мягкой» (soft) мыслью. Эта новая мягкая мысль — мысль, порождаемая «неразрешимыми в рамках логики посылками», — куда лучше, согласно Паризи, увязывается с Гёделевой концепцией бесконечности, чем так называемая органическая или критическая мысль, предсказуемая в ее опоре на логику.

Подробному рассмотрению «аутопоэзиса» и невычисляемой природы алгоритмической пролиферации посвящена книга Паризи «Контагиозная архитектура» («Contagious Architecture»), в которой она показывает, что автономия невычислимых алгоритмических вероятностей — это не просто некая извлеченная из действительности абстракция, подобная, например, асигнификативной (неозначающей) семиологии Феликса Гваттари. 

Автономия алгоритмических вероятностей свободна от эпистемологического сопряжения с абстрактной логикой и метасемиологией, в то время как абстрактная логика и метасемиология Гваттари, даже когда они отделяются от реальности и образуют обособленные от нее контингентные и аутопоэтические серии, тем не менее продолжают с этой реальностью соотноситься. Иначе говоря, асигнификативная (неозначающая) семиология Гваттари сохраняет некоторое сопряжение с реальностью даже в самом акте расхождения с нею (то есть расхождения означающего с означаемым). В данном случае абстракция как акт отделения от реальности и автономизации прочитывается ясно и недвусмысленно. Напротив, в случае алгоритмических вероятностей акт расхождения с реальностью оказывается утраченным и не удостаивается внимания. Область генерирования алгоритмов — это чистая креативность без какой бы то ни было аналогии, без маркирования акта обособления от реальности. Поэтому Паризи права, когда утверждает, что невычислимые петли алгоритмизации могут порождать реальности, никак не связанные с органическим миром, жизнью, человеческим бытием, «органической» мыслью и т. п.

Другими словами, плодом алгоритмического дизайна является не альтернативная картина мира, не жест отрицания этого мира и не его трансформация, а просто мягкая или текучая цепь объектностей, порождаемых почти ex nihilo. Здесь следует отметить, что гваттарианская имманентность абстрактных единиц едва ли может быть уподоблена имманентности алгоритмического производства, которое описывает Паризи, поскольку у Гваттари математические, виртуальные и семиологические абстракции все еще продолжают быть логическими сущностями. Альтернативная семиология Гваттари с ее специфической терминологией (ризома вместо структуры, абстрактные машины вместо фоноцентрической речевой деятельности, незначащие диаграммы вместо цепей означивания) по-прежнему предполагает отсылки к области логики. Область алгоритмов, наоборот, представляет собой набор команд, предписаний, функций и обратных связей; эпистемологически ее функциональная роль не связана ни с логикой, ни с абстракцией. Вот почему Паризи неустанно подчеркивает важность упреждения (prehension) и упреждающего схватывания (pre-emptiveness) в этом способе производства. Предмет алгоритмической генеративности предшествует в данном случае миру, всему тому, что можно было бы об этом предмете сказать или подумать. Подобное упреждение контингентным образом захватывает (abducts) потенциальности мира, который формализуется посредством логики лишь апостериори. Семантические потенциальности предварительно отбираются, изымаются и алгоритмизируются до того, как возникнут мир, жизнь и реальность. Типичным случаем подобного упреждающего акта как раз и является активность невычислимых алгоритмов, которые создают пузыри самодостаточных креативных излишков. Чтобы эта квазикреативная «порочная» бесконечность приобрела креативный смысл, нужно, таким образом, отказаться от человеческой субъективности и разума, так как самопорождающиеся алгоритмические имманентности не могут считаться креативностями для человеческих воображения и разума.

Акцент Паризи на контингентности конечных результатов и выводов, на том, что эти результаты и выводы не предусматриваются в предшествующих им вводах, не лишен параллели с делёзовской концепцией события и с его же поэтикой броска игральных костей. Правда, для Паризи невычислимое, будучи бесконечным, должно тем не менее оставаться безусловно дискретным и поддающимся подсчету, пусть и лишь в качестве потенциальности. В «Контагиозной архитектуре» она стремится показать, что невычислимость алгоритмов является дискретной единицей и «всегда соответствует некоторому количеству» В таком случае невычислимое уже не является «немыслимым». Оно не предполагает остановку «машины» или ее фатальную ошибку, как это имеет место в рассуждении Делёза о вписанной в машину остановке ее действия. Невычислимое для Паризи — это просто еще не пущенные в ход опции данных, которые могут генерироваться, не будучи предусмотрены вводом. На наш взгляд, тот факт, что вычислимости потенциально включают в себя невычислимые бесконечности, которые, по сути, имманентны этим вычислимостям, вовсе не позволяет считать это самое «невычислимое» философским парадоксом. «Невычислимое» Паризи не выходит за рамки дискретности обратимых, нередуцируемых данных. «Невычислимое» — это всего-навсего потенциальные данные, еще не пущенные в ход, но подразумеваемые в способности алгоритми-ческого ввода порождать непредсказуемую бесконечную цепь данных, которая, не будучи предусмотренной, тем не менее может возникать контингентно и аутопоэтически, а также вступать в действие потенциально или актуально.

На самом деле это расхождение между вводом и выводом, порождающее невычислимые бесконечности внутри сети, было открыто уже Уорреном Мак-Каллоком и Уолтером Питтсом в начале 1940-х годов. Пытаясь выяснить, «как мы узнаём то, что мы знаем», Маккаллок и Питтс задались целью получить информацию о том, что происходит внутри головного мозга человека, и построить нейронную диаграмму развития восприятия. Для этого, как пишет Слава Герович, они создали искусственную нейронную сеть, способную воспроизводить логическую деятельность и в то же время переводить любую логическую деятельность во взаимодействие нейронов. Тем самым Маккаллок и Питтс хотели доказать, что знание имеет нейронную структуру и что любая логическая функция, в свою очередь, может быть переведена на «язык» формальных нейронных сетей. Если говорить кратко, они решили вычислить мозговой ввод, то есть «черный ящик» (оттиски фактов внешнего мира внутри мозга), из его вывода (нашего восприятия). Однако проект не решил своей эпистемологической задачи. По словам Геровича, Мак-Каллоку и Питтсу пришлось признать, что «от восприятий, извлеченных из памяти человека, невозможно прийти к “фактам”, которыми порождены эти восприятия». Ученые не усмотрели в этом неудачи и заявили, что «ограничения, которые обнаружила формальная модель головного мозга, отражают фундаментальные ограничения нашего знания о мире». Так или иначе, единственное подлинное открытие, которое принес этот эксперимент, заключалось в том, что «даже если мы не можем познать мир, наша нервная система может вычислять бесконечные количества как универсальная логическая машина».

Из опыта Мак-Каллока и Питтса видно, что эпистемологическая неудача в вычислении знания и понимания, то есть неизмеримая невычислимость мышления (невозможность вычислить ввод исходя из вывода), оказалась в конечном счете проигнорирована и компенсирована способностью продуцировать бесчисленные и контингентно порождаемые данные вывода безотносительно к вводу. Эти бесконечно продуцируемые аутопоэтические данные и есть истинное невычислимое, о котором пишет Паризи и которое представляет собой не что иное, как бесконечное число данных, потенциально циркулирующих в нейронной сети и порождаемых ею.


БЕССИЛИЕ РАЗУМА

Паоло Вирно в книге «Множество между инновацией и отрицанием», утверждает, что человек, в отличие от других животных, обречен на неотению, то есть на недостаток защитных способностей», которые позволяли бы ему выжить в естественной среде: это условие определяет само существование человеческого вида. Непреодолимая неотения человека порождает его потребность в созидании второй природы — культуры, языка, умозрительных и технологических миров — потребность, в которой находят выражение бессилие, слабость, присущие человеку как животному. В этом смысле человек является ущербным видом, который неспособен адаптироваться к естественной среде, пока он остается в пределах своей морфологии и пользуется только ее возможностями. Следствием этого бессилия человека становится его запрос на то, чтобы мысль олицетворяла всеобщность и стремление развиваться в согласии и взаимодействии с другими, в обществе. Отсюда — идея молодого Маркса о том, что в природе, населенной ущербным человеческим видом, не способным интегрироваться в нее средствами одной лишь своей морфологии, коммунизм является естественной необходимостью. Иначе говоря, проект универсальности человеческого существования — это необходимость, вытекающая из филогенетической слабости человека, а не из его стремления к власти, как часто считается.

Советский философ Эвальд Ильенков в статье «Откуда берется ум?» вспоминает, как Александр Суворов, воспитанник интерната для слепоглухих в «Загорске», позднее окончивший МГУ и защитивший кандидатскую диссертацию по психологии, выступал перед студентами и преподавателями университета. Один из слушателей задал вопрос: «А не опровергает ли ваш эксперимент старую истину материализма? Согласно этому тезису, “нет ничего в разуме, чего не было бы в чувствах”. Если ваши способности чувствовать повреждены и вы не можете видеть и слышать, как ваш разум мог развиться?» Суворову передали вопрос с помощью пальцевой азбуки, и он ответил: «А кто вам сказал, что мы ничего не видим и не слышим? Мы видим и слышим глазами и ушами всех наших друзей, всех людей, всего рода человеческого».

Этот пример может служить доводом в пользу идеи раннего Маркса о том, что человек возникает только тогда, когда приватизация и самость преодолеваются во имя родового бытия или Gatungswesen, что часто переводится как видовое бытие, но на самом деле предполагает состояние несобственного бытия, как раз и создающее потенциальность всеобщего. (Позднее я вернусь к тому, как несобственное бытие и присущие ему спекулятивные инструменты обобщения идут наперекор формальной абстракции.) Приведенный Ильенковым пример слепоглухого мыслителя, который видит, слышит и даже думает с помощью органов чувств, мозга и мышления других, показывает, что даже серьезное ограничение не исключает развития мышления через социально-ориентированную общественную деятельность: в данном случае недостаток самости порождает, по мысли Ильенкова, необходимость бытия другого и тем самым устанавливает принцип детерминированного другими несобственного бытия, которое в свою очередь создает почву для общего бытия.

Ильенков разрабатывал свою оригинальную философскую гносеологию с конца 1960-х годов, когда открытия в области квантовой физики и кибернетики завладели умами советской интеллигенции, обещая, как и сегодня, разрешить множество проблем в обществе, политике и онтологии. Поскольку доводы Ильенкова идут вразрез с претензией «постфилософий» на дисквалификацию философии или на выдвижение постфилософских предпосылок для «новой» (подлинной) философии, эти доводы, как я хотела бы показать, приобретают сегодня новую актуальность в свете напряженных отношений между критической теорией, базирующейся на гуманитарных науках, и постфилософских теорий, стремящихся найти свою опору в точных науках и кибернетике.

В СССР 1960–1970-х годов новое поколение ученых, занимавшихся математической логикой и кибернетикой (одни из них пришли в эти дисциплины из нейрофизиологии, другие — из лингвистики, третьи — из экономики), попыталось внедрить в кибернетические открытия политические установки марксистской философии. Основным стратегическим методом для того, чтобы учредить кибернетическую теорию и информатику в качестве философии, стало осмысление теории систем и вычисления в качестве диалектических процедур; кибернетика должна была превратиться из прикладной специализации, работающей с вычислением, в дисциплину, в которой осуществлялась бы фундаментальная философская концептуализация. Так, в книге «Информатика, кибернетика, интеллект» (1979) Вениамин Пушкин и Аркадий Урсул обсуждают стремление кибернетиков этого круга осмыслить информацию не просто как одну из системных характеристик материи, а как ее (онтологический) атрибут, как ее принципиальное отражение. В этом стремлении отчетливо проступает вполне объяснимая потребность советской академической среды (где только философия могла претендовать на подлинный социально-идеологический авторитет) в наделении кибернетических исследований философской значимостью. Если, скажем, Модест Гаазе-Рапопорт и Дмитрий Поспелов в книге «От амёбы до робота» (1987) ограничиваются изучением системного изоморфизма биофизики, нейрофизиологии, робототехники и социальной психологии (то есть рефлексологического взгляда на поведение живых существ, с одной стороны, и систематизации и моделирования информации – с другой), то Пушкин и Урсул стремятся вписать информатику (или кибернетическую теорию) в широкое поле философской гносеологии. В самом деле, признавая различие задач обобщения, стоящих перед философией и кибернетикой, они в то же время твердо отстаивают принадлежность кибернетики к эпистемологической сфере марксистской идеологии и материалистической диалектики. Опорой для этого им служат три довода в пользу снятия табу на рассмотрение алгоритмического интеллекта как формы мыслящего разума.

Во-первых, кибернетика, как и процессы контроля и управления в системах, допускает саморазвитие и саморегуляцию, которые в вычислительной технике приобретают характер самообучения. С этой точки зрения, саморазвитие (или саморегуляция) материи и вообще любая форма саморегулирующейся материальной имманентности — например, кровообращение — уже содержит в себе признаки кибернетики; иными словами, аутопоэзис биологических организмов рассматривается как изоморфный аутопоэзису систем и сетей. Как следствие, если допустить, что развитие синонимично диалектике, то кибернетическое кодирование различных форм развития тоже следует признать диалектическим.

Во-вторых, если сознание в его марксистском осмыслении, уже не будучи психической категорией, определяется материальными процессами и социальной средой, то кибернетика может помочь подорвать доводы в пользу предполагаемой невозможности автоматизации сознания и его подчинения алгоритмическому моделированию. Ведь в течение длительной эволюции сознание развилось в соционейронную систему. Если же индивид является частью социальной системы, то эта система может регулировать или моделировать сознание как свой про-дукт.

И, наконец, в-третьих, кибернетика ставит под сомнение одно из центральных положений философии, согласно которому математическая логика и точные науки распространяются лишь на инструментальную рациональность (Verstand), но не на всю совокупность разума (Vernunft). По мысли Пушкина и Урсула, разум в его диалектической связи с рассудком со временем неизбежно формализуется и тем самым превращается в рассудок; в этом смысле рассудок — это всегда бывший разум, и, следовательно, отрицая за рассудком право считаться мыслью, мы ограничиваем само мышление.

Против подобных доводов как раз и выступает с коммунистических позиций Ильенков в четырех текстах, затрагивающих тему машинного интеллекта и философии: это два памфлета — «Тайна Черного Ящика» (1968) и «Записки Б. С. Безумцева» (1978), дидактическая работа «Машина и человек, кибернетика и философия» (1966) и капитальный труд «Ленинская диалектика и метафизика позитивизма» (1980).

Во-первых, утверждает Ильенков, хотя все биологические процессы в организме, в частности кровообращение и пищеварение, действительно представляют собой саморегулирующиеся развивающиеся системы, они не могут быть признаны диалектическими только лишь на основании способности к саморазвитию. Ведь диалектика предполагает отношение между саморазвивающимися системами и внешними явлениями. Примечательно, что Урсул и Пушкин и сами признают, что автономия системной саморегуляции и подчеркиваемый ими приоритет человеческого субъекта в оперировании нервными сетями сложно совместить. Если диалектика предполагает деидентифицирующую смычку собственного и несобственного бытия, то саморегулирующиеся системы и их саморазвивающиеся автономные имманентности не могут рассматриваться как диалектические.

Во-вторых, хотя Пушкин и Урсул учитывают социальное измерение сознания, они тем не менее понимают сознание как результат эволюционного развития мозга: в таком случае оно по-прежнему определяется рефлексами; и источником работы сознания, несмотря на его социальную природу, все так же остается мозг. В марксистской же интерпретации (например, в психологии Выготского или в диалектической логике самого Ильенкова) сознание является неиндивидуальным, внешним и родовым/общим по определению, а мозг всегда остается второстепенным, прикладным органом как для сознания, так и для языка.

И, в-третьих, разум и рассудок, по Ильенкову, не составляют единства, гарантирующего переход одного из них в другой. Мышление не обязательно влечет за собой рассудочную формализацию, а рационализирующая формализация не обязательно имеет следствием некий новый интуитивный скачок мыслящего разума. Таким образом, даже если рассудок остается разумом в его формализованном варианте, в результате этой формализации он качественно меняется — настолько, что перестает быть процедурой мышления, и его автоматический перевод в мышление становится невозможным.

Доводы в пользу того, что философия не может быть поставлена в один ряд с точными науками, Ильенков повторяет и в своей последней книге «Ленинская диалектика и метафизика позитивизма», опираясь главным образом на работу Ленина «Материализм и эмпириокритицизм» (1908). Даже простые данные, утверждает он, не могут быть познаны без гносеологических средств обобщения, а обобщение всегда предполагает диалектическое противоречие. С этой точки зрения, диалектическое напряжение между абстрактным и конкретным не может быть разрешено путем установления техно-натуралистических изоморфизмов; более того, между кибернетическими, биологическими, физическими законами и их приложением к социальной жизни изоморфизм невозможен.

Контекст, в котором создавались упомянутые работы Ильенкова, определялся тревогой по поводу того, что философская гносеология будет вытеснена программами машинного интеллекта и вычислительными алгоритмами. В 1978 году, когда философ написал памфлет «За-писки Б. С. Безумцева», целый ряд ведущих академических постов в философии и гуманитарных науках СССР оказался занят бывшими инженерами, физиками и представителями других точных наук. В то же время важно, что позиция Ильенкова основывалась не на обскурантистском отказе изучать искусственный интеллект — незаменимое, как он считал, техническое дополнение мышления, — а опасениями за судьбу диалектики как главного, жизненно важного для коммунистического общества философского метода, который мог уступить приоритет позитивистским, дискретным вычислительным методам, более подходящим для общества бюрократического капитализма.

«Записки Б. С. Безумцева» написаны от имени пародийного персонажа, «кандидата неких наук», который, не находя интереса ни в одной из существующих областей науки, пустился на поиски новой дисциплины и решил соединить изучение собак и кинематографа в общей метатеории — кинологии. Научная кинология Безумцева должна была не просто обобщать знание о собаках, но обобщать его в сопряжении с данными из другой области — из области кино. Придуманный Ильенковым псевдоученый перечисляет академиков, с которыми планирует сотрудничать: они носят искаженные, но узнаваемые фамилии самых известных советских кибернетиков 1970-х годов, в частности Виктора Глушкова и Михаила Руткевича. В первоначальной версии памфлета и сам главный персонаж был назван не Безумцевым, а Упрямцевым, что прямо отсылало к инженеру-конструктору Борису Украинцеву, который в 1974 году был назначен директором Института философии Академии наук СССР. Как пишет в предисловии к публикации памфлета Андрей Майданский, философская карьера Украинцева началась после того, как он поработал на нескольких партийных должностях, дослужившись до поста заведующего сектором идеологического отдела ЦК КПСС. В Институте философии по инициативе Украинцева был создан отдел философских проблем кибернетики. Майданский пишет: «Для Э.В. Ильенкова назначение Украинцева директором Института философии имело плачевные последствия. В фигуре Украинцева воплотилось все, что было ненавистно Ильенкову, — идеологический диктат плюс воинствующая философская безграмотность под соусом “обобщения достижений современной науки”».

В памфлете «Тайна Черного Ящика», опубликованном в 1968 году, Ильенков представил картину технократической дистопии, где разум и мышление полностью заменены машинным интеллектом. Очевидным посылом этого текста является указание на те элементы диалектической логики, которые не может подчинить себе алгоритмический рассудок. В этом смысле «Тайна Черного Ящика» смыкается с рядом ключевых проблем сегодняшнего дня, в общем и целом сводящихся к вопросу о том, что такое разум. Какие элементы человеческого разума неподвластны эмуляции средствами машинного интеллекта? Способен ли машинный интеллект стать суверенным, автономным и аутопоэтическим Субъектом, отличным по своей эпистемологической природе от человеческого мышления, или ему суждено быть лишь дополнением разума человека? Это те самые вопросы, на которые пытаются ответить в своих недавних работах Негарестани и Паризи.

«Тайна Черного Ящика» повествует о том, как ученый-кибернетик по имени Адам Адамыч пришел к выводу, что человеческий мозг не имеет существенных отличий от вычислительной машины. Убежденный в том, что интеллекту машины легче достичь высот, чем медленно развивающемуся разуму человека, он изобрел искусственный интеллект, ускоряющий процессы мышления и эмулирующий это мышление более эффективно, чем человеческий мозг. Все доводы в пользу качественных отличий человеческого интеллекта от машинного, выраженные в таких категориях, как разум, воля, идеальное или возвышенное, Адам Адамыч отбросил как устаревшие мифы — мифы, которые однажды были ошибочно названы философией. Созданная ученым машина, способная к совершенствованию своего мышления, разрослась в обширную нейронную систему, позволив всем машинам приобрести способность к автономному самообучению и самосовершенствованию.

Проблема возникла, когда одна из самых совершенных машин — «Мыслящее Ухо» — достигла своей конечной цели: она «научилась» слышать все, что происходит на Земле. Дальнейшее совершенствование стало для Мыслящего Уха бесполезным, так как в космосе звуков нет, однако встроенный в эту машину алгоритм улучшения постоянно побуждал ее к продолжению развития. Обнаружилось противоречие: искусственный интеллект обладает способностью к неограниченному совершенствованию, но в этом совершенствовании нет никакой необходимости. В конце концов, чтобы разрешить это противоречие, машинная нейронная система поставила над всеми машинами «Черный Ящик» — машинный метаинтеллект, нейтрализующий все противоречия путем поглощения и уничтожения любых избыточных и бесполезных данных. Отныне, когда любая из машин сталкивается с противоречием и начинает буксовать, Черный Ящик немедленно нейтрализует проблему. Иначе говоря, Черный Ящик стал устройством приема и поглощения избыточных алгоритмов и данных, которые уже не являются логически необходимыми, но продолжают пролиферировать вследствие бесконечной способности алгоритмических выводов, напоминая невычислимое в понимании Паризи.

В  конце памфлета «Тайна Черного Ящика» изобретатель системы Адам Адамыч сам оказывается обвинен в избыточном мышлении. Машины обезглавливают его и ставят на место головы устройство запоминания данных. Дидактическое заключение памфлета сводится к тому, что, хотя совершенство вычислительных возможностей достигнуто, заложенная в машину способность неограниченного производства утрачивает необходимость. Когда бесконечность перестает быть категорией мышления и диалектики и начинает рассматриваться как простой поток данных, она не может обнаружить свою истинную природу, которая должна быть диалектической и противоречивой. В поисках гарантированного предела бесконечности машины достигают состояния абсолютного конца мышления — неизменной пустоты Черного Ящика.

Памфлет Ильенкова был создан в конце 1960-х годов, в очень специфических условиях советской науки, однако описанные в нем технические средства расширения возможностей интеллекта во многом подобным тем, что обсуждаются в нынешних теориях вычисления. Их можно резюмировать следующим образом:

1. Обеспечиваемая машиной способность к самосовершенствованию, ускорению и самообучению.

2. Дискретный характер алгоритмических задач с исключением недискретных и противоречивых вводов, которые могут блокировать вывод.

3. Бесконечность дискретных данных.

4. Безусловное разделение функций, а значит, и труда вследствие предельной дискретности алгоритмизации.

5. Автономия и аутопоэзис машинного интеллекта.

Хотя с точки зрения постфилософских теорий мышления сомнение и противоречие (они же — «бессилие» философии) снижают эффективность разума и предстают основанием для того, чтобы объявить разум беспомощным, для Ильенкова это те самые элементы, которые конституируют мысль. «Бессилие» разума вписано в его силу. Такое бессилие не может быть преодолено с помощью разрастания объема знаний и данных или улучшения функциональных характеристик мышления. Справиться с ним может помочь скорее осознание неспособности разума человека разрешить противоречия реальности. Более того, неизбежное бессилие мышления, его смертность, его связь с неотенией человека, то есть с пониженными защитными способностями, которые ставят под вопрос выживание человека в естественной среде, как условия, определяющие само существование человеческого вида, не противоречат устремленности мышления к Абсолюту. Как часто повторяет Ильенков, философские и диалектические феномены сродни спирали или снежному кому: они всегда пребывают в движении и потому никогда не становятся дискретными самостями. Всеобщее благо, труд, разум или культура не аутопоэтичны: они реализуют себя в качестве бытия-для-другого. Аутопоэзис предполагает, что организм остается самим собой («я») даже во внешней среде и в своем обмене с нею, тогда как феномены, перечисленные выше, — всеобщее благо, труд, разум, культура — подразумевают полагание себя в качестве несобственного бытия. В данном случае «несобственная самость» — это не просто нечто внеположное «я»: это конститутивный принцип себя как не-только-себя, как не-идентичности. А если так, то алгоритмизировать мысль невозможно, поскольку мышление не сводится к движениям внутри некоей нейронной системы или внутри одного мозга, но распространяется вовне тела с его органами чувств, с его вовлеченностью в деятельность, с его участием в обществе и взаимодействием с другими людьми всех поколений и локализаций. Следовательно, чтобы эмулировать цифровыми средствами искусственный интеллект или искусственное мышление, потребовалось бы создать целую машинную цивилизацию (которая к тому же должна была бы быть полностью автономной и независимой от цивилизации человеческой). И в то же время сама идея программирования человеческого сознания или мысли как дискретного ввода нереализуема просто потому, что не существует единичного момента, когда человеческое существо и его разум имели бы устойчивый и дискретный программный интерфейс, который можно было бы использовать в качестве ввода. Как утверждает Ильенков, если и существует некая функция мышления, то она заключается в преодолении предписанности этой функциональности. Поэтому, даже если вычисление включает в себя невычислимое как свою аутопоэтическую потенциальность, оно все равно не может предписать конкретную траекторию работы с противоречием; ведь алгоритмическая логика пытается скорее разрешить или нейтрализовать парадокс, нежели экстраполировать его. Как отмечает Борис Гройс, суверенность процесса мышления возможна лишь тогда, когда этот процесс избегает функциональности и коммуникативной эффективности. Более того, компьютер, по-настоящему способный к художественному творчеству, должен был бы «всегда производить один и тот же результат — например, ноль — для всех возможных вычислений или, наоборот, производить всегда разные результаты для одного и того же вычисления».


ТЕХНИКИ ДИАЛЕКТИЧЕСКОГО ОТСВАИВАНИЯ

Так почему в условиях вытеснения философии кибернетическими исследованиями нужно настаивать на необходимости диалектического метода, по крайней мере когда дело касается политической онтологии коммунизма? Прежде всего потому, согласно Ильенкову, что диалектика — это особое (противостоящее формальной абстракции) орудие обобщения, которое не просто «дистиллирует» инвариант из многообразия эмпирической реальности, но и сопрягает тело и разум, вещь и понятие, конкретное и абстрактное. Тело и разум могут существовать в рамках двойственности или параллелизма (как у Спинозы) или сцепляться в семиологические серии безотносительно к любым топологическим разрывам и расхождениям, как в постструктурализме. Так, например, в гваттарианской семиологии сопряжение концептуального и чувственного/материального реализуется через допущение одного плана репрезентации для означающего и означаемого. Условием для такой возможности служит отказ считать означающее и означаемое неконгруэнтными друг другу, так что сопряжение вещи и знака может осуществляться перформативно, а не семантически, то есть без их семантического слияния и совпадения. Напротив, в диалектической логике вещь должна приобрести — вдобавок к своему измерению вещи — ноуменальное измерение, то есть подвергнуться обобщению в форме «понятия»; и наоборот, понятие (ноумен) должно получить возможность исполниться и обнаружиться в реальности, деятельности и вещности.

Здесь мы касаемся самой сути позиции Ильенкова: когда понятие абстрагировано от вещей, вещи тоже становятся абстрактными, а значит, необходимо взаимопроникновение между ними — просто потому, что вещь без понятия, без обобщения, — без определения через понятие того, как вещь в нем отражается, — собственно, не имеет бытия. Такое взаимопроникновение понятия и вещи необходимо, чтобы преодолеть абстракцию, и оно может быть реализовано только путем диалектической процедуры. Иначе говоря, обобщение — это такая абстракция, при которой понятие никогда не отрывается от реальности или вещности, а, напротив, сохраняет с ними связь.

Парадокс объединения разума и материи в рамках диалектической процедуры проявляется в том, что единственным путем к обобщению служит деидентификация через рассмотрение вещи в качестве иной, чем она сама. Объединить, свести вместе вещь и понятие способна не их идентификация друг с другом, а пребывание каждой идентичности в качестве другой, чем она сама. Вещь является другой, чем она сама, благодаря своему ноуменальному аспекту; понятие же является другим, чем оно само, благодаря своей материальной конкретизации. Постоянная резиньяция от самости как раз и является условием обобщенного полагания вещи и понятия. Вот почему вещь и ее значение не могут быть закодированы и квантифицированы. По сути дела, подобная верность диалектическому монизму была для Ильенкова выражением коммунистического абсолютизма, так как только (коммунистическая) немонетизированная и неприватизированная экономика могла, с его точки зрения, обеспечить описанное выше схождение бытия и мышления. Только в немонетизированной экономике вещи и понятия неизмеримы, неквантифицируемы и потому обобщаемы. И наоборот, монетар-ная форма коммодифицированных вещей предполагает и влечет за собой формализованную, абстрактную и дискретную квантификацию вещей и их означающих. Философия как таковая оказывается в таком контексте постоянным трудом неквантифицируемого диалектического обобщения, противостоящим цифровой квантификации и абстракции, которые всегда остаются на уровне дискретных, обратимых данных и никогда не обретают необратимость как новое качество.

В своей ранней (и самой известной) работе «Диалектика абстрактного и конкретного в “Капитале” Маркса» (1960) Ильенков показывает, что диалектическую логику не следует представлять себе как простое извлечение логики из области живого. Напротив, она сама всецело пре-бывает внутри неизмеримой живой области деятельности. Однако это не значит, что сумма реальных феноменов должна совпадать с их логической сущностью. Здесь ясно обнаруживается качественный характер диалектической логики Маркса: она предполагает необратимый пере-ход к качеству в диалектической процедуре. Этот принцип существенно отличается от натуралистической нередуцируемости научных и эмпи-рических данных. Недиалектическая логика порождает абстрактные идентификации путем метафизического дистиллирования. Диалектическая логика абстрагирует и обобщает путем выявления живой сущности вещи, феномена и закона их существования.

Исходя из этого, в «Диалектике абстрактного и конкретного» Ильенкова предлагается техника диалектического отсваивания, показывающая, каким образом самость всегда представляет собой несобственное бытие, и предполагающая, по мысли Ильенкова, необходимый для коммунизма непозитивистский метод рассуждения. Философ находит целый ряд примеров подобного бытия-себя-как-другого в политической экономии Маркса, показывая, что его анализ политической экономии — вопреки представлению о том, что знаменитый одиннадцатый тезис о Фейербахе имеет в виду простой отход от философии в сторону социального праксиса, — является образцом диалектической логики и философской гносеологии. Так, Ильенков подчеркивает, что Маркс определяет логику стоимости отнюдь не путем извлечения из разновидностей стоимости некоего объединяющего их элемента, отнюдь не путем сбора всех данных о стоимости и выделения из них того, что является для них общим, как это могло бы иметь место в алгоритмической логике. Напротив, для определения логики стоимости (как стоимости прибавочной) Маркс оставляет в стороне всю теорию стоимости целиком и обращается к другой области, которая никогда не считалась частью теории стоимости. Эта другая область, не связанная с теорией стоимости, лежит в живой реальности и представляет собой область немонетизированного обмена одного товара на другой, одной формы труда на другую. Такой обмен рассматривался как исключение из теории стоимости, и именно как в исключении Маркс усмотрел в нем условие, позволяющее обобщить логику стоимости. Тем самым, заключает Ильенков, Маркс доказал, что для того, чтобы понять прибавочную стоимость, нужно оставить в стороне характеристики и функции самой стоимости как таковой и обратиться к другим феноменам, глубоко погруженным в сферу живого обмена, в реальность, и еще не получившим никакого ясно артикулированного значения. В данном случае обобщенная понятийная сущность одного феномена (стоимости) обнаруживается в другом феномене (в обмене различных форм труда) или через него. Однако такое обобщение может быть реализовано не иначе, как через поиск ноуменальной логики в живой реальности торговли, через открытие логики в живых процессах, а не в уже имеющихся абстрактных данных о стоимости.


КОММУНИЗМ, СМЕРТНОСТЬ И РАЗУМ

С точки зрения Ильенкова, диалектическая логика, в противоположность логике алгоритмической, обнаруживает парадокс неизмери-мости, состоящий в том, что универсальное (абсолютное) и стремление мысли к нему сохраняются не иначе как благодаря функциональной недискретности человеческого существования и сущностному бессилию разума и мышления. Генеалогически возникновение философии и ее рассуждений о разуме совпадает с закатом теократий, богов и прочих сверхъестественных представлений. Именно потому, что мыслящее тело больше не могло полагаться на бога или иные сверхъестественные силы, оно автоматически начало представлять себе свой разум как нечто неиндивидуальное, родовое, универсальное или общечеловеческое. В самом деле, ненадежное человеческое тело-организм, которое Декарт в своем трактате «Человек» описывает по аналогии с часовым механизмом, представляет собой тело бессильное, лишенное божественного одухотворения, поддержки свыше и потому полагающееся на разум и мышление как на единственные источники, в которых оно может почерпнуть свой обобщенный смысл.

Деррида в работе «Cogito и история безумия», написанной примерно в тот же период, что и обсуждаемые нами тексты Ильенкова, утверждает, что картезианское cogito можно истолковать не как гегемонию разумности, а как решимость мышления признать смертность человека и в то же время как его способность утверждать, что человек еще не умер, пока он продолжает свой труд мысли. Смыслом cogito оказывается в данном случае не «Я, разумный субъект, мыслю и, следовательно, существую», а «Я еще не умер, хотя и не уверен в том, в своем я уме или нет, — ведь Бог уже не может подтвердить ни того, ни другого; но мне кажется, что, коль скоро я еще способен мыслить, я еще не умер, хотя и постоянно нахожусь на пороге смерти». Философская гносеология еще со времен Сократа видела в смертности человека одно из важнейших условий мышления и разума. Смертность есть следствие интенсивности времени, его необратимости, без которых невозможно было бы представить человеческий разум с его интенциональностью. В платоновских диалогах «Федон» и «Апология Сократа» принятие философом своей смертности выступает источником диалектической мысли. И философская гносеология, и разум обусловлены смертностью человека и его стремлением мысленно преодолевать свою смертность. Как пишет Борис Гройс, человеческий разум, в отличие от машинного интеллекта, коренится в риске смерти — или в страхе и осознании смерти.

19 октября
Ридинг-группа по научной фантастике
23 октября
Перформанс и паблик-ток Hydrogen City
22 сентября
Кинопоказ «Мир на проводе»
12 августа
«DOKU-гигант — Лу Ян — разрушитель»
Обсуждение перформанса Лу Яна
4 августа
Серия дискуссий «Мир на проводе»
11 июля
Стрим игры на выживание Still Alive
30 мая
Перформанс Лу Яна
group image
Новый сезон грантовой программы Garage Digital предлагает художникам и исследователям рассмотреть идею множественности существующих миров и способов их создания, опираясь на теорию расположенных знаний Донны Харауэй.
РЕЗУЛЬТАТЫ
Лауреаты 2021/2022
Грантовая программа
«Расположенные миры»
Требования
Кандидаты и проекты
group image
В 2020 году пять художников получили грант на реализацию проектов в области новых технологий и цифровых медиа. Тема первого сезона программы — «Новые исследовательские практики» — предлагала рассмотреть влияние технологий на методы и предмет художественного исследования.
Машинные инфраструктуры правды. 2020
Анна Энгельхардт
Все темницы падут. 2020
Алексей Таруц
Аутсорсинговый рай. 2020
eeefff
Агентство «Никогда». 2020
Сара Кульманн
Последняя наука. 2020
Валентин Голев
19 марта
Конференция цифровых рабочих
The Tool
Михаил Максимов
Эпизод «Катастрофа» из видеоигры «Юхины кошмары»
Юлия Кожемяко (supr)
Speedrun. Видеоигры в современном искусстве
Подборка материалов о пересечении видеоигр и гейм-разработки с современными художественными практиками.
Speedrun. Видеоигры в современном искусстве
Видеоигры и современное искусство
Даша Насонова
Handmade pixels reader
Дима Веснин
Внутриигровая фотография
Константин Ремизов
(a very brief) GAME STUDIES READER
Дарья Калугина
15 октября
Open call на участие в перформансе мультимедийной художницы Лу Ян
Реборн. 2020
Герман Лавровский
Одушевленный архив
Афра Шафик
21 июля
Ридинг-группа по научной фантастике
Искусство экранной культуры и «Инстаграма»
Анастасия Чеботарева и Александр Извеков для BURO.
Хакатон Eco Jam
Документация
Xerces Blau. 2019
Джеймс Ферраро и Эзра Миллер
Те, кто. 2019
Саша Пофлепп
Russian Ferations. 2019
Posthuman Studies Lab
FOOOD 2050. 2014–2019
Гинтс Габранс
«Материализм», скульптура об обратной разработке
Studio Drift
16 апреля
Перформативная лекция Кирилла Савченкова
IAM. 2018
Выставочный проект
«Те, кто»
Мэтью Лутц и Алессия Нигретти
Игровой клуб «Грядущий мир»
Публичная программа к Игровому клубу включает в себя лекции и мероприятий Let’s Play, проводимые художниками, критиками и исследователями видеоигр, с сопутствующей онлайн-трансляцией.
Лу Ян
Artist talk и Let's play
1 декабря
Спекулятивный консилиум Саши Пучковой
30 ноября
Перформанс-практикум Софьи Скидан
29 ноября
Лекция Дарьи Калугиной
23 ноября
Хакатон Eco Jam
Показать еще
Garage Game Club: Постапокалипсис и антиутопия
Список игр
Garage Game Club: Другие формы жизни
Список игр
Garage Game Club: Экологии
Список игр
Garage × Никоноле
IAM
«Oil on the brain: нефтепродукты теории»
Видеозапись лекции Никиты Сазонова
«Картография устойчивых будущих»
Видеозапись лекции Кати Никитиной
Эпизод II. Конференция
Проект IAM
«Вид сверху»
Видеозапись летсплея Сары Кульманн
Поиск
Подпишитесь на рассылку
Контакты  
О проекте