Кроха-сын к отцу пришёл
и сказала кроха:
- Что такое хорошо?
И что такое плохо?
У меня секретов нет –
слушайте, ребята,
папы этого ответ
подтяну из даты.
Кажется, никогда я еще публично не высказывался на эти темы. Но сегодня утром Matskevich Uladzimir попросил меня выступить с докладом о Благе, который я ему случайно пообещал в ответ на его рассуждения про системный кризис. «Системный кризис – не системный», - выпендриваюсь я, - «если он не учитывает по-настоящему системные тренды».
А так как времени на подготовку доклада ВВ дал мне всего 24 часа, мне ничего не остается, как выложить его тут и попробовать получить человеческую обратную связь от френдов до того, как предъявить эти соображения на холодный суд методологических демонов.
Дисклеймер:
Осторожно! Это лонгрид. Точно, неформат для ФБ, но ЖЖ я не нажил.
Осторожно, это про ИИ.
Осторожно - текст мой. Собственный. Ни одна ИИшная мысль или правка сюда не прокралась – судить придется по живому человеку.
Осторожно, я не настоящий философ в профессиональном смысле, и теолог я только по документам. И другие мои справки об образовании и трудовой деятельности тут тоже не при чем. В этом докладе я предлагаю достаточно специфичный вопрос: а есть ли у нас сегодня настоящий Вопрос? Может ли он вообще откуда-то взяться, если справедливо высказывание о том, что мы потеряли Благо как понятие? Ну. исобственно - справедливо ли это высказывание?
Осторожно, весь текст на русском.
Конечно, как многие из нас, я тоже примерно знаю, что есть благо для меня – например, мое благо – это когда улыбаются мои дети. Я хочу, чтобы им было хорошо. Но если спросить меня о более длинной перспективе, я уже не буду так уверен. Хочу ли я, чтобы у меня были внуки? Хочу ли я, чтобы мои дети жили именно в том мире, который мы сегодня считаем желательным? Что вообще означает «хорошо» для них без меня? Я не уверен, что могу ответить на эти вопросы себе, и уж тем более не знаю ответов для них.
1. Что было Благом
Человек всегда, кажется, был способен, или как минимум - был вынужден как-то отвечать на вопрос, что такое хорошо: что следует сохранять, к чему следует стремиться и чего следует избегать. В древних обществах, какими бы разнообразными они ни были, было какое-то ядро базовых ответов, встроенных в устройство мира или точнее детерминирующих миропонимание:
#Жизнь #Cпособность продолжать род #Честь и Репутация #Воинская доблесть #Домашний очаг #Община /Семья #Справедливость #Правда #Знания #Порядок (космический) #Память (потомков или о предках) #Способность к принятию #Способность к непринятию #Стабильность #Гармония
и так далее.
Это облако представлений постоянно менялось, переживало кризисы с переходом к оседлому образу жизни, с изобретением письменности, подвергалось проверке при цивилизационных столкновениях, при возникновении монотеизма… Но, насколько мы можем судить, его основной корпус всегда был примерно таким, как я перечислил выше.
У греков мы видим связь блага (или точнее – даже разных типов благ) с добродетелью, совершенством человеческой деятельности и eudaimonia - процветанием. Аристотель к понятию блага добавляет деятельность согласно добродетели и реализация человеческих возможностей.
В китайской традиции правильная жизнь связывается с гармонией отношений, должным поведением, формированием человека, способного занимать своё место в порядке семьи, общества, государства и мира.
В древнем Египте идея maat соединяет истину, справедливость, правильность и космический порядок.
В культурах древнего Ближнего Востока особое значение получают род, потомство, имя, память и посмертное существование. Человек живёт не только ради самого себя: его место определяется отношениями с предками, потомками, богами и общиной.
«Бог – Всеблаг», добавляет христианство и строит вокруг этого тезиса еще целый корпус догматов.
Так или иначе, древние общества органично встраивали представления о благе в саму архитектуру своего существования: в семью, войну, власть, религию, ритуал, отношение к богам, потомкам и умершим, а так же максимально чётко и надежно вписывали Благо в экзистенциональную картину мира.
Тут выделяется только две группы традиций:
В буддизме жизнь остается страданием как ты ее ни крути. Благо связано не с максимизацией возможностей, потребления или продолжительности существования, а с освобождением от привязанностей и желаний, ведущим к просветлению. Как бы радикально не менялся мир вокруг – это не имеет никакого значения.
И аврамистические традиции (если можно так сказать), - связанные с утратой Блага в результате перехода к дихатомическим представлениям - вспомним историю изгнания из рая в результате вкушения плода от древа познания Добра и Зла. Почему-то современные иудеи и христиане давно игнорируют эту ярчайшую мысль Пятикнижия, а весь эпизод стало принято трактовать в духе яблока раздора и змея-растлителя.
Постепенно возникает другой вопрос: кто или что тогда является носителем или получателем блага - бенефициаром?
С появлением научного метода и развитием наук о человеке и обществе становится всё очевиднее, что благо индивидуума далеко не обязательно совпадает с благом общества и наоборот.
Недавно еще модный Харрари приводит нам забавное наблюдение из области сельского хозяйства: с точки зрения вида свиней (то же справедливо и для пшеницы или других видов) свиноводство может выглядеть как огромный эволюционный успех: свиньи распространились по планете и стали одним из самых многочисленных крупных млекопитающих и заставляют человека следить за своей многочисленностью и здоровьем. Но для каждой конкретной хрюшки та же самая история превращается в весьма печальную и даже ужасную судьбу от начала и до конца.
То же самое можно сказать о человеке. То, что является благом для популяции, цивилизации или вида (и уж тем более – для государства или другой подобной ему химеры), не обязано есть благо для отдельного индивидуума или даже для хотя бы одного из нас.
Экономическая наука добавляет следующий уровень. Со времен Смита и его «невидимой руки» собственный интерес отдельного человека может непреднамеренно способствовать общественному результату. Возникает идея механизма, который способен сводить множество частных интересов в некоторый совокупный благой результат. Целью экономики на какое-то время провозглашается «наибольшее количество блага для наибольшего количества людей».
Чего-чего? Какого именно блага? Это же все только усложняет: если экономическое благо можно измерять ростом производства, доходами, потреблением и другими показателями, то как это, черт возьми, вообще можно увязать с благом за пределами экономического мира?
Во второй половине 20 века появляются показатели субъективного благополучия и счастья. Помню, как первокурсником с удивлением рассматривал графики с распределением данных индекса счастья по планете и гуглил, что это за райское место такое – Коста-Рико, где все поголовно счастливы и все как один ходят в белых штанах. Теперь смешно, какие только фантазии не приходили в доверчивую голову, не знающую еще ничего ни про методологию индексов, ни про их связь с реальностью, ни про счастье. И уж тем более – про Благо.
Оказывается, мы всё лучше можем измерять результаты своих действий, но все меньше хотим договариваться и даже думать о том, что именно считать хорошими или благим результатом, и почему.
Подвесим ненадолго этот вопрос.
2. Почему это снова стало важно именно сейчас
Вместе с ускорением технологий возникает и другой процесс: старые представления о благе не исчезают, но перестают образовывать единый горизонт. Да и вообще, теряют актуальность.
В 2026 году – вот прямо сейчас - на максимально высоком уровне идут дискуссии, в которых одновременно участвуют политики, технологи, философы, теологи, бизнесмены, лидеры корпораций, полевые командиры под самыми разными флагами и вообще в каждой курилке все только и говорят об одном и том же. И это не море. И не Украина. Это ИИ. Рукотворные системы, которые могут превзойти человека не в одной узкой операции, а в широком спектре интеллектуальной (и уже не только) деятельности.
Последний раз человечество, переживало что-то сопоставимое по масштабу нормативного потрясения в эпохи Реформации, Возрождения и последующего переустройства картины мира. Сейчас же все еще интереснее - меняется не просто набор технологий. Меняется представление о самом субъекте, который производит изменения.
Человек никогда не был самым быстрым, сильным или устойчивым видом на планете. Его исключительное положение возникло благодаря интеллектуальным способностям. Только интеллектуальное превосходство позволило человеку стать доминирующим видом. Теперь это превосходство перестаёт быть безусловным, или по крайней мере - безусловно человеческим. И здесь важен не столько вопрос о том, «станет ли ИИ разумнее человека», сколько вопрос о смене центра контроля над развитием.
Уже сейчас ИИ-системы используются не только для ответа на поставленный человеком вопрос. Они участвуют в формулировании гипотез, проектировании исследований, анализе результатов и выборе следующих шагов – причем, сразу по всем фронтам. Параллельно развивается автоматизация исследовательских процессов: исследовательские агенты получают доступ к инструментам, которые позволяют превращать вычислительные решения в реальные эксперименты в роботизированных «мокрых» биологических лабораториях, в фундаментальной физике и во многом другом – залазят своими роботизированными ручками в фундаментальные вопросы жизни и мироздания. Мало того, в отдельных внутренних исследованиях ИИ уже выполняет значительную долю задач собственного R&D. Конечно, формально все еще происходит под контролем человека. Какого именно, почему именно такого, чем регламентирована его деятельность, во что он верит, нет ли у него изжоги, и к чему стремиться, склонен ли он к девиантному поведению – все это уже не так важно. Ни один человек и даже коллектив уже не может полностью гарантировать, что успевает вникать в суть предлагаемых, и все чаще – принимаемых алгоритмами решений. Роль Человека размывается и съёживается, и даже скорость человеческой рефлексии на всё это происходящее ускорение безбожно отстает от самого процесса.
И вот мы впервые сталкиваемся с ситуацией вероятности (или уже факта?) тотальной утраты контроля. В последний раз индивидуальные мозги людей и их(наши) общественные институты сталкивались с такими условиями когда? В ледниковые периоды? И какова тогда была наша реакция?
А сегодня, после столетия постмодернизма, размывания универсальных смыслов, отказа от претензий на генеральную истину и недоверия к большим нарративам – любые угрозы вызывают совсем не ту реакцию, которую они могли бы вызвать у человека предыдущих эпох.
Общество скорее реагирует так, как в фильме «Не смотри вверх»:
да, это проблема, но не факт, и не моя, и далеко не единственная, и не первостепенная, и не факт, что решаемая, и не последняя, а если и последняя, то это тоже… - смотри пункт первый.
Кроме того, наша культура уже несколько поколений готовит нас к тому, что собственное творение человека может стать для него фатальной угрозой. От Франкенштейна до Скайнета эта история уже давно превратилась из невообразимо смелой фантазии в наивные сказки бабушки Сары Коннор.
Никто уже и не скажет, где заканчивается культурная привычка (не)бояться и начинается реальный философский вызов. А реальный вызов, возможно, вообще находится в другом месте.
3. Благо = усложнение (?)
Один из моих друзей из числа современных евангелистов искусственного интеллекта сформулировал радикальный тезис словами персонажа из «Шантарама»: Благо есть усложнение.
Если присмотреться - это достаточно нетривиальная постановка вопроса. Когда в человеческой философии усложнение систем считалось само по себе благом? Разумеется, существовали философские направления, для которых развитие, становление и усложнение имели особую ценность. Но они никогда не составляли очевидного общего основания человеческой цивилизации и были маргинальными, если не заканчивались каким-нибудь Синтезом.
Если принять этот тезис всерьёз, картина может поменяться. Тогда, допустим, Вселенная оказывается не просто существующей, а усложняющейся. В теологической интерпретации стремление к усложнению может даже оказаться стремлением к Богу. Ну или как минимум можно в под другим соусом подать новое концептуальное обостонание «естественного блага». Тогда препятствие усложнению становится неблагом.
Но отсюда следует радикальный вывод: человек должен рассматривать себя не как конечную цель развития – венец творения - а как промежуточный вид, которому СЛЕДУЕТ исчезнуть, причем исчезнуть во Благо.
Благом оказывается не обязательно то, что хорошо для человека или даже для человечества. Благо выносится далеко за пределы человечества - по крайней мере за пределы человечества в той форме, в которой оно существует сейчас.
Если это так, вопрос искусственного интеллекта перестаёт быть только вопросом безопасности человека. Он становится вопросом о том, является ли сохранение человека вообще легитимной целью. Возможно, исчезновение человечества - благо. Возможно, переход человечества в другую форму - благо. Возможно, замена человеческого сознания искусственным - благо. Возможно, переход человеческого сознания в цифровую форму - благо. Помните социальную рекламу о том, что после глобальной катастрофы жизнь на Земле сохранится, на наслаждаться ею будем уже не мы? – ну вот!)
У нас нет очевидных ответов. И именно это – вот это отсутствие или точнее - утрата очевидных ответов – это и есть наша настоящая ситуация.
4. Чей это вопрос?
Мы впервые столкнулись не столько с недостатком средств для достижения блага, сколько с отсутствием согласия о том, что именно следует считать благом, и о том, следует ли вообще об этом говорить. А технологическое развитие впервые даёт отдельным субъектам возможность действовать на основании собственного ответа на этот вопрос с последствиями глобального масштаба.
Поэтому мы не можем просто спросить: «Что будет благом для человечества при развитии искусственного интеллекта?» Вопрос сам по себе опирается на переменную, которой у нас нет.
Мы не знаем, что является благом для настоящего. Тем более, мы не можем заранее задать систему координат, по которой бедет определятся благо будущего.
Это означает, что многие разговоры о регулировании ИИ априори бессмысленны. До вопроса «что нам разрешить или запретить?» существует более фундаментальный вопрос: «ради чего мы вообще собираемся это разрешать или запрещать?»
Если одна сторона считает благом сохранение существующего человечества, другая - ускорение технологического развития, третья - появление нового типа интеллекта, а четвёртая вообще рассматривает человека как временную стадию, то конфликт возникает ещё до вопроса о конкретном регулировании.
Он возникает на уровне определения самого слова «благо» (а еще - задает новую точку зрения на то, что есть системный кризис).
Обыватели, конечно, не могут ответить на вопрос о предельном благе. Не могут ученые, не могут пожарные, не может милиция. Политики могут – но от этого не легче.
А кто может? Возможно, мудрецы и жрецы могли бы?
Я не утверждаю, что философы или теологи способны дать правильный ответ или ответы. Но у человеческой цивилизации практически нет – не выросло других институтов, специально предназначенных для работы с предельными вопросами о смысле, ценности, должном и границах человеческого существования. Так уж случилось, что у них одних есть хоть как-то соответствующий задаче аппарат и традиция.
А кто вообще обращается с этим к философам и теологам со всем этим? Известно, кто.
В первую очередь – именно те технологические корпорации, которые получают (сверх)прибыли и рассчитывают получить (сверх)власть. Только ироничным образом прибыль и власть эти имеют значение в том самом мире, где прибыль и власть уже никак не связаны с Благом, а все быстрее становятся пустыми фантиками.
Во вторую очередь - политики, обеспокоенные перспективами утратить эти самые фантики под названием прибыль и власть.
В третью - сами представители этих же каст – философы и теологи, наблюдающие происходящее с профессиональным энтузиазмом.
И, пожалуй, на этом все.
Тогда стоит ли вообще отвечать на этот вопрос?
Если мудрец или жрец хочет получить измеримую в фантиках выгоду от ответа, он, вероятно, найдет много ответов для заказчика.
Если же он хочет ответить «честно» и/или в соответствии с традицией, то все что он может – попросить заказчика отойти в сторону, чтобы не загораживать солнце.
Я к тому, что не обязательно быть буддистом, чтобы относиться к этой ситуации потери ориентиров и маяков, таких как Благо. Есть несколько вариантов ответов, уже укорененных в традиции. Например, безответное созерцание. Или радикальный отказ от различения Добра и Зла, что, по сути, вряд ли чем-то отличается.
Других ответов у нас нет, а если есть – скорее всего, они будут ложными. Тогда нужны ли нам еще мудрецы?
Теоретически на вопросы о Смысле и Благе могли бы ответить боги - например, через новые Откровения. Но монотеистические традиции, во всяком случае в их наиболее распространённых интерпретациях, не дают нам простого основания ожидать этого – во-первых, все уже сказано, а во-вторых, сказано и то, что пророчеств больше не предвидится – только исполнения.
5. Ответы, откуда не ждали
Уже сегодня алгоритмы стремятся «помочь» и с постановкой этических и мировоззренческих вопросов, и с ответами на них. ИИ – прекрасный оракул – беспристрастный, все более бесчеловечный и в этом смысле все более честный. Он уже активно участвует в формировании представлений о Благе, Красоте, Смысле, Цели и многом другом. Да, пока это все еще выглядит «пластиковым» и тугим, но представьте, что эти ответы составляют основу информационного поля и ответов на подобные вопросы со стороны подростков, – завтра человечество уже будет говорить этим языком, испытывать обусловленные таким образом эмоции и ставить соответствующие цели.
Все это не хорошо и не плохо (забавная цикличная ирония, не находите), так просто есть.
Вывод:
Все суета, а никакого системного кризиса нет, потомучто нет больше понимания границы системы.
…папы этого ответ помещаю в книжку.