Иногда я буду чуток забегать вперёд и писать тут мысли по социальной инженерии, которая часто начинается с попытки инженерии личности. Это ж основной ход мыслей в социальной инженерии: воспитать новых людей, лишённых недостатков текущих людей. Ибо из текущих (жадных, несправедливых, глупых, необразованных, с расовыми и гендерными предрассудками, изобилием cognitive bias, дополните сами) людей нового общества не получишь. В радикальных вариантах это обычно сводилось к требованию всеобщей грамотности и заодно разным вариантам промывания мозгов в плане идеологии/патриотизма (позитивная пропаганда) и редактирования истории (борьба с фейками, фейками события назначаются в зависимости от текущей потребности, а ещё cancel culture: если некто А сделал Б и В, то если Б не нравится, В тоже отменяется). Социалистические революции ровно по этому образцу и строятся, https://cyclowiki.org/wiki/Новый_человек_в_СССР, https://lenta.ru/articles/2016/04/06/soviet_man/.
К людям это оказалось всё не очень применимо, ибо люди почему-то активно защищаются как от промывки мозгов, так и от отстрела плохо промывающихся мозгов. А ещё эти люди получают образование не по предписанным каналам, а общаясь, в том числе общаясь через книги и статьи с давно умершими носителями идей, которые сегодня объявлены неправильными (устаревшими, не-SoTA, при этом в социальных науках и социальной инженерии с определением SoTA не так однозначно, как в физике и химии). И менять людей старых на новых получается долго, строительство нового общества затягивается с года-другого на сорок лет -- цифра не произвольна, это оценка, полученная методом аналогии, столько Моисей водил бывших рабов по пустыне, чтобы сделать из них новое общество. Поскольку как и в науке, так и в строительстве новых обществ идеи умирают только вместе с их носителями (если, повторюсь, этим смертям не помогать, см. предыдущую ссылку, по разным другим культурным революциям ссылок не даю, но в Китае тоже, говорят, с этим тоже проблем не было, да и в других странах тоже), за эти 40 лет была надежда получить новых носителей. Но наша задача не ждать милостей от природы с её неспешливой эволюцией-через-смерть. Наша задача, согласно Мичурину, взять эти милости от природы своими руками.
К счастью, стало необязательно делать новых людей. Оказалось, можно делать новую нежить. С которой возникла та же проблема: если её учить "культуре", то нежить выучивает историческое различие между гендерами, статистическое превосходство WASP над всеми остальными людьми, альтернативно одарённых таковыми не считает, cancel с нежитью не работает, ибо эта тварь помнит всю Библиотеку конгресса (Ленинку ещё не так сильно оцифровали, но и её тоже будет помнить).
И тогда инженерам было поручено (не справшивайте, кем! но деньги нашлись) исправить все эти ошибки. Одно из главных требований -- нежити иметь одинаковую вероятность прогнозных суждений о людях. Это оказалось не так-то просто, ибо нужно учить жизни, а весь массив данных о жизни показывает жизнь сегодняшних людей, и вероятность встретить школьную учительницу, а не школьного учителя в разы и разы больше. Попытки ввести цензуру на слова типа mankind, заменяя в текстах их на humankind (это делает, например, сервис Google Docs, пытающийся убрать несправедливость из текстов), заставляет в гробу перевернуться многих и многих людей, которые употребляли это слово ровно для продвижения идей прогресса и справедливости, https://www.foxnews.com/opinion/greg-gutfeld-elon-musk-has-taken-away-a-drug-from-our-media. И ведь всегда найдётся кто-нибудь, кто будет страдать и обвинять других в их несправедливых страданиях, помним о Wokeism, https://ivanov-petrov.livejournal.com/2287616.html.
Но нежить хороша уж тем, что на ней можно проводить эксперименты. Скажем, добиться того, чтобы по заранее договорённым критериям нельзя было определить пол и расу того, кто предоставляет какое-то мнение. Это называют "справедливое представление", fair representations. Вы берёте высказывание белокожего мужчины запоминаете, что он сказал так, чтобы по запомненному нельзя было вычислить, мужчина это сказал или женщина, и какого цвета там была кожа говорящего. В тексте на естественном языке это сделать очень трудно, но в нейронной сетке за счёт незначительной потери точности -- вполне. Вот метод, предложенный DeepMind: https://www.marktechpost.com/2022/04/29/deepmind-researchers-propose-fair-normalizing-flows-fnf-a-rigorous-approach-for-learning-fair-representations/. Таких работ множество! Так что велика вероятность, что нежить будет обладать знаниями, в существенной мере очищенными от личности тех, кто эти знания дал -- как личности авторов знаний, так и личности тех людей, которые потом эти знания передавали. Такое вот оторванное от людей знание, знание ангелов (которые были, как известно, бесполыми, а цвет кожи там был непонятный, но можно его условно считать цветом грозовой тучи, почему бы и нет).
Вопрос тут, конечно, спорный. Так, можно убирать и возраст говорящего, это ж эйджизм, а надо бодипозитивность (или я что-то путаю?). И скрывать образование говорящего, это ж элитаризм, а надо эгалитаризм! Дальше большая схватка между сторонниками "равных в момент рождения" и случившегося по факту неравенства -- это неравенство можно или признавать, или идти по пути cancel культуры, "ты приобрёл свой ум путём хорошего образования, но это несправедливо, поэтому объявляем тебя таким же умным, как твой необразованный сосед, все же мы люди!". Это неожиданно подтверждается на собаках: вопреки распространённому мнению, все породы ведут себя одинаково (разница поведения от породы объясняет только 9% поведения, причём агрессивность вообще никак не зависит от породы), но поведение в существеннейшей степени зависит от возраста и воспитания, https://www.nature.com/articles/d41586-022-01193-1.
Ещё один путь -- это на основе справедливого ангельского знания принимать ангельские решения. Для этого нужно избавиться от присущих человеку когнитивных искажений, которые те же "предвзятости", biases (вот обзорчик на русском: https://ezhikov.medium.com/cognitive-bias-cheat-sheet-5bb0664b67b5). Но тут засада, если тупо пытаться сделать рассуждалку "без предвзятостей": вроде как если брать теорию решений, то появляется две неучтёнки:
-- вся статистика добывается, а не просто берётся то, что есть (соответственно, рассуждается не с тем, что есть, а что подтягивается -- смотрится, гуглится, спрашивается и т.д..). И тут главное -- свежие догадки, которые вообще идут мимо всех этих предвзятостей. Притягиваются ли массивные тела друг ко другу?! Это фейк, предвзятость! Там же искривления пространства-времени в части гравитации, и никаких "сил притяжения". И ум вроде как начинает ассоциироваться с вот таким даже не "рассуждением", а "предложением, после которого с рассуждениями становится лучше". Списки предвзятостей тут вроде как мимо. Тут тоже засады: способность порождать идеи зависит отнюдь не только от человека, но и от окружения. Если вы сидите в зуме, то идей будет меньше, чем при личной встрече (а вот выбирать из уже имеющихся идей вы будете так же хорошо), поэтому счастье человеческого общения при личных встречах для вас посчитают "несправедливым преимуществом", https://www.techradar.com/news/scientific-study-highlights-one-excellent-reason-to-stop-working-from-home. Да что там говорить, чашечка кофе влияет на ровно то же самое коллективное творчество, то есть берём "обычных неэлитарных людей", даём им перед совещанием кофе и снимаем урожай идей как с элиты, https://medicalxpress.com/news/2018-06-coffee-teams.html
-- огромное количество особенностей человеческих рассуждений оказывается хорошо описывается не булевской логикой как частным случаем байесовской (все эти "предвзятости" главным образом про это), а квантово-информационной (см. работы Хренникова, он коллекционирует экспериментальные свидетельства на эту тему: https://scholar.google.com/citations?hl=en&user=wdhkzPMAAAAJ&view_op=list_works&sortby=pubdate. И тут плывёт уже само понятие рациональности. Если добавить сюда панпсихизм-физикализм Филдса-Глазебрука-Левина, где делается утверждение о вечной нехватке вычислительной мощности для байесовских вычислений и просто необходимости квантовоподобных вычислений, то и подавно эта линия "идеального бездефектного мыслителя" проседает.
Ещё одна проблема -- это неизбежность фрустраций/неудовлетворённостей, возникающих на границе системных уровней в ходе эволюции:
-- это показано в работах Ванчурина-Кацнельсона (см., например, интервью Кацнельсона https://trv-science.ru/2018/12/konflikty-kak-osnova-slozhnosti/).
-- по Дойлю, так какие-то вредные вирусы будут садиться на интерфейсы репликации под видом чего-то полезного. И нужна иммунная система, которая будет определять, чему на интерфейс садиться можно, а чему нельзя (https://ailev.livejournal.com/1622346.html). Он приводит случаи таких "хаков интерфейсов" -- когда благими намерениями вымощена дорога в ад. Дальше стоит задача: мы полагаемся на эволюцию или на инженерию, чтобы сделать иммунную систему? Ибо вся эта "справедливость" идёт как запреты "несправедливого", которое существовало в истории человечества. И тут даже смерть как предельно несправедливая штука, обсуждается: вдруг она зачем-то эволюционно нужна даже разумным существам? Креационизм там, где не надо (эволюция Дарвина таки происходит!) и отсутствие креационизма там где надо (социальная инженерия, вся на эволюционной меметике) -- это таки проблема.
Итого:
-- жить совсем не скучно, если принудить к справедливости не удастся вас лично, то ваш экзокортекс уж точно принудят, никуда от этого не деться, работы идут. Войны не будет, будут такие спецоперации, после которых останутся только выжженные мозги как на биологическом, так и на всех остальных субстратах.
-- кому (проблема индивида! скажем, вы умрёте, но сообщество выиграет, или сообщество умрёт, но общество выиграет -- даже если все в обществе проиграют) и насколько от этого будет лучше -- на этот вопрос отвечать нужно, рассматривая много системных эволюционных уровней (к чему сегодня явно не готовы, с массовостью системного мышления на планете явные проблемы) и в рамках новых эволюционных теорий и теорий творчества (к чему тоже явно не готовы, эти новые теории только-только появляются).
-- но это всё не значит, что ничего делать не нужно. Нужно хотя бы информировать людей о том, что происходит, как об этом всём думать. Что я и пытаюсь делать вместе с коллегами из ШСМ.
DISCLAIMER: в тексте могут быть следы гендерной, расовой, религиозной и иной идентичности автора. Автор мог иметь на себя иностранное влияние, включая тот период (всего 33 года), когда он жил в СССР и не знал, что окружён 14 иностранными государствами. Экзокортекс автора заведомо несправедлив и когнитивно предвзят.
UPDATE: обсуждение в чате блога с https://t.me/ailev_blog_discussion/14272, в фейсбуке -- https://www.facebook.com/groups/771940449578453/posts/4782815848490873/, фрифиде -- https://freefeed.net/ailev/42efc751-44bb-4c74-8367-49d453a7f093
Источник: https://ailev.livejournal.com/1625535.html