В курсе системного мышления заменил "курс/книга" на "курс", "упражнения" на "моделирование", а ещё внёс примерно сотню исправлений текста (Aisystant предлагает студентам сообщать об ошибках в тексте курсов, и потом эти ошибки по моим курсам прилетают ко мне в виде аккуратной таблички в coda.io -- и они, конечно, исправляются). Из 502 упоминаний в курсе "требований" осталось к вечеру 476, и дальше я застряну на этом на несколько дней. То же будет с 291 архитектурой. Это главное, что нужно поправить: ради этого и затеяна переписка. Кроме того время от времени случаются отсылки к жизненному циклу, к проверкам-приёмкам. Но глаза боятся -- руки делают. Большие тексты писать -- как вязать на спицах, каждое действие крайне простое, но просто этих действий очень много, и над каждым нужно немножко (а иногда множко) подумать. А потом ррраз -- и текст готов, вся эта бесконечная работа в какой-то момент заканчивается. Надо только терпеливо дожидаться этого момента, не останавливаясь. Быстро -- это медленно непрерывно.
26й поток "Системного менеджмента и стратегирования" с 22 января 2023 будет идти как обычно, virtureal: я буду вести его в офисе в Москве для тех, кто доберётся до офиса, а кто не доберётся -- они будут присутствовать в онлайне через телеграм.
2023 будет очень интересным. Если конец 2022 казался началом сингулярности, то конец 2023 уже будет вообще восторгом. Вот табличка из декабрьской статьи Фристона со многими товарищи про развитие AI (Designing Ecosystems of Intelligence from First Principles, под first principles имеется ввиду active inference, https://arxiv.org/abs/2212.01354), обратите внимание на тамошние сроки, всё там ожидается более чем стремительно:
В области этики кроме многоуровневости нужно учитывать и всякие новинки в типах агентов. Например, по линии DishBrain встаёт вопрос об этике hybrots, при этом DishBrain уже показал, что мозги-в-пробирке вполне обучаемы. Смотреть нужно литературу, указанную в "this article is referred by" к статье "Mapping the Ethical Issues of Brain Organoid Research and Application", https://www.tandfonline.com/doi/full/10.1080/21507740.2021.1896603. В частности, последняя статья там "Neurons Embodied in a Virtual World: Evidence for Organoid Ethics?" https://www.tandfonline.com/doi/full/10.1080/21507740.2022.2048731 от авторов DishBrain https://corticallabs.com/research.html. В тексте пытаются различить "сознание" (consciousness) и разумность (sentience) и уточнить эти определения, ибо мозги на подложке уже выращивают, интерфейс к ним наладили (мозги играют в pong в виртуальном мире), и дальше неплохо бы понимать, что с этим делать в части этики. Например, такие cerebral organoids предлагают для такого выделить особую этическую категорию, "Cerebral Organoids and Biological Hybrids as New Entities in the Moral Landscape", https://www.tandfonline.com/doi/full/10.1080/21507740.2022.2048732. Там предлагаются разные варианты: выращивать мозги на подложке, выращивать кусок человечьего мозга у животного, выращивать кусок мозга одного человека на другом мозге, выращивать мозг на основе клеток, взятых у умершего человека, и т.д. Увлекательно! Мне в голову при этом приходит книжка Пол ди Филиппо "Рибофанк" (1996), увлекательнейшее чтиво про гибридов животных и людей, а также прочие эксперименты с биологией, и это чтиво оказывается сегодня не совсем уж фантастикой, а почти фронтиром.
В любом случае, этику надо рассматривать не только по линии неминуемых многоуровневых конфликтов и происходящей из-за них неустроенности, но и по линии непрерывного спектра мышления/cognition -- и тут принимать во внимание в том числе и различение сознания и разумности (а также помнить про другие шкалы, типа той же вменяемости и традиционного для этики рассмотрения на тему "возможность ошибаться и понимать виновность", чтобы определять вину вирусов, кошек и людей). А дальше -- этика отношения к лабораторным животным уже есть, этика отношения к лабораторным cerebral organoids уже обсуждается, этика отношения к лабораторным сверхбольшим нейросетям на подходе.
Вот я писал в 2016 году "Этика, политика, челоботы", https://ailev.livejournal.com/1311100.html: "здравствуйте, новые времена, когда нужно будет переписывать все книжки, рассказывающие о человеке-как-он был и менять все привычки поведения. Человек-каким-он-становится, т.е. уже не совсем человек, потребует новых книжек, новой этики, в кругу людей и ботов потребуется новая политика, и речь тут вовсе не идёт о "прогрессе" в плане появления более свободного общества. Не факт, что общество будет более свободным. Какие-нибудь боты-недотёпы вместе с недоразвитыми людьми вполне будут исповедовать (хотя и недолго) архаические формы политической философии, и вполне себе дикарские варианты этики.
Но наряду с этими будут жить рядом и совсем другие симбиозы ботов и биологических людей, которых будут волновать постсовременные этика, мораль, право -- и в этих кругах можно будет дышать свободней (причём не только дышать, но и пить, есть, иметь доступ к электроэнергии и интернету/нейронету)". И там в конце ещё несколько моих ранних текстов про эту тёплую ламповую человечность.