На прошлой неделе было большое отвлечение от темы менеджмента на тему системной онтологии ("отвлечение" тут не совсем верно, ибо хорошо быть уверенным, что курс в том числе и менеджмента базируется на SoTA онтологическом основании), за выходные проветрил мозги на фестивале модерн свинга -- и следующее пополнение курса планирую сделать до конца недели, если не будет форс-мажоров.
Пошла реакция наших зарубежных коллег на текст по онтологии. Например, один из комментов был -- рассмотреть динамическую недетерминированную онтологию как опцию. Я в ответ написал:
I not mentioned it specially, because ontology usually starts with deterministic descriptions, but works of Deutsch and Fields discuss determinism and quantum unpredictability as a separate issues. And thus systems ontology based on physical minimalism and constructor theory is deterministic but this not means that there are all variables predictable. Here you can find explanation why deterministic laws can lead to unpredictability (not only quantum unpredictability but macro-objects too because these theories are intentionally scaleless): https://royalsocietypublishing.org/doi/10.1098/rspa.2015.0883
inkelyad заметил у меня в комментах, что "дух культуры" умещается буквально в нескольких гигабайтах -- всё наработанное человеческой культурой оказывается не таким уж большим по объёму, результаты техноэволюции (хотя бы в области художественной культуры) очень компактны. Я думаю, что это ещё и не так компактны, как могли бы быть и даже точно будут уже через несколько лет, ибо уменьшение числа параметров нейросетки и уменьшение количества вычислений без потери точности -- это горячая тема. А дальше я докручиваю мысль: результаты эволюции самого homo sapience, взятые аж от бактерий до современного вида -- это 800Мбайт, https://ru.wikipedia.org/wiki/Геном_человека, тот же "дух человека". Другое дело, что развернуть это в полноценный организм занимает довольно много времени и энергии. Но потенциально "человек" как клеточка "человечества" влезает в гигабайт, и ещё место остаётся. Если брать не только художественную, но и всякую другую культуру и ужимать её как следует, то это (пока) очень небольшие объёмы -- и foundation models равно как и наука в целом как раз про такое сжатие информации о мире. А дальше затраты времени на "разжатие". Тут два варианта: "распаковка части архива" для моих потребностей в какой-то предметной области (тут нужно ещё догадаться, что именно распаковывать) для "меня, любимого, в моём рабочем проекте" и отдельно -- распаковка такого архива для случая гибели человечества с задачей восстановления цивилизации в целом. Я считаю, что тут надо рассматривать все варианты, включая "как ужать-сохранить, а затем восстановить накопленные каким-то коллективом знания в каком-то domain". В частности, в agile делают для этого "ретроспективы" и далее это знание инкорпорируют в какие-то чеклисты. Но "чеклисты -- это не учебники, считается, что проходящие чеклисты люди понимают не только то, что отмечается в чеклистах, но и всякие нюансы", так что "ретроспективы" и "давайте вставим это в чеклисты" только часть ответа на вопросы. Опять же, это не про "сжатие информации". Тут я ещё Alan Kay вспоминаю, про его тезис "прочитать пятьдесят миллионов строк простого кода операционки один человек просто не в состоянии за всю жизнь, поэтому и понять её человек не сможет, но если речь идёт о 20 тысячах строках сверхсложного кода, то у человека появляется шанс" -- и тут можно обсуждать всякие оптимумы сложности кода, где любая запятая влияет на почти всё и простоты понимания глубоко автономизированного кода, где любая запятая влияет только на очень немногое. В любом случае, "вся культура человечества у меня в ноутбуке в 100Гбайт архивчике, плюс подписка Библиотеки конгресса на ежедневную актуализацию этой foundation model" -- интересно звучит, да?
В 2017 году я писал про роботакси-стек, что там нацеливаются на рынок, начиная с 2021 года -- https://ailev.livejournal.com/1384766.html. Дадим год задержки на ковид, ибо было свёрнуто, а затем развёрнуто огромное количество работ и поглядим, оправдались ли прогнозы. У NVIDIA в качестве бортового компьютера "для всего" анонсирован Thor с 2 петафлопс -- https://nvidianews.nvidia.com/news/nvidia-unveils-drive-thor-centralized-car-computer-unifying-cluster-infotainment-automated-driving-and-parking-in-a-single-cost-saving-system и старт выпуска автомобилей с ним в 2025 (если не случится какой-нибудь очередной пандемии или войны). Но что с самой идеей? Пузырь ведь потихоньку лопается: распущен (при очень мутных обстоятельствах) консорциум Фольксвагена и Форда Argo -- https://techcrunch.com/2022/10/26/ford-vw-backed-argo-ai-is-shutting-down/. Объясняется это тем, что фокус будет в обслуживании водителей "помощниками водителя", а не роботакси, в которых водителей вообще нет. С другой стороны, тесловские "помощники водителя" вроде бы законодательно запрещены, но мчащиеся по дорогам теслы со спящими водителями случаются регулярно -- сколько ни называй их системами уровня 3+, а не 4 или 5 по шкалам автономности. И одновременно фордовский Cruise втрое увеличивает площадь покрытия сервиса роботакси в Сан-Франциско (хотя пока только для работников самого Круиза, но обещают, что это скоро будет для всех): https://cleantechnica.com/2022/11/01/cruise-expands-robotaxi-service-in-san-francisco-massively/, и в этом тексте обсуждается, что довольно много людей сейчас уходят с этого рынка, а вот Cruise вдруг резко расширяет своё присутствие. Ну, когда-то много поисковиков уходило с рынка, а Гугл резко расширял своё присутствие -- и непонятно, видим ли мы тут именно такое. При этом у Cruise есть разрешение на эксплуатацию там роботакси без второго водителя. В любом случае, в прогнозе стояло как "начиная с 2021 года" -- это обозначалось "начало". И формально в 2022 году сервисы роботакси (дико пока убыточные и неуклюжие) без "дежурного водителя в салоне" существуют. Дальше всё будет развиваться по экспоненте: вроде как медленно, но неожиданно через несколько лет (я думаю, что с ритмом выхода новых чипов и нового поколения софта -- там ведь дикие объёмы вычислений нужны, а датацентр на борт автомобиля не возьмёшь) всё изменится.
Был вопрос: а что читать по-русски об этике, ибо у нас ведь в курсах про этику говорится, но пока ничего конкретного, кроме как "учитывайте"? Чтобы понять, о чём там в этой этике речь, я рекомендую сходить и почитать тексты вот тут (это, конечно, не вся этика, только тематика уменьшения страданий): https://vk.com/reducing_suffering. Так, там прямо в info сообщества есть кратенькое оглавление некоторых постов -- разновидности этики с фокусом на минимизации страданий (напр. негативный утилитаризм), эффективный альтруизм и кооперация, общие вопросы консеквенциализма и утилитаризма, некоторые вопросы метаэтики, утилитарный подход в зоозащите (вкл. вопросы уменьшения страданий как в животноводстве, так и в дикой природе), эвтаназия и паллиативная помощь, гедонистический трансгуманизм, философский пессимизм, веганство и антинатализм, s-риски (риски страданий в астрономических масштабах) и не только.
Михаил Светов вдруг поминает меня тут https://youtu.be/buYAIC7I9m0?t=2857 -- говорит, что я не иду к нему на стрим, хотя он когда-то звал. Я там в комментах написал ответ:
Ну вот я не помню, чтобы я как-то отказывался поговорить — хотя десяток лет назад и вправду избегал каких-то выходов в эфир, не до того было. Я и вправду не слишком публичная сейчас фигура, ибо мои нынешние занятия не любят беготни, а широкой публике всё это системное мышление и системная инженерия до лампочки. На этом "Дне" я оказался в силу странной причины: я не знал, что это за канал, узнал уже там внутри — обратил внимание на странную тематику картинок на стенах студии. Но приглашали меня очень грамотно, показали ознакомленность с моими трудами, вот я и повёлся )))
Будет приглашение — пойду, конечно. Хотя я политикой сейчас мало интересуюсь, ибо считаю, что методом проб и ошибок все текущие мемы не победишь, нужна хоть какая-то теория, чтобы предлагать smart mutations текущего мемома, разобраться с иммунной его системой и аутоиммунными болезнями (скажем, John Doyle считает полицию иммунной системой, а полицейское государство аутоиммунным заболеванием -- вот ходы по этой линии как-то слабо обсуждаются, ибо ещё с коллективами хоть что-то понятно, но с сообществами и обществами по этой линии -- уже мало понятно). Мои предложения заниматься теорией не встретили особого энтузиазма у моего окружения, так что я занялся этим сам. Не будет теоретической работы -- ни о какой стабильности каких-то решений в политике говорить нельзя, левые идеи всё смывают, и дальше вместо развития получаем очередной стабилизец. Вот я этой теорией и занимаюсь, в моих учебниках системного мышления обсуждаются в том числе и такие вопросы, почему незыблемость границ невозможна -- на базе теории, а не верований тех или иных партий. Но это не попса, до этого места не каждый дочитает.
Ежели чего, то всё (кроме танцев) у меня последние двадцать лет тут: https://ailev.livejournal.com/ -- но не ждите там много политики, хотя изредка, конечно, я что-то говорю, но кроме вони от националистов со всех сторон на это не получаю. Я ж космополит, мне национальные идеи по барабану, где проходят границы мне полностью всё равно, какой из диктаторов лезет мне в карман мне всё равно, результаты ведь для меня будут одинаковы. Но людей жалко и критерий я выставляю простой: чтобы людей (впрочем, и не только людей, я ж ещё и трасгуманист) было побольше и жили они получше и подольше. И что этому мешает, надо убирать. Но если нет теории и хороших объяснений, и эти объяснения если малопонятны (например, все вокруг дикари и малограмотные), то ничего сделать не удастся, непонятно на что убалтывать. Поэтому делаем теорию и учим массы людей думать.
Источник: https://ailev.livejournal.com/1657537.html