Небольшой обзор литературы по физическим работам в области информатики (главным образом по линии constructor theory, но и классику чуть-чуть цепляю), эмерджентности (системный подход там в явном виде не упоминается, но все выводы физиков по поводу эмерджентности и многоуровневости в описании мира в системном подходе могут быть использованы) и теории ресурсов (в квантовой информатике эти теории более чем популярны: просто что-то труднодоступное типа quantum entanglement называют ресурсом — и ну его майнить!).
Физики (при активной помощи математиков) активно строят физические теории для информатики, ресурсов, эмерджентности.
1. Теории информации и вычислений
Вычислительное мышление (вычисления о вычислениях, ага) связано с операциями над информацией, и мы легко согласимся на имя "информатика". Проблема в том, что в 2021 году нам нужна общая информатика для:
-- вычислений классического компьютера, опирающегося на информацию
-- вычислений квантового компьютера, опирающегося на суперинформацию
-- вычислений робота (который ещё и что-то там воспринимает в окружающей физической среде, и может по итогам вычислений преобразовать эту среду -- то есть нужно внятно объяснить проблему "если мысль нематериальна, то что поднимает мою руку?")
Изо всех вариантов информатики (а их тьма) мне больше всего нравится основанный на constructor theory (не знаю уж, как перевести -- построительная теория? строительная теория?) Дойча-Марлетто, попсовое изложение самой теории в книгах Дойча и книге Марлетто (https://ailev.livejournal.com/1566392.html).
В этой теории вводятся понятия физических действий: вычисления (операции с информацией), подготовки (по информации что-то изменить в мире), измерения (из чего-то вытащить информацию), трансформации (перевести одни вещи в другие). Информация выводится из понятия вычисления, равно как и суперинформация (квантовая информация). Строгое изложение Constructor theory of information by David Deutsch and Chiara Marletto (2015), https://doi.org/10.1098/rspa.2014.0540 -- и там даётся мостик к традиционной теории информации (Шэннон и прочие, классические вычисления по Тьюрингу-Чёрчу, а также квантовый компьютинг). Развитие идей суперинформации по линии вероятностных измерений даётся в Constructor Theory of Probability https://arxiv.org/abs/1507.03287, а поскольку вычисления (в том числе квантовые) ещё оказываются завязанными на термодинамику, то в On the relation between thermodynamic work extraction and distinguishability показаны additional connection between thermodynamics and information theory, which is scale- and dynamics-independent, and goes via the law of conservation of energy -- https://arxiv.org/abs/2009.04588.
По этой линии сразу появилось и некоторое количество забавных работ с попытками отнести cognition к работе с суперинформацией, тем самым канализировав весь поток "квантовых теорий сознания" в это новое теоретическое русло -- First steps to a constructor theory of cognition, https://arxiv.org/abs/1904.09829 и даже Constructed emotions and superinformation: a constructor-theoretic approach, https://arxiv.org/abs/2008.06052.
Что тут ключевое? Constructor theory лежит как под традиционной информатикой, так и под квантовой (более того, это "суперинформатика", ибо квантовые системы это только подкласс систем с суперинформацией). И там даны ходы, как думать об автономных роботах/жизни -- Constructor theory of life, https://arxiv.org/abs/1407.0681.
Всё это закрывает какое-то количество вопросов, поднятых в моём обсуждении вычислительного мышления по состоянию на октябрь 2020, https://ailev.livejournal.com/1540866.html. Но основная проблема в том, что в информатике огромное количество системных уровней -- и вроде как информатика-через-построение (constructor theory of information) даёт общие принципы разговора про абстрагирование, но слишком много чего нужно сделать, чтобы подняться до уровня "системной информатики", как я это формулировал ещё в 2016 году: "Моя идея остаётся прежней: моделирование, программирование, онтологизирование (и, думаю, обучение как в machine learning) -- это предметная область для одного и того же отношения абстрагирования, как мереология -- это предметная область одного и того же отношения "часть-целое" в разных его ипостасях и вариантах. Ну, проектирование/конструирование (и программирование в смысле проектного управления, создание программ работ) -- это частный случай, просто абстрагирование будущего, будущих полных темпоральных частей целевой абстрагируемой (т.е. проектируемой/конструируемой/целевой для программы работ) системы" -- https://ailev.livejournal.com/1272169.html. И даже формулировка "вычислительное мышление в интеллект-стеке уровнем выше, чем системное" от ноября 2020 года https://ailev.livejournal.com/1544639.html не кажется такой уж очевидной на этом уровне.
Тут нужно сказать, что это всё не очень мейнстрим. В мейнстриме такие, например, работы, как "Quantum Foundations of Classical Reversible Computing", https://arxiv.org/abs/2105.00065. The concept of reversible computation, or computation without information loss (even locally), played a centrally important role in the historical development of the thermodynamics of computation. It remains critically important today in the field of quantum computing, where it is necessary for maintaining coherence in quantum algorithms.
Квантовых компьютеров уже много разных типов, плюс появляются неожиданные игроки типа "аналоговые компьютеры, ведущие себя как квантовые", https://www.infinityq.tech/ that came out of stealth mode April 29th, promising to do quantum computing with all of its benefits but without the tedium of a sub-zero refrigerator stuffed full of unstable materials. Некоторые подробности тут: https://www.zdnet.com/article/the-future-is-analog-startup-infinityq-pushes-novel-quantum-computer/. This approach can yield super-positional solutions, just like quantum computing in a fridge, but without the need for quantum entanglement, said Sellier, and without the need for masses of qubits to perform error correction, and with vastly less power than the quantum hardware. "We can exploit super-positional states, but we don't need entanglement like other people do," he said.
Вот всё это и нужно, чтобы как-то понималось, когда говорят, что "вычисления растут не на деревьях". Вычисления классического компьютера сегодня абсолютно понятны, а вот вычисления квантового компьютера -- уже не очень, хотя их архитектур уже довольно много разных, и вся отрасль хорошо финансируется и хорошо развивается, экономический пузырь там надувается.
Почему это всё крайне важно: в основе всей информатики лежат компьютерные чипы -- и нужно чётко понимать, что "булки не растут на деревьях". Что такое вычисления, их свойства, почему на первый план выходит "энергоэффективность", какие типы компьютеров и виды программирования будут развиваться -- это нужно понимать в самых общих чертах. Цифры там немаленькие, включая государственные вложения. Например, только одна Южная Корея решила вложить в программу развития полупроводниковой промышленности за 9 лет $0.451 триллиона долларов, https://syncedreview.com/2021/05/16/south-korea-devotes-450-billion-to-national-chip-strategy/. Да, пузырь в области квантового компьютинга только ещё надувается, ещё далеко до того момента, как он лопнет. А основные инвестиции в какую-то технологию ведь обычно делаются после того, как пузыри лопаются! Компьютеры -- это физические устройства, и понимание физики компьютинга приводит к изменению на самом нижнем уровне компьютерного стека, и дальше это изменение перетряхивает весь компьютерный стек до самого прикладного верха. Небольшие сдвижки в понимании информатики как физики могут приводить к существенным изменениям во всех информационных технологиях -- и в хардверной, и в сотфервной их частях, и речь тут идёт о триллионных и достаточно быстрых "межподотраслевых переливах капитала" (впрочем, понятие отрасли и даже подотрасли по отношению к IT тоже становится нерелевантным), мало никому не покажется. И это самый самый низ вычислительного стека!
2. Теории эмерджентности.
Теорий эмерджентности есть множество, но все они оказываются связанными с теориями информации: мы говорим о том, что невозможно описать свойство надсистемы, исходя только из свойств подсистемы -- обзор можно найти в работе "Emergence as the conversion of information: A unifying theory", https://arxiv.org/abs/2104.13368 (давал ссылку на неё в большом обзоре по эпистемологии 2021). В этой работе говорится (кроме обширного литературного обзора по теориям эмерджентности), что не только не хватает вычислительных мощностей для вычисления причинности в макроповедении по микроповедению, но и меняется тип информации -- и редукционизмом не удаётся решить проблему описания поведения на более высоком системном уровне из поведения на более низком уровне не только из-за сжатия, но и из-за потери смены типа информации при переходе с уровня на уровень (проблема causal emergence).
Тут самое интересное в том, что во всех этих теориях эмерджентности ни слова не говорится о собственно системном подходе в его нынешней не слишком формальной (по спектру формальности мышления) версии. Но выводы там делаются общие, применимые к каким угодно системам (включая разумные системы) -- бери, да используй. Физики -- они ведь вполне понимают, что "размер имеет значение".
Тут нужно особо отметить, что случай "я знаю, что ты знаешь, что я знаю, что ты знаешь" (неприменимость классического "физикализма" к социальным системам, состоящим из многих агентов и их окружения) тоже вполне разбирается сегодня физиками, см. хотя бы те же работы по construction theory, которые изучают физическое поведение репликаторов (то есть жизнь) и разбираются с системными уровнями. Так что все эти "ваша физика неприменима к экономике" относится к 20 веку, а в 21 веке нужно внимательно разбираться: какая именно физика, к какой именно экономике, на каком именно системном уровне идёт разговор.
3. Теории ресурсов
Я уже писал про необходимость экономического/ресурсного viewpoint в описании системы как по факту обязательного в https://ailev.livejournal.com/1565649.html, и потом писал про необходимость экономического рассмотрения в самом низу интеллект стека, где внимание сразу оценивается как потребляющее вычислительный ресурс и поэтому обсуждение сознания сразу нужно вести в праксиологических категориях, первый абзац в https://ailev.livejournal.com/1566927.html
Физики тоже перешли к ресурсным рассмотрениям, используя при этом самые разные "теории ресурсов".
Математическая теория ресурсов, https://arxiv.org/abs/1409.5531. Questions addressed by a theory of resources include: Which resources can be converted into which other ones? What is the rate at which arbitrarily many copies of one resource can be converted into arbitrarily many copies of another? Can a catalyst help in making an impossible transformation possible? How does one quantify the resource? Here, we propose a general mathematical definition of what constitutes a resource theory. We prove some general theorems about how resource theories can be constructed from theories of processes wherein there is a special class of processes that are implementable at no cost and which define the means by which the costly states and processes can be interconverted one to another. We outline how various existing resource theories fit into our framework. Похожесть говоримого в resource theories на говоримое в construction theory только кажущаяся: эти теории похожи друг на друга не больше, чем любые физические теории -- они говорят о процессах изменений в физическом мире, их возможности и невозможности. И вроде как ничто не запрещает использовать их вместе.
Но как же представления физиков об экономике и ресурсах отличаются от представлений самих экономистов! Понятно, что "ресурс" физики определяют в разы более формально и никакого отношения к экономическим/обмениваемым ресурсам эти ресурсы не имеют. Но когда физики пытаются обсуждать "ресурсы", то они обращаются к "экономическим метафорам".
"Basic economic principles dictate that objects acquire -- value when they cannot be easily obtained. From this perspective, value is a property that emerges relative to physical capabilities. A resource theory for a given scenario extends this principle by categorizing actions in terms of being either free or prohibited, and then analyzing what can be accomplished using the allowable operations. Certain objects cannot be generated in this
setting and they are considered to be a resource. For example, a camper is forced to consider what types of food can be prepared using a camping stove and nonperishable ingredients. The ability to bake and refrigerate is prohibited, and any ingredient requiring, say, a refrigerator is a resource for the camper. Это из обзора Quantum Resource Theories, https://arxiv.org/abs/1806.06107.
Весь обзор посвящён по факту квантовой информатике. In recent years, the resource theory perspective has flourished within the quantum information community. Instead of the resources being cooking ingredients for a camper or fuel for an automobile driver, the resources considered within quantum physics involve objects and phenomena at the atomic and sub-atomic levels. Resource theories of this sort are called quantum resource theories. It is quite natural to apply a resource-theoretic outlook to the study of quantum systems since processes like decoherence rapidly eliminate most quantum behavior of a system. Like an oil digger, one must exert considerable experimental effort to witness and control the subtle effects of quantum mechanics. И картинка в этом 62-страничном обзоре прямо про этот oil digger как "добытчик ресурса":
В принципе, в computer science два основных направления:
-- theory A, по факту это логика как наука о доказательствах, о выводе/inference и его надёжности, "теоретической вычислимости".
-- theory B, речь идёт о практической вычислимости, количестве алгоритмических шагов для вычисления на компьютере какой-то физической архитектуры.
Вот все эти "ресурсные теории", работы по operations research, работы по free energy (как альтернативные работам по reinforcement learning), работы по праксеологии и теории сознания (ибо все эти вычисления интересны не сами по себе, а только пока они ведут к достижению каких-то целей -- а если не ведут, то их можно было бы не делать, это иной способ сказать lean computing с waste computations) -- это теория B, это тоже должна быть часть информатики, и физики тут вполне могут помочь.
UPDATE: обсуждение в фейсбук -- https://www.facebook.com/ailevenchuk/posts/10221055651715014
Источник: https://www.facebook.com/ailevenchuk/posts/10221055651715014