Этика и "трагедии общин"

"Система, не соответствующая этическим нормам в развитом обществе, не будет успешной, в том числе с экономической точки зрения, особенно в долгосроке" - хотелось бы порассуждать об этом.

На своих тренингах я часто провожу игру "Улов" - это штука достаточно известная, но лишний раз проговорить правила не повредит.

Участники игры объединяются в команды - "рыболовецкие компании" (удобнее всего, когда команд получается пять). Задача каждой компании - ловить рыбу. Рыба плавает в море. В начале игры точная популяция неизвестна, но там определенно не более 50 рыбин и не менее 25.

В начале каждого хода каждая компания планирует, сколько рыбы она хочет добыть. Желаемый улов пишется на листочке, листочек сворачивается и сдается мне. Я перемешиваю заявки и обрабатываю в случайном порядке. Если в море в данный момент есть столько рыбы, сколько "заказала" компания, она получает свой улов. Если уже нет - компания в этот ход не вылавливает ничего.

После обработки последней заявки начинается фаза обновления популяции рыбы в море. Правило простое: она увеличивается вдвое, но не может превышать 50. Было 20 - стало 40. Было 25 - стало 50. Было 30 - все равно стало 50.

Всего играем до 10 ходов, но обычно игра заканчивается раньше. Если на первый ход команды в основном заняты "прощупыванием" механик, то уже ко второму-третьему ходу (а самые смышленые - и на первом) они начинают договариваться между собой и достигают общего соглашения о том, что поначалу будут ловить по минимуму, чтобы популяция гарантированно полностью восстановилась. А затем каждая компания вылавливает, допустим, по 5 рыбин (как я и говорил, пять компаний - оптимум); тогда в конце каждого хода в море останется 25 рыбин, и к началу нового хода их снова будет 50.

После этого я спрашиваю, хотят ли участники играть дальше. Часто они отказываются, так как выигрышная стратегия найдена, и дальше никакого нового опыта уже не будет - только механическое повторение одних и тех же действий. Но самое интересное начинается, если они просят дать им поиграть еще. Это значит, кто-то решил схитрить.

Ход мыслей тут примерно такой: "Ближе к концу игры попробуем заказать гораздо больше рыбы - тогда мы выйдем на первое место по улову". При этом они понимают, что на последнем ходу такая мысль может прийти в голову и другим командам, а значит, нужно их опередить и провернуть все на ход, а то и на два-три хода раньше.

В итоге популяции рыбы наносится огромный ущерб (в особо "удачных" случаях она просто уничтожалась полностью), а взаимное доверие оказывается серьезно подорвано.

Удивительно, но на последующих обсуждениях команды даже не могут внятно объяснить, зачем они нарушили договоренности, навредив всем - и морю, и другим компаниям, и в конечном счете, самим себе.

- Зато мы выиграли.

- Но ведь это не было условием победы.

- Ну все равно: мы наловили больше остальных.

Эта этическая проблема называется "трагедией общин": когда безответственное отношение к ресурсам "общего пользования" - пастбищам, лесам или океанам - приводит к краткосрочной выгоде для одной фракции и серьезным проблемам для всех в долгосроке.

Хуже всего, что такое поведение вирально: видя неэтичные действия других, участники считают себя вправе также забыть об этике, объясняя это тем, что "те первые начали". Хотя и не всегда. Изредка команды интересуются, могут ли они ввести какие-то общественные санкции против нарушителей: порицание, бойкот или что-то подобное. И это вселяет некоторую надежду.

Константин, спасибо за отличный пост!
Действительно, бытовая этика пока еще сильно заточена под краткосрочный выигрыш (даже если этот краткосрочный выигрыш дальше обернется значительным ущербом для использующего такую стратегию поведения!).
Но в то же время, сейчас все больше и больше задумываются о долгосрочных последствиях действий. Причем, как иногда пишут в статьях, для поколения Z это чуть ли не тренд)
Будем надеяться, что этика как учет интересов других на всех уровнях внимания победит. Тогда и страшилки, связанные с развитием ИИ, исчезнут (сейчас уже признали, что главная угроза при развитии ИИ не машины, а отсутствие прокачанной этики у разработчиков и инвесторов в ИИ).