Новости октябрь

Выступил вчера на своём ломаном английском с кратким рассказом о курсах нашей Школы (на английском это EEM Institute, и там уже четыре курса выложено -- https://eem.institute/), при этом весь день верстал англоязычные слайды, вот они: https://disk.yandex.ru/i/QQJUDzvgbVWO9w. Вот один из слайдов -- про разделение труда в инженерном проекте в ходе system definition:

Я опубликовал эти слайды в LinkedIn (https://www.linkedin.com/posts/ailev_open-endedness-curriculum-at-eem-institute-ugcPost-6983570371283189760-NLap), который пытаюсь держать англоязычным. И сдублировал пост в systems thinkin network (https://www.linkedin.com/feed/update/urn:li:activity:6983582653388070912?utm_source=share&utm_medium=member_desktop), получив там практически нулевую реакцию. Иван Метёлкин подсказал, что это совсем не наши люди -- там "аналитики" и "учёные", а наши люди из инженерии. Я поглядел внимательно тамошние посты: да, они там десятки лет назад уверовавшие во что-то берталанфиевское и даже не второго поколения. "Системы сложны и они в окружении", и всё. Дальше бла-бла-бла про экологию. Рассуждения из 70х. До наших рассуждений там две ступеньки. На второй ступеньке (жизненный цикл и системы создания) нужно брать людей со вторым поколением системного подхода в голове, и оно из инженерии. И затем уже дотягивать до третьего поколения. Вот слайд про эти поколения:

Челленджи, марафоны и прочие study group по онлайн-курсам на танцевальном рынке (спорт, английский, диета -- всё то же самое):

https://vk.com/wall2070263_11833 — это "челлендж не сорваться с занятий"

https://www.irishpost.com/entertainment/what-is-the-jerusalema-challenge-how-did-the-challenge-start-and-how-can-i-take-part-203542 — это челлендж "повторить что-то трудное" (выучить танец и станцевать на публике, из той же серии, что "вылить ведро холодной воды себе на голову и пожертвовать деньги на благотворительность")

Нас таки интересуют challenges первой группы, они иногда называются "марафоны". Вот study group такого формата (заканчивается всегда "выучишь и выложишь результат"): https://vk.com/wall-102129787_1231

Вот пост участника 98 дня челленджа 100 days Challenge Salsa 2 — https://vk.com/wall17069766_7146

Вот пост по окончанию и диплом закончившему: https://vk.com/wall156746168_10362 и похожий https://vk.com/wall4218221_15472 и https://vk.com/wall3414338_6007

ещё там study group (кураторы, и там благодарности кураторам): https://vk.com/wall489041789_1960

Вот челлендж по бачате, год с начала первого потока: https://vk.com/wall14966_7171 (и там можно найти посты по хештегу. Впрочем, и в остальных постах тоже хештеги — это ж SMM).

Вот Fit&Dance challenge — старт второго потока https://vk.com/wall-140387284_3008 и старт первого потока чуть более подробно — https://vk.com/wall-140387284_2927

То есть это всё study group и онлайн-курсы, но с вылетом после неучастия и за относительно дешёвую (но не совсем-совсем дешёвую) денюшку, которая даёт даже не десятки, а сотни участников, если тема популярная и авторы вызывают доверие как преподы и массовики-затейники.

Название sprint и название Level (иногда level up) — всё то же самое: "ограниченные сроки, фиксированное число занятий с домашними заданиями, если вылетаешь, то вылетаешь, кураторы отвечают на вопросы, поддержка материалами курса, деньги не возвращаем, заниматься надо будет интенсивно — и в этом фишка, по выходу вот такой-то набор умений, результаты выложишь в сеть и похвастаешься, что преодолел".

Пересказ примеров и задач из учебников программирования на естественном языке вместо бесполезного cut/paste как пример "мышления письмом" (по посту Бобровского в его школе https://vk.com/wall-152484379_3540, подсказано Вячеславом Петуховым у меня в чате блога, с https://t.me/ailev_blog_discussion/17654): фишка не в том, что надо "переспать с текстом, чтобы мозг как-то поработал", а "добавляет несколько минут работы головой по пониманию по сравнению с копированием кода через cut/paste". А что важен следующий день, так это просто один день добавляется в кривые забывания. Речь же об учебных проектах, и важно не "решить задачу", а "чтобы работало потом, после обучения, и не забывалось". Этот "пересказ своими словами условия задачи" важен не столько для собственно решения задачи, сколько для освоение практики чужого программистского мышления: ты читаешь фрагмент кода и описываешь его на естественном языке (работа понимания, речь идёт о коротком фрагменте кода из книжки). А затем восстанавливаешь по памяти из описания, ориентируясь на понятое при описании чужое мышление в новой предметной области. То есть внутреннее мычание по поводу проблемы (если речь идёт о cut/paste кода) переводишь при пересказе на естественном языке в конкретные слова, и тратишь на это дополнительное время мышления. А потом другие работы с этим пониманием происходят в разы быстрее, ибо GPT-3 в мокрой нейронной сетке оказалась натренирована, словесные маркеры для выражения мыслей подобраны, внимание удерживается уже не мозгом, а текстом твоего же описания — и всё идёт быстрее. А потом есть ещё и надежда, что ты это повторишь, встретив в других задачах, а не примере из книжки по программированию — ибо в голове не конкретный кусок кода, не похожий на твой, а понимание после перевода кода в естественный язык. Вот ключевая фраза из текста Бобровского: "И хотя такой подход потребует несколько дополнительных минут усилий по сравнению с тупо механическим копированием кода со страницы или сайта, за эти несколько минут вам придётся "переизобрести" "логический синтаксис" вашего нового решения, сжав его в более лучшую форму. И это даст вам значительно больше знаний! Ваша нейросеть в мозгу постепенно обучится полезнейшему навыку подобной свёртки". Это ровно то, что говорит Ahrens и многочисленные исследователи бесполезности конспектирования через cut/paste и подчёркивания фрагментов текста в изучаемых книгах -- по сравнению с пересказом фрагментов своими словами. То есть работает и с кодом, и с просто текстами: пересказывать надо и код, и тексты. А на другой день (по Бобровскому) можно по этому пересказу заставить применить этот пересказанный фрагмент к какому-то своему проекту (решить задачу из жизни) — то есть вместо одного акта мышления учинить два разнесённых на день акта мышления, для надёжности запоминания.

В презентации я поминаю сингулярность как "AI будет изобретать более интеллектуальный AI, и через некоторое время изменения в мире будут настолько быстры, что мало кто будет понимать происходящее". И есть некоторые оценки, что "уже сингулярность". Из последних событий:
-- подход с игровыми алгоритмами AlphaX от DeepMind применили к игре нахождения шагов алгоритма по решению какой-то задачи. Взяли задачу нахождения алгоритма умножения матрицы, сделали агента AlphaTensor, который научился играть в умножение матрицы и изобрёл SoTA алгоритм (прежний рекорд держался полсотни лет) -- https://www.nature.com/articles/s41586-022-05172-4, более попсово в https://www.deepmind.com/blog/discovering-novel-algorithms-with-alphatensor. we adapted AlphaTensor to specifically find algorithms that are fast on a given hardware, such as Nvidia V100 GPU, and Google TPU v2. These algorithms multiply large matrices 10-20% faster than the commonly used algorithms on the same hardware, which showcases AlphaTensor’s flexibility in optimising arbitrary objectives. То есть сели, подумали, и то же железо стало на 10-20% быстрее. Но главное тут -- метод приложим к нахождению и других алгоритмов. Это даже не Software 3.0 (prompt programming), это тупо переложение усилий по нахождению новых алгоритмов с людей на машины.
-- Samsung объявил про mass production of 2nm process technology by 2025 and 1.4nm by 2027, https://news.samsung.com/global/samsung-electronics-unveils-plans-for-1-4nm-process-technology-and-investment-for-production-capacity-at-samsung-foundry-forum-2022. Но это, конечно, свет уходящих звёзд. Более интересны новости нанофотоники: https://scitechdaily.com/caltechs-breakthrough-new-nanophotonic-chip-squeezes-more-out-of-light/, это эволюционный скачок, ибо по скорости ожидается x1000 и примерно за тот же срок, что выход 1.4nm в массовое производство: "Our work marks an important step in generating and measuring quantum states of light in an integrated photonic circuit. It is possible that this technology could find practical uses in communications, sensing, and quantum computing in the next five years".
-- задачи распознавания видео и аудио без промежуточного восстановления текста, ускорение x28: https://arxiv.org/abs/2209.14156. Генерация речи по тексту, ускорение x240: https://arxiv.org/abs/2210.01029. Ускорения от аппаратуры из предыдущих пунктов, а также ускорения от перехода на другие алгоритмы перемножения матриц сюда только добавляют. Говорящим смартфоном уже никого не удивишь, через десяток лет будут обыденностью говорящие утюги, подхакивающие ленты новостей под ваши мемокомплесы, "чтобы уж наверняка" -- и это будет не дорого, рекомендательные системы с рекомендациями в ваших интересах и рекомендациями в чьих-то других интересах.
-- всё это выходит в робототехнику: при смене твёрдого пола на щебёнку робот раньше мог промахнуться с предсказанием того, врежется он в дерево, или не врежется. Теперь он научается бегать по разным покрытиям и не натыкаться на предметы, если тип покрытия вдруг изменился и характеристики скольжения стали другими, https://techxplore.com/news/2022-10-algorithms-four-legged-robots-wild.html. А для ресторанов fast food начали продавать кухонный робот Flippy 2, https://misorobotics.com/flippy-2/, его уже используют в ресторанных сетях Jack in the Box in San Diego, White Castle in the Midwest and CaliBurger on the West Coast, https://www.reuters.com/technology/want-fries-with-that-robot-makes-french-fries-faster-better-than-humans-do-2022-10-04/. А дальше, как всегда, меметика: three other big U.S. fast-food chains have put Flippy 2 to work, but says they're hesitant to advertise because of sensitivities about perceptions that robots are taking jobs away from humans. Киборги всё заполонили, забирают "наши" (кто эти "мы"?) работы, хотя и делают дешевле "нашу" (кто эти "мы"?) еду! Про робота Tesla даже говорить не будем, "идёт бычок, шатается, вздыхает на ходу, вот-вот доска кончается, сейчас я упаду" (хотя сильная сторона там -- за $20000 человекоподобного робота будут покупать даже шатающегося). Но вот ещё один претендент на то, чтобы ходить-не-падать, робот от Nadia -- https://www.youtube.com/watch?v=_mQJw8VhZ7w. Это Флорида, https://boardwalkrobotics.com/.

Докликался: протёр за 7 лет пальцем бок мышки, там образовалась дыра. Мышь у меня с инерционным колёсиком М705, купил в 2015 году, модель 2009 года (https://ailev.livejournal.com/1238547.html). За рабочим местом надо следить, но ходить что по савёловским рынкам, что по интернет-магазинам крайне лень. Мопед мой, дырка в боку на рабочей мыши выглядит как-то непрофессионально. Но насколько могуча фирма Logitech, если её изделие до момента протирания (она продолжает работать, хотя и с дыркой в боку) прослужило 7 лет разве что не круглосуточной работы! Анекдоты про российские манипуляторы типа крыс, ибо манипуляторы типа мышь слишком мелкие для импортзамещения, чтобы их можно было быстро сделать, не предлагать. Интересно, продают ли сейчас такие мыши в Москве.

Для доступа к телу студентов в МФТИ нужно пройти медобследование (это ж пища для ума! Могу заразить!) и получить справку о несудимости. Первое -- это выйти из дома и потратить пару часов на очередь и беготню по кабинетам с раздеванием-одеванием. Второе -- это некоторое время возиться с вспоминанием паролей и копанием в меню сайта госуслуг. Лень, отчаянно лень, я ведь не считаю это важным и нужным. Жизнь не должна быть так устроена. Это всё аутоимунные заболевания уровня общества: в попытке защитить от чужих притесняют своих. И ещё и путают свой-чужой, это тоже к иммунной системе вопросы.

Как интересно: классическое "у нас доблестные разведчики, у них жалкие шпионы" неожиданно массово воспроизвелось в прессе как "у нас раздались громкие хлопки, у них прогремели мощные взрывы". Язык начинает различать объекты не только по полу ("-- ай, электричка ушёл! -- нет, электричка ушла! -- слушай, я ей под колёса не заглядывал, электричка ушёл!"), но и по "свой-чужой" уровня страны. Для меня "свой-чужой" определяется как "на цивилизационном фронтире -- недавно вышел из леса". Поглядите на новости с фронтира в этом моём посте и скажите, насколько давно вышли из леса люди вокруг вас по сравнению с людьми, которые разрабатывают помянутые в посте фронтирные проекты. А ведь ваш уровень развития определяется вашим окружением, среди не шибко продвинутых вы и сами недалеко продвинетесь, из импортзамещающих деталей лучших в мире экспортных решений не сделаете. Так что я, пожалуй, буду потихоньку наращивать количество своих англоязычных постов в запрещённой вокруг меня среде профессионального общения LinkedIn. Дальше у меня неразборчивое бормотание, проклятья и прочее (я тут заметил закономерность: вдруг начали говорить "вторжения не будет" на ровном месте -- и на тебе, затем "мобилизации не будет" -- и на тебе, сейчас говорят "атомные бомбы кидать -- доктрина не позволяет", -- и я понимаю уже, чем дело может закончиться), но надо работать, поэтому займусь-ка я делом.

UPDATE: дискуссия в фейсбуке -- https://www.facebook.com/ailevenchuk/posts/pfbid0ihGRySmYx7Dim7Xy93TbAQehdzvSUpAR27wHpVX2dg517w1cuitQ5zwo8smnhRPhl