Измеримость результатов как водораздел между (негодной) эзотерикой и качественным ОБУЧЕНИем

Исследования и практики, касающиеся познания, сознания и восприятия, неизменно вызывают ассоциации с т.н. "духовными традициями", "эзотерическими учениями" и "авторитарными сектами". [Тут может быть набор ссылок на публикации, иллюстрирующие этот тезис]

Эти ассоциации, на мой вкус, могут служить важной цели - минимизации рисков для обучающихся и интересующихся. Самые очевидные риски обозначены в тексте выпускника физматшколы 239 Б. Гребенщикова:

Один Чжу учился ловить драконов
Выбросил силы и деньги на ветер
Жаль, что за всю свою жизнь
Он так ни одного и не встретил

Требование измеримости результатов прочно встроено в инженерные и исследовательские практики, оценка результатов обучения также не является чем-то новым. Наоборот, новацией - не обязательно полезной - является отсутствие оценок при обучении в младших классах вальдорфских школ.

Глава 3 курса #сиОдО также однозначно постулирует:

Так что мы не просто можем, а чтобы оставаться современными должны использовать одни и те же принципы обучения, одни и те же принципы измерения результатов обучения, одну и ту же терминологию для искусственного/машинного и естественного/человеческого интеллекта…

При этом в "эзотерических учениях" измерение результатов обычно отсутствует, дипломы и сертификаты выдаются за участие или по решению (более или менее харизматичного) лидера.

Вопрос о измерении результатов обучения в ШСМ

К разделу “Почему не работают трёхдневные курсы" мной были сформулированы следующие вопросы преподавателю:

  • Как измерить "достаточное для быстрой прикладной учёбы мыслительное мастерство"?
  • Как измерять прогресс в результате обучения трансдисдисциплинам?
  • В университете есть экзамены после каждого семестра, причём не “сдал/не сдал” а с оценками. Как с этим в ШСМ?

Бэкграунд вопроса: в 2011 году я год занимался по программе уважаемого мной Олега Бахтиярова и получил об этом диплом. Весь этот год я постоянно спрашивал, как инструктора узнают, что они сами и обучающиеся чему-то научились. В ответ - невнятица про состояния и ощущения. В итоге дипломы раздали всем прослушавшим. Это разительно отличается от университета.

Понятно, что разработка процесса верификации/проверки - затратна, но стоит ли отказываться от верификации?

Ответ Анатолия Левенчука доступен в формате видео https://www.youtube.com/watch?v=ANnRURjjBtE&t=4280s

Иллюстрация методик Олега Бахтиярова

Для понимания моего вопроса важна следующая фактическая информация: за полный год обучения деконцентрации в структуре Олега Бахтиярова в 2011 году я множество раз просил продемонстрировать, как инструктор просчитывает двухцветную таблицу Шульте. Ни один инструктор этого не сделал. Сам Олег также отказалася продемонстрировать этот навык. Обоснование было: "У нас тут не цирк".

При этом я снова и снова слышал рекомендацию "тренируйтесь, замеряйте свои результаты, и заметите прогресс". Я тренировался, но прогресс был сравним с обычной тренировкой навыка, без всякой деконцентрации. Следующая ценная идея - "Приезжайте в наш выездной лагерь летом, после этого точно будет скачок". Я сделал и это - лето, свежий воздух, смешанная компания - почему нет? Но таблицы так и не хотели просчитываться качественно быстрее.

В итоге я пришёл на второй год обучения, получил диплом за первый, и узнал, что наш инструктор бросил преподавание и занялся йогой. Я тоже бросил ИАС. Олег продолжает этот проект до сих пор. Я недавно спрашивал нынешних инструкторов - до сих пор никто не демонстрирует навыка просчитывания таблиц. Так что уже эти таблицы - это скорее байки, а не верификация.

Зато пафоса о том, что "после нашего обучения вы чему угодно быстрее научитесь" - да, этого в Институте Активного Сознания Бахтиярова предостаточно.

Моё представление о инженерном подходе к верификации/проверке

Современные практики QA в обязательном порядке включают в себя множественные проверки корректности работы каждого модуля. Если разработчик ПО попытается сдать модуль без тестов с обоснованием "мне не важна верификация, я забочусь о валидации" - его сначала просто не поймут, а потом ... ну, опять не поймут. Мне, честно говоря, даже неловко аргументировать необходимость верификации, обязательно включающей в себя вариант "модуль не прошёл проверку, необходима доработка". Быстрое гугление по фразе "стоимость выявления ошибок" даёт массу картинок типа:

Источник: как раннее тестирование влияет на стоимость продукта
Дальнейшее обсуждение

Прошло в Телеграмме, набором ссылок для разбора и разгдядывания

https://t.me/c/1354064016/436 «Упрёков не принимаю. Остаюсь при своём»

https://t.me/c/1354064016/439

https://t.me/c/1354064016/445 "Про верификации, как я её пониманию - см задачи и упражнения курса"

Промежуточный вывод

На настоящий момент курс ОдО не включает средств измерения результатов обучения, доступных студенту.

Идея, высказанная одним из участников: "Задачи и упражнения и есть верификация". На мой взгляд, упражнения это скорее работы по формированию навыка/настройке интеллекта обучающегося. То есть - тренировки.

Эталон для сравнения - курс (высшей) математики

На мой вкус, любой курс по развитию интеллекта/внимания/сознания/восприятия имеет смысл сравнивать по измеримости результатов с качественным курсом алгебры, топологии или чего-то подобного на выбор сравнивающего. Минимальные архитектурные требования:

  • модульная структура курса
  • каждый модуль включает тесты, успешное прохождение которых подтверждает прогресс в освоении всего курса
  • финальный тест даёт выход на практически значимые применения полученных навыков
  • инструктор способен продемонстрировать прохождение финального теста
  • в идеале - обучаемый может сравнить свои результаты в прохождении финального теста/решении практически значимых задач ДО и ПОСЛЕ обучения.

Никто, разумеется, не спорит с тем, что окончательной задачей является изменение мира и признание со стороны людей.

Цитируя по памяти Дэвида Дойча: "Научный подход отличается тем, что он включает систематические усилия по проверке, что мы не обманываем сами себя".

Пока что в курсе ОдО мне слишком просто обмануть себя. И этим этот курс, включающий множество интереснейших иллюстраций и несомненно ценных идей, увы, отчасти походит на те самые "духовные учения", в которых можно выкинуть на ветер ценные ресурсы.

Спасибо за развёрнутый пост. Он валиден.

Если я правильно понисаю, то высшую математику (как точную науку) брать как эталон сложно. Там в учебных задачах достаточно поменять значения в формулах и уже - можно использовать как тестовые задачи.

С интелект-стеком сложнее: тестовая задача должна представлять из себя новую проблему, с даже типом которой тестируемый ещё не сталкивался. Что в массе затратно. Плюс в частном случае результаты наверно сильно подвержены волатильности от удачи и совпадения.

Нужен какой-то другой эталон, из неточных наук.

1 лайк

ИМХО автор поста пытается измерить неизмеримые понятия.
Невозможно тестировать знание философии тестами, для сдачи которых достаточно обладать навыками диктофона.
Или как вариант просить испытуемых достичь целей для достижения которых требуется 1/3/5 лет жизни.
Это как ответить на вопрос кто успешен:

  • у меня в кармане 100$, я успешен?
  • у меня в банке 10^6$, я успешен?
  • я работаю на себя когда и как хочу, я успешен?
    Ответы у каждого свои, и тут ИМХО уместнее спрашивать соответствуют ли полученные знания Вашему мировоззрению, применяете ли вы их на практике для достижения результата и помогают ли они вам.
    В конце концов если я научился ловить драконов, и применяя эти навыки заполучил отличную семью, работу, познал себя и стал успешным человеком (но не поймал за всю жизнь ни одного дракона) можно считать навык бесполезным?

Иван, спасибо за Ваш комментарий!

Скажите пожалуйста, какую связь Вы видите между следующими двумя цитатами:

Так что мы не просто можем, а чтобы оставаться современными должны использовать одни и те же принципы обучения, одни и те же принципы измерения результатов обучения, одну и ту же терминологию для искусственного/машинного и естественного/человеческого интеллекта…
и
 автор поста пытается измерить неизмеримые понятия.
По моему скромному мнению, отсутствие измерения результатов обучения в нынешнем курсе ОдО означает, согласно первой цитате, как минимум несовременность курса ОдО.

Тот факт, что измерять результаты трудно - не означает, что делать это невозможно.

Что касается следующего Вашего утверждения:

В конце концов если я научился ловить драконов, и применяя эти навыки заполучил отличную семью, работу, познал себя и стал успешным человеком (но не поймал за всю жизнь ни одного дракона) можно считать навык бесполезным?
Отсутствие верификации не обязательно означает отсутствие обучения, верно. И здорово, если Вы извлекаете из этого обучения пользу. Хотя обширные исследования результатов прохождения всевозможных "курсов личностного роста" показывают, что готовность пойти на следующий тренинг часто оказывается единственным заметно улучшившимся параметром.

И да, многие находят себе пару именно на тренингах личностного роста, во всевозможных “эзотерических” тусовках итд. Так что - время не потеряно зря. Но я имел в виду в первую очередь верификацию успешности обучения. А она без измерения - не бывает.

С искренним уважением,

Петр

Фёдор, спасибо за комментарий!

Я бы хотел понять, как Ваша мысль сочетается с приведённой мной цитатой из ОдО, третья глава:

Так что мы не просто можем, а чтобы оставаться современными должны использовать одни и те же принципы обучения, одни и те же принципы измерения результатов обучения, одну и ту же терминологию для искусственного/машинного и естественного/человеческого интеллекта…

Через Вашу главу “Эталон для сравнения — курс (высшей) математики”.