Бесконечное развитие требует интеллекта

Интеллект тем самым нам нужен для бесконечного развития. Проекты, где требовались наборы наших старых навыков и умений, наше старое мастерство, вдруг теряют актуальность — к ним прилетают сбоку подрывные технологии, и проекты заканчиваются. Телеграф вдруг исчезает, и людям с мастерством телеграфиста нужно вписываться в новые проекты, отращивать себе новое современное мастерство — самое разное, часто никак с телеграфом не связанное. В этот момент никакой интеллект им не будет лишним, ибо сила интеллекта определяет скорость обучения новому мастерству. Если интеллект низкий, то к моменту достижения нужного уровня мастерства нужда в этом виде деятельности может отпасть. Если интеллект у человека высокий, то обучение новой деятельности пройдёт быстро, и будет время это мастерство использовать.

Интеллект тем самым проявляется на задачах, которые не встречались в момент его создания — не известны ни самому интеллекту, и неизвестны создателю этого интеллекта (если речь идёт об аппаратуре — мозге или программно-аппаратном комплексе AI) или учителю (речь идёт о предобучении аппаратуры — и людей, и AI). Родитель не знает, с какими проблемами в ходе бесконечного развития столкнётся их ребёнок, учитель не знает, с какими проблемами столкнётся их ученик, разработчик робота не знает, с какими проблемами столкнётся их робот.

Замерять решение человеком задач какого-то одного узкого класса, чтобы определить его интеллект — неправильно. Нужно замерять способности (broad abilities) к освоению новых предметных областей (скорость получения набора умений в решении проблем в этих предметных областях, skills).

Беря за основу вот эту диаграмму, François Chollet предлагает определять следующие уровни интеллекта по линии универсальности проблем/задач, которые он может научиться решать:

  • полное отсутствие интеллекта: точно заданные образцы задачи. Заполнение точно известной компьютерной формы значениями цифрами из точно известных мест определённого отчёта. Переноска заготовок от одного определённого станка к другому определённому станку.
  • локальная генерализация aka robustness: обработка точки в более-менее плотно заданном вероятностном распределении задач — adaptation to known unknowns within a single task or well-defined set of tasks. Заполнение анкет разной формы (все возможные формы анкет известны заранее). Переноска заготовок между разными станками (между какими — известно заранее).
  • широкая генерализация aka flexibility: разработчик/учитель этого не предвидел, решение широкого класса задач — adaptation to unknown unknowns across a broad category of related tasks. Заполнение анкет как таковое, самых разных форм и содержания. Переноска заготовок между всевозможными станками, и не только станками, по потребности.
  • экстремальная генералиация aka generality: как у человека — adaptation to unknown unknowns across an unknown range of tasks and domains. Умею заполнять анкеты, переносить заготовки. Вдруг потребовалось управлять синхрофазотроном — попотел, но смог научиться.
  • универсальность: генерализация на уровне большем, чем человек — any task that could be practically tackled within our universe. Во вселенной есть много задач, которые человеку и в голову не придут. Но интеллект уровня выше человеческого сможет научиться решать и эти задачи, сможет приобрести нужные для этого знания, умения, навыки, нужные скиллы.

Искусственный интеллект сегодня в целом решает задачи локальной генерализации/robustness, то есть разбирается в узких предметных областях. Это огромный прорыв по сравнению с тупым роботом, выполняющим заданные операции в заданной последовательности только с определёнными предметами, и даже не классами этих предметов.

Chollet (и ещё множество лидеров AI) призывает решать задачи широкой генерализации/flexibility. Примерно это же имеют ввиду люди, когда говорят о каком-то классе человеческого интеллекта: эмоциональный интеллект (интеллект, разбирающийся с самыми разными задачами, связанными с эмоциями), коммуникационный интеллект (интеллект, который может справиться с огромным разнообразием задач, встречающихся в коммуникации — будь то в переговорах трёх конфликтующих групп, или даже в разговоре с самим собой), математический интеллект (интеллект, который способен справиться со всевозможными математическими задачами), и так далее.

Цель AGI (artificial general intelligence, искусственный универсальный интеллект) сейчас — создать интеллект широкой генерализации/flexibility, в котором он потенциально может научиться решать те же задачи, которые мог бы научиться решать человек. Обратите внимание на формулировку, включающую в себя возможность относительно бесконечного развития: речь идёт не об умении специализированного интеллекта решать задачи так же, как человек. Эта формулировка про решение задач не включает в себя развития. Формулировка про «мог бы научиться решать человек» включает в себя бесконечное развитие.

Насколько это развитие бесконечно? Понятно, что человек сам по себе может научиться решать только конечное число классов задач. Но вместе с AI он может изменить и свою природу, и природу AI. Плюс учиться решать задачи может человек не только в одиночку, но и целой группой, а хоть и целым человечеством — наука и производство сегодня глобальны, в них участвуют люди по всей планете. Статья о бозоне Хиггса вышла с 5154 авторов, столько людей приняло участие в решении этой задачи. Статьи, в которых расшифровывается геном каких-то организмов у биологов тоже выходят с числом авторов больше тысячи. Интеллект как свойство научиться что-то делать новое существует не только у отдельных людей, но и каких-то коллективов, в том числе включающих в себя людей и компьютеры, в том числе и у всей цивилизации в целом вместе со всем возможным оборудованием.

Цель всей деятельности по усилению интеллекта как людей, так и машин — создать интеллект экстремальной универсальности/генерализации/generality. Такой интеллект сможет решить те классы задач, которые человечество пока не научилось решать. Такой интеллект сможет только помочь людям стать биологически бессмертными, наладить межпланетные и межзвёздные путешествия (это задачи, которые нам могут прийти в голову прямо сейчас), но и в рамках бесконечного развития сможет поставить интересные задачи, чтобы их решать и тем самым продолжить эволюцию за пределы чисто человеческой мечты. Особо обратим тут внимание, что искусственный интеллект тут не представляется антропоморфным, или не предполагается «видовое противостояние» между видом человека и видом AI. Нет, мы считаем, что люди друг с другом, а теперь и с компьютерами живут в симбиозе. Но оставим эти рассуждения философам.

Новости по поводу книги/текста появляются в блоге автора, https://t.me/ailev_blog, предложения и замечания присылать автору по адресу ailev@asmp.msk.su

Источник: книга А.Левенчука «Образование для образованных 2020». 

Не знал, что существует такое понятие как AGI. Почитал про него, интересно, спасибо!