AGI.place - Сообщения участника

Gray Tag:
Сообщество Разума

Резюмирую. Хорошая книжка, рекомендую к прочтению. А теперь, детальнее. Плюсы У автора исключительно правильная методология работы. Он медленно, неспеша, копаясь в деталях, пытается изучить и понять работу предмета своего исследования - человеческого разума. Книжка написана автором в 59 лет, очевидно, как итог своих длительных наблюдений за работой своего интеллекта и своих детей. Поэтому неудивительно, что он приходит во многом к тем же выводам, что и другие исследователи натурального интеллекта. И хоть у него не получилось синтезировать целостную рабочую теорию, многие отдельные идеи заслуживают внимания. Минский формулирует интересные постановки вопросов, ответить на которые полезно любому теоретику, тем самым проверяя себя и подсказывая перспективные направления размышлений. Книга имеет специфический формат - на каждую главу отводится не более 1 страницы текста. Понятно, что это ограничение искусственное и содержание следующих глав зависит от предыдущих, но с таким упрощённым и структурированным материалом легче работать. Приведу особо понравившиеся цитаты с указанием номеров соответствующих глав:

Марвин Минский:
"Чтобы понять, как что-то работает, нужно знать назначение этого" 4.4 "Наши агенты выдвигают мини-гипотезы о происходящем в мире, а затем заставляют нас ставить небольшие эксперименты, чтобы подтвердить или подправить эти гипотезы" 6.3 "каждый разум порождает собственную внутреннюю вселенную" 6.10 "ощущение является сложной иллюзией. Мы не имеем прямого контакта с внешним миром. Вместо того мы работаем с моделями мира, которые строим в разуме" 11.2 "Причины действительно изобретаются разумом, а действуют они в определенных частях определенных миров" 12.11 "Зачем уделять такое внимание идее контейнера? Дело в том, что без понимания этой идеи мы вряд ли сможем постичь структуру пространственного мира" 14.7 "Обычно мы не осознаем всего этого и не употребляем слов «память» или «запоминание», когда процессы протекают быстро и тихо; вместо того мы говорим о "видении", «распознавании»" 15.4 "Воспоминания суть процессы, которые заставляют некоторых наших агентов действовать так, как они действовали когда-то в прошлом" 15.4 "нам нужен процесс, который работает хотя бы иногда, прежде чем мы примемся его улучшать" 16.7 "Многим не нравится признавать, что ими управляет изнутри некий родительский образ. Но взамен это «рабство» делает нас относительно свободными" 17.8 "Логика объясняет мышление не больше, чем грамматика объясняет язык" 18.1 "«Логика» – лишь слово, которым мы обозначаем конкретные способы объединять идеи" 18.4 "мы часто думаем о причинах, сходствах и зависимостях. Что общего у этих форм мышления? Все они используют разные способы создания цепочек" 18.2 "Цепочки, кажется, присутствуют не только в наших рассуждениях, но и в наших представлениях о структурах пространства и времени. Мы используем цепочки всякий раз, когда что-то представляем или объясняем" 18.3 "Когда обычный довод кажется слабым, можно подкрепить его большим количеством доказательств" 18.4 "нам часто приходится отказываться от полной уверенности ради шанса ошибиться. Наши системы памяти надежны именно потому, что они не ограничены требованием совершенства" 19.10 "репрезентация пространства и времени аналогичным образом позволяет нам применять одинаковые навыки рассуждений для анализа обоих" 21.2 "Никакие мощные навыки не возникли бы без более или менее единообразных схем представления знаний" 21.6 "для фактического выполнения замысла требуется какой-то управляющий процесс, который активирует нужных агентов в правильной последовательности!" 21.7 "Увязывание мысленных структур в цепочки – одна из полезнейших разновидностей рассуждений" 22.5 "Мы рассуждаем так, будто идеи схожи с детскими кубиками, которые можно взять и использовать!" 22.6 "я подозреваю, что различие между физическими объектами и идеями в самом деле невелико" 22.6 "Никакая концепция или идея не способна приносить пользу, если она подвержена изменениям и не остается в каком-то ментальном «месте» достаточно долго для того, чтобы мы могли отыскать ее при необходимости. Также мы не сможем достичь цели, если эта цель не будет сохраняться достаточно долго. Если коротко, ни один ум не способен функционировать без каких-либо стабильных состояний или воспоминаний. Может показаться, что я выражаюсь фигурально, поскольку ментальное «место» несколько отличается от физического местоположения. Но если мы думаем о каком-то месте, которое нам известно, эта мысль сама по себе не является физическим местоположением; перед нами комбинация воспоминаний и иных умственных процессов. Замечательная способность думать так, будто мысли вещественны, вдобавок позволяет нам созерцать продукты нашей мыследеятельности. Без этой способности к рефлексии у нас не было бы общего интеллекта — как бы ни рос наш репертуар узкоспециализированных навыков." 22.6 "Никакое словесное описание ментального состояния никогда не будет полным: отдельные нюансы всегда выпадают" 22.11 "мы можем передавать от ума к уму эти цепочки, плод деятельности нашей «грамматической тактики», и любой человек способен получить доступ к наиболее успешным формулировкам, созданным другими людьми. Вот то, что мы называем культурой, – концептуальные сокровища, накопленные людьми на протяжении истории человеческого рода" 22.11 "всякий раз, рассуждая о «причинах и следствиях», мы подразумеваем воображаемые отношения, которые связывают воедино различия, ощущаемые нами" 23.1 "слова — лишь катализаторы для запуска ментальных процессов, то же самое верно и для реальных вещей: мы не можем ощутить то, чем они являются на самом деле, а только то, о чём они нам напоминают" 24.4 "Чтобы мы могли рассуждать хорошо и правильно, наши агенты управления памятью должны научиться «перемещать» воспоминания, как если бы те были детскими кубиками" 24.5 "Наше ощущение постоянного контакта с миром не является уникальным опытом; это, если угодно, форма имманентной иллюзии" 25.4 "наследуя эти идеи благодаря культуре, каждый из нас должен изобретать их заново для себя. Мы не можем познать значения слов лишь посредством зазубривания определений: нужно еще «постигнуть» эти значения" 26.10 "Полное, идеальное знание кажется недосягаемым. Это означает, что мы должны идти на некоторый риск, дабы нас не парализовала трусость" 27.4 "Какие-то агенты сравнивают варианты, и порой случается так, что единственный способ действий состоит в использовании «валюты»" 28.3 "Нам часто доводится рассуждать в пространственных терминах о времени, мы мыслим будущее «впереди» нас, а прошлое «позади»" 29.4 "разум как таковой может научиться использовать фреймы, сложившиеся в пространственной сфере, для репрезентации как событий во времени, так и для социальных отношений. Возможно, наши умения выстраивать цепочки являются лучшим тому примером; не важно, откуда, из какой сферы или сфер они берутся, зато мы в конце концов учимся применять их к любому набору сущностей, событий или идей (в любой сфере), который удается упорядочить в последовательность. Далее цепочки обретают многообразие формы, будь то пространственный порядок, психологическая причинность или социальное доминирование" 29.4

Есть ли у автора представление о норме? Многие места текста указывают на то, что есть (как минимум, бессознательно), например:

Марвин Минский:
"у него нет никакого набора действий на случай возникновения нештатных ситуаций" 3.3 "впредь будем воспринимать «я» не как некую центральную, всемогущую сущность, а как сообщество идей, которые включают в себя наши представления о разуме и наши идеалы разумности, к которым следует стремиться" 4.2 "Это системы, непосредственно связанные не только с нашими желаниями, но и с нашими устремлениями применительно к самим себе; это идеалы, на которые мы ориентируемся" 4.7 "Обычно слово «идеал» употребляют для обозначения того, как в нашем представлении должны реализовываться этические принципы. Но я употребляю это слово в более широком смысле, присоединяя к его значению те мерки, которых мы придерживаемся, осознанно или нет, относительно того, как следует воспринимать обычные дела" 4.8 "Без непреходящих идеалов наша жизнь лишилась бы цельности" 4.8 "Тогда, если что-то пойдет не так, мы попросту застрянем" 6.9 "когда меняются идеалы, возвращаться становится некуда" 6.13 "Когда любое нарушение процесса или какое-то препятствие отвлекает такую систему от намеченного курса, она, судя по всему, пытается устранить помеху" 7.8 "существует множество физиологических механизмов, назначение которые состоит только в том, чтобы извещать нас о каких-либо проблемах" 9.1 "наши агенты возвращаются к некоей высокоуровневой причине недовольства" 9.4 "самый легкий способ состоит в том, чтобы продолжать применять прежние методики, пытаясь исправить каждый замеченный изъян" 14.6 "каждый человек должен учиться новым целям на основе того, что принято называть традициями" 16.2 "Каким образом наша этика и наши идеалы проникают в умы наших детей?" 17.8 "если ничто не кажется неправильным" 19.10 "Когда складывается впечатление, что работа выполняется правильно" 20.6 "Меня воспитывали в культуре, в которой приглашение на праздник подразумевает обязанность одеться нарядно и принести подарок" 26.1 "Мы принимаем наши социальные обычаи как должное, как если бы они были природными явлениями. Мало кто из гостей или хозяев задается вопросом, почему дни рождения принято праздновать именно так и откуда взялись эти формы празднования. С точки зрения ребенка, все праздники должны быть вот такими, так было и так будет всегда. Аналогичная картина наблюдается почти во всем, что мы делаем" 26.4 "если нет причин думать иначе, мы допускаем, что все упоминаемые в разговоре предметы и явления «типичны»" 30.1 "схемы ценностей, лежащие в основе наших личностей" 30.7 "Всякий раз, когда что-то идет не так, к нашим услугам прочие сферы мышления" 30.8

Есть у него представление и о детекторе противоречий:

Марвин Минский:
"Разностная машина должна обладать описанием «желаемой» ситуации. Она должна иметь субагентов, которые активируются различиями между желаемой и фактической ситуациями" 7.8 "Здравый смысл спрашивает на каждом шагу, соответствует ли то, что мы выяснили, повседневному опыту" 18.4

Но, к сожалению, автор не уделил этим ключевым аспектам работы ума должного внимания и не положил их в основу своих построений. Вместо этого он попытался построить ~~Вавилонскую башню из детских кубиков~~ непротиворечивую иерархическую (фрактальную) систему разума из простейших элементов (агентств). Сначала заявив, что единственным способом взаимодействия агентств будет активация одного агентства другим (ввиду того, что языки у них очень разные и общаться они не могут), а потом всё же попытался описать сложное общение между ними, при этом всё слишком усложнив. Как, впрочем, допустил и другие промахи, к рассмотрению которых мы переходим. Минусы 1. У автора ярко выраженный ЭГМ (эволюционизм головного мозга). Что самым скверным образом отражается на качестве материала. В наиболее трудных местах включается универсальная затычка - "миллионы лет случайной эволюции", не проясняющая ничего и подвешивающая ключевой вопрос в воздухе, и вопрос этот: как, собственно, синтезируются механизмы разума? Из-за этого в изложении автора присутствует изрядная косность. Его механизмы разума как бы высечены в камне, в то время как на примерах живых разумов мы видим их исключительную гибкость, при которой новые механизмы (агенты, агентства) синтезируются на лету (как бы рисуются пальцем на песке) и не требуют никаких миллионов лет эволюций. 2. У автора ярко выраженный МГМ (материализм головного мозга). Второй типичный bias многих исследователей интеллекта. Они никак не могут абстрагироваться от навязчивой иллюзии объективности своих субъективных построений (или, как говорит сам автор: "настойчивость реальности" 24.4). И хотя у автора есть проблески правильного взгляда на вещи (это видно из цитат выше), в целом он остаётся приверженцем "существования объективных предметов во внешнем мире". Это огромный минус. 3. Несмотря на довольно внушительный объём текста автор вообще не уделил внимания ключевому вопросу работы сознания, а именно - создание и администрирование времени. Без времени нет последовательностей. А без последовательностей нет ничего. 4. Автор смешивает интеллектуальную сферу с эмоциональной ("я намерен показать, что эмоции следует рассматривать не как противоположность мыслей, а как разновидности последних" 16.1). С моей точки зрения это серьёзная ошибка, т.к. это две различные системы построения поведения, ортогонально противостоящие друг другу и смешивать их не только бесполезно, но и вредно. 5. Эпиграфом к своей книге Марвин выбрал цитату ~~Эпштейна~~ Эйнштейна: "Все следует упрощать до тех пор, пока это возможно, но не более того". Это хорошее правило, к сожалению, автор не смог выдержать эту высокую планку и скатился в различение, дифференциацию, дивергенцию, усложнение. Для объяснения одних и тех же явлений по сути он изобретает новые механизмы, не усматривая аналогии. Вводит разные термины для описания одного и того же: навык, метод, процесс, механизм, агент, умение, техника, сценарий и т.д. Сложно его в этом винить, потому мы сами погрязли в этом грехе. 6. Повторно хочу остановиться на ужасном официальном русском переводе 2018 года, с тремя шестёрками во лбу. Перевод сделал некто В. Желнинов, и в тех местах, в которых он не понял идею автора (а таких мест много), переводчик применил творческое осмысление и переиначивание текста на свой лад. Крайне рекомендую пользоваться автоматическим переводом или читать в оригинале. Чтобы закончить обзор на позитиве, приведу удачную цитату Марселя Пруста, которая завершает главу 24.4:

Марсель Пруст:
Каждый читатель читает лишь то, что уже находится внутри него самого. Книга — лишь своего рода оптический прибор, который писатель предлагает читателю, чтобы тот открыл в себе то, чего не нашёл бы без помощи книги

В книге Минского от 1986 года есть и другие удачные цитаты и идеи. Рекомендую к прочтению как образец того, как надо думать о создании искусственных интеллектов без всяких статистических анализов текстов и прочей модной нынче лженаучной мутотени. Ещё раз выражаю благодарность Gray Tag'у за рекомендацию.

Жалоба на	×

За Воздержался Против

Форум создателей искусственных интеллектов