|
Сообщения участника "Prosolver" | |
| |
|
create
|
| Решатель ARC-задач Франсуа Шолле |
Франсуа Шолле: AGI – это система, которая при встрече с абсолютно новой задачей или абсолютно новым для нее доменом может разобраться в нем с той же эффективностью, что и человек Определение требует существенного допиливания. Что такое "абсолютно новое" и "разобраться" - не очень понятно. В сущности эффективность человека проявляется в том, что он может быстро вспомнить по аналогии и повторить что-то, уже встречавшееся в его жизненном опыте, для решения некоторой конкретной задачи. Такое понятие как "абсолютно новое", имхо, для человека абсолютно неуместно.
Лучше переформулировать так: AGI – это механизм, созданный человеком, который при встрече с любой задачей может так же эффективно, как и человек, синтезировать решающий механизм на основании памяти своего жизненного опыта.
|
| |
|
create
|
Влад: Prosolver искал основания последовательности актуальных моментов, они здесь Благодарю за заботу. Пока это всё, за что могу поблагодарить.
Вы, как и Linner, зачем-то предлагаете к рассмотрению модели мира, вместо модели мышления. Если бы мы создавали искусственный мир, это было бы интересно. Но здесь форум про искусственное мышление, и теория мира здесь может быть применима только на этапе имплементации. Чтобы был субстрат, на котором воплощать теорию разума. А теории разума Вы не предлагаете.
Влад: время — непрерывная длительность существования мира Время - прерывная длительность существования ума. Вот же в чём весь фокус. Мир тут совершенно не при чём.
|
| |
|
create
|
| Теория и практика синтеза механизмов (механизмология) |
"Приходя в деятельность под влиянием измененных условий в состоянии или ходе той или другой части животной машины, сигнальный снаряд в свою очередь приводит в деятельность приспособление (в виде движения или отделения сока), направленное к устранению ненормальности."
© Сеченов Иван Михайлович "Первая лекция в Московском университете" 1889 г.
Общая теория
Интеллект - это механизм создания механизмов. Или инструмент создания инструментов.
Создать искусственный интеллект, значит создать механизм для синтеза механизмов.
Поэтому в данном топике центральным понятием будет механизм. Понятие это достаточно универсальное и рекурсивное, чтобы претендовать на главную роль в решении задачи построения механизма ИИ.
Примеры:
механизм атома
механизм эволюции
механизм ножниц
механизм обучения
механизм ходьбы
генетический механизм
механизм работы инсулина
механизм шахматной позиции
бюрократический механизм
правовой механизм
социальный механизм
шарнирный механизм
вычислительный механизм
лингвистический механизм
механизм победы в войне
механизм работы Вселенной
Из этих примеров ясно, что механизм здесь мы будем понимать максимально широко, не только как связь шестерёнок или транзисторов, но и как вообще некоторую последовательность событий, предсказуемо приводящую к некоторым повторяемым последствиям.
Абстрактный механизм
Попробуем детально и медленно разобрать устройство максимально абстрактного механизма, памятуя о том, что все механизмы существуют и функционируют только в сознании субъекта.
Что характеризует механизм как выделенную единицу?
1. Механизм всегда имеет предназначение, цель. Механизм всегда "для". И предназначение это - достижение некоторой нормы. Норма — это эталонное поведение механизма (отсутствие трения, справедливость, тишина, сытость, прямота линии, достройка нити ДНК и т.п.). Цель (норма) всегда субъективна. Поэтому и механизм всегда субъективен.
2. Механизм достигает цели, функционируя во времени, последовательно, алгоритмично, неизбежно переводя фокус внимания субъекта из места отличия от нормы в место соответствия норме.
3. Отклонение от нормы - это последовательный переход механизма в иное место, не соответствующее норме. Именно не совпадение с нормой является маркером, индикатором, мотивирующим и провоцирующим создание и применение нового механизма.
4. Главный принцип синтеза механизмов. Механизм работает только тогда, когда он ограничивает альтернативы, варианты, степени свободы. Чтобы последовательный переход во времени был именно в норму, а не во что-то иное. Чем сложнее задача (больше возможных отклонений от норм), тем более жесткая структура ограничений должна быть создана.
5. Механизм эксплуатирует причинно-следственные связи, установленные субъектом из своего жизненного опыта. Повторяя подходящий жизненный опыт в задачной ситуации.
Минимальный механизм
Минимальный механизм достигает одну цель (устранения несоответствия одной норме), за один такт времени. Очевидно, что минимальный механизм хоть и может быть полезен (что-то типа кнопки, но любая реальная кнопка - это достаточно сложный механизм), но не может обеспечить сложное поведение, демонстрируемое человеком. Отсюда ясно, что сложное поведение может быть обеспечено согласованной работой множества простых механизмов, преследующих достижение разных норм, работающих синхронно и параллельно.
Согласованная работа механизмов
Согласование механизмов состоит в том, что:
1. Одни механизмы являются "поставщиком" норм для других;
2. Одни механизмы восстанавливают/обеспечивают нормальную работу других механизмов;
3. Механизмы работают синхронно для достижения одной или нескольких норм одновременно.
Механизмы восприятия
Поскольку работа и создание механизмов подразумевают жизненный опыт, этот опыт должен откуда-то браться. Наш жизненный опыт во многом обусловлен работой механизмов восприятия. Для работы механизма восприятия нормой является работа некоторого рецептора. А создаваемым/тестируемым механизмом является работа механизма, продуцирующего квалиа. Их согласованная работа осознаётся как адекватное, нормальное восприятие реальности. Если же рецептор работает, а ответного механизма квалиа нет, то данное информационное воздействие оказывается вне сознания и ни на что не может повлиять (слепое пятно восприятия), что несёт риски внезапного отклонения от норм (наткнуться головой об угол). Если же наоборот, создан механизм квалиа, а ответного ему механизма рецептора нет, то имеет место галлюцинация и соответствующий иллюзорный опыт, который тоже может приводить к внезапным отклонениям от норм (подчинение голосам, борьба с чертями и т.п.).
Последовательность работы механизмов восприятия создаёт основу памяти жизненного опыта.
Несмотря на то, что работа механизмов квалиа находится в сознании и может быть согласована с работой других субъективных механизмов, поставщиком норм для него есть механизм рецептора, который должен иметь независимую от сознания природу, чтобы "работа реальности" была неизбежной, безусловной (или, как говорит Марвин Минский, "настойчивой"). Поэтому работа механизмов восприятия максимально дистанцирована от субъекта, что создаёт иллюзию объективности. Хотя по природе своей механизмы восприятия ничем не отличаются от механизмов воли и могут (и должны) согласовываться друг с другом.
Механизмы воли
Для механизма воли источником нормы является работа некоторого механизма восприятия (зрительного, тактильного, проприорецепторного). А создаваемым механизмом является механизм, приводящий в действие мускулатуру. Их согласованная работа осознаётся как нормальная координация движений (локомоций).
Отсюда понятно, что для возможности создания нормально работающих механизмов воли, предварительно должны быть созданы правильно работающие механизмы восприятия, поскольку без нормально работающих механизмов восприятия не будет источника нормы и невозможно будет оттестировать работу механизмов воли.
Механизмы мышления
Для механизмов мышления источником нормы может быть механизм восприятия, механизм воли или механизм мышления. Архитектурно между ними нет никакого отличия, такое разделение здесь введено только для упрощения изложения. Это чем-то похоже на Сеченовское: "Мысль есть первые две трети психического рефлекса".
Мышление, как последовательная работа механизмов в сознании, не требует в явном виде рецепторов и/или эффекторов, но и не отрицает их.
Местология
Если интеллект будет постоянно сверять работу всех механизмов на соответствие всем нормам, то получается слишком громоздкий ресурсоёмкий механизм детекции. А это ненормально. Поэтому нормы и механизмы группируются в отграниченные места и активируются только при попадании интеллекта в данное место, чтобы сверка с нормами зависела от данного места.
Например, если у человека поломался автомобиль, он перемещается на СТО. А если человеку нужно отметить событие - он отправляется в кафе. В каждом из этих мест есть специальные люди-механизмы, знающие, как обеспечить достижение нормы (наладить авто / хорошо отпраздновать). Точно так же организована и память - механизмы активируются в привязке к задачному месту, в котором сейчас находится фокус внимания интеллекта. Если мы забиваем гвоздь, то мы следим за тем, чтобы не ударить по пальцу и чтобы гвоздь стоял ровно, а не следим за ценой на бензин или насыщенностью цветов. А если человеку нужен AGI он отправляется в AGI.место.
В каждый момент времени человек не вспоминает гораздо больше норм и механизмов, чем вспоминает.
Место - это всегда место нашей памяти, в котором в данный момент находится фокус нашего внимания. Независимо от того, что происходит в восприятии. Конечно, восприятие доминирует в вопросах внимания и заставляет фокус перемещаться в ту память, которая определена механизмами восприятия. Но это скорее вспомогательное свойство восприятия, интеллект не обязан этому подчиняться и несмотря на требовательность восприятия к себе, фокус внимания может находиться в любом месте памяти и синтезировать любые механизмы, что мы называем воображением, мышлением или мысленным экспериментом. Я бы даже сказал, что чаще интеллект находится не в том месте памяти, в которое его подталкивают механизмы восприятия, кроме случаев активной мускульной деятельности (т.е. построения механизмов воли), а том месте, которое имеет более сильное эмоциональное сопровождение или иную субъективную важность.
Нормология
Механизм работает хорошо (правильно, нормально, исправно) если функционируя во времени, он перемещает фокус интеллекта из задачного места в нормальное место. Т.е. норма - это место (нашей памяти), в которое должен перейти фокус интеллекта при нормальной работе механизма.
Если все механизмы работают нормально, то интеллект перемещается из места в место по некоторой траектории без отклонений в аномальные места.
Тут возникает кажущийся парадокс, если механизм работает только для восстановления отклонения от нормы, то что мотивирует механизм работать, когда отклонения от нормы нет? Ответ в том, что отклонение от нормы (задача) есть всегда. Или, как говорит Egg: если нет задачи, то нет точки приложения интеллекта.
Именование
Механизм может существовать и работать без имени. Но имя не может существовать и работать без механизма, который оно именует. Имя всегда "для". Именование механизмов и использование имён - это типичный механизм, целью работы которого есть передача механизма от одного человека к другому (либо самому себе из прошлого в будущее). Нормальная работа механизма имени состоит в том что вслед за именем фокус внимания слушателя перемещается в место памяти, где хранится обозначенный этим именем механизм. Если решение задач обмена механизмами между субъектами не требуется, то использование механизма именования не обязательно. Ошибочное повышенное внимание к именованию в сфере ИИ связано, видимо, с тем, что имя всегда корреспондируется механизму, и в этом смысле оно очень близко к сути вопроса ИИ. Но вместо трудного изучения первоисточника имени (механизмов), люди изучают имена, как то, что лежит на поверхности и проще поддаётся наблюдению и изучению.
Любое имя может именовать любой механизм, но, часто, если механизм составной, то имя механизму даётся из составления имён тех механизмов, которые его составляют (кофемолка, человек, колбаса, компьютер).
Имя "механизм" происходит от новолатинского "mechanismus" (устройство, система действий), который в свою очередь происходит от греческого "mechane" (орудие, машина, средство, приспособление), который происходит от праиндоевропейского корня "magh" (мочь, быть способным), отсюда же английское "might".
Объекты (сущности)
Из этого описания кажется, что механизм, в данной интерпретации, отличается от того, что мы привыкли называть этим словом - некоторые вещественные объекты с чёткой границей, конструкцией, структурой или ситуации, ограниченные временными рамками. Но если учесть, что к механизму всегда "прилагается" субъект, держащий в сознании и в фокусе своего внимания данный предмет, и постоянно сверяющий работу механизма на предмет соответствия своим нормам, то всё становится на места. Вместо слова "механизм" люди часто используют множество синонимов: вещь, случай, ситуация, фишка, объект, момент и т.п. Но если у человека в памяти есть место, в которое обращается фокус внимания, по ходу субъективного времени, то это осознаётся как объект, который можно именовать.
На практике, то что мы обычно называем механизмом (например, швейная машинка) подразумевает согласованную работу множества механизмов восприятия и воли. Поэтому любой физический механизм, работающий в реальности, имеет смысл только при наличии того, кто владеет представлением о последовательности его нормальной работы.
В этом смысле можно сказать, что физиологические механизмы, работающие в телах живых организмов, работают по воле Творца, который установил нормы и синтезировал соответствующие механизмы.
Сознание
Механизмы восприятия, мышления и воли работают согласованно только в сознании.
Только в сознании возможен синтез новых механизмов.
Только в сознании происходит запоминание жизненного опыта.
И только в сознании возможно создать механизм, останавливающий работу любого работающего механизма воли и/или мышления.
Благодаря этим уникальным способностям сознания механизм мышления включает самого себя, как единицу, в создаваемые механизмы и даёт себе имя "я".
Синтез механизмов
Синтез механизма происходит не по принципу управления сложностью (сложенностью), а по принципу отсечения, вытормаживания лишнего. Т.е. синтез механизма - это не сборка чего-то из элементов, а предварительное создание избыточных степеней свободы (создать множество дивергентных путей вспоминания жизненного опыта), которые затем ограничиваются, ужесточаются для достижения конкретной цели (так работает эпигенетика; костно-мускульный аппарат; вероятно, мозг, в котором нет движущихся частей, и в котором в каждый момент из всего многообразия жизненного опыта не вспоминается намного больше того, что вспоминается). Это путь не от простого к сложному, а от сверхсложного-хаотичного-мультипотентного к сложному.
Отсюда понятно, почему человеку требуется довольно много времени, чтобы синтезировать все необходимые механизмы для построения богатого целесообразного поведения. Сначала необходимо создать избыточное количество мест памяти и переходов между ними. Затем (одновременно с этим) необходимо, путём отсечения, селекционировать множество механизмов для нормальной работы механизмов восприятия. После этого (одновременно с этим) необходимо создать избыточное количество вариантов механизмов воли, и селекционировать их для построения элементарного поведения (целесообразного движения конечностями). Далее, на основании этого необходимо создать следующий избыточный слой механизмов мышления для селекции механизмов следующего уровня сложности. И так далее. Вплоть до синтеза теории синтеза механизмов.
На практике нам необходимо создать механизм, который будет синтезировать механизмы для разнообразных целей.
В соответствии с вышеуказанной теорией, это должно представлять собой примерно такую последовательность событий:
1. Создание творцом механизмов квалиа и механизмов эффекторов.
2. Создание избыточных степеней свободы механизмов восприятия.
3. Селекция механизмов восприятия для согласованной работы с механизмами квалиа. Адаптация к среде.
4. Запоминание жизненного опыта как последовательное включение механизмов восприятия.
5. Создание избыточных степеней свободы механизмов воли.
6. Селекция механизмов воли для согласованной работы с механизмами восприятия. Адаптация к телу.
7. Запоминание жизненного опыта как последовательное включение механизмов воли.
8. Создание избыточных степеней свободы механизмов мышления.
9. Селекция механизмов мышления для согласованной работы с механизмами восприятия, воли и мышления.
10. Запоминание жизненного опыта как последовательное включение механизмов мышления.
11. Полноценное мышление как последовательное включение механизмов восприятия, воли и мышления для целенаправленного поведения.
|
| |
|
create
|
| Теория и практика синтеза механизмов (механизмология) |
Сергей Шувалов: кто создал механизмы Творца? С чего Вы взяли, что механизмы Творца кто-то создавал? С чего Вы вообще взяли, что всё непременно должно откуда-то происходить. Просто удивительно живучее абсолютно очевидно ложное убеждение.
Творца в теорию я включил потому, что она нуждается в Творце для логической завершённости. Но это не теория всего на свете и она не объясняет Творца. Это только всего-лишь теория искусственного интеллекта. Для объяснения Творца я предлагаю Вам обратиться к теологам.
Gray Tag: реальность это нелокальный малтиверс, невычислимый математический автомат, представляющий собой кипящий бульон некоммутативных эрмитовых операторов в гильбертовом пространстве, которые занимаются своей вычислительно несводимой рекуррентной репликацией, принятой называть временем, в котором законы - это имманентные инварианты преобразований. Которые не являются механизмами. Благодарю за ещё одно субъективное словесное описание механизма реальности Вселенной.
Gray Tag: Пустые слова Перейдём к практике, там посмотрим.
Влад: Проворот колеса механизма машины (автомобиля) на четверть, это синтез нового механизма или изменение состояния механизма работы (машины) Вселенной? Вопрос мне не понятен. Кто вращает колесо? Кто и зачем на него смотрит? Что значит "изменение состояния"? У меня нет такого понятия в теории, оно лишнее. Механизм либо работает правильно, либо неправильно. Уточните вопрос, может тогда и ответ не понадобится.
|
| |
|
create
|
| Теория и практика синтеза механизмов (механизмология) |
Luarvik.: Далеко ли Вы таким образом заедете ?
Там бывали и до Вас и не раз, а много-много-много раз... И где они теперь - все эти... ездуны ? То есть Вы ставите под сомнение, что мы попадём в то место, в которое надо. В целевое. В нормальное. Что механизм, который мы тут синтезируем ведёт не туда. То есть Ваше мышление демонстрирует поведение, в строгом соответствии с излагаемой тут теорией.
А ещё я предсказываю, что после очередной провокации (упоминания "нищенской пенсии" и т.п) начнётся очередной оффтоп. Строго алгоритмично. Докажите, что Вы не алгоритм и не механизм. Не реагируйте на провокации.
|
| |
|
create
|
| Теория и практика синтеза механизмов (механизмология) |
Luarvik.: всё стянуть и привязать к "механизматике" Если мы непредвзято сравним результаты поведения людей и других животных, то наиболее отличительной чертой людей будет как раз изобилие конструкций, создаваемых руками. Это факт. Вороны и бобры тоже что-то строят из палочек и веточек, но это всё меркнет в сравнении с техносферой, построенной человеком. Механизм - это продукт работы человеческого интеллекта. А искусственный интеллект - это механизм "в квадрате". Верите Вы в механистическую/алгоритмическую природу ума человека, или не верите. Это не важно. Если ИИ не выражается через механизм, значит человеческий ум создать его не может. Поэтому надо не миндальничать, не юлить, и не жевать сопли про какую-то "неалгоритмичность", а аксиоматически провести тождество: ИИ ≡ механизм. Т.е. ИИ ≡ продукт человеческого ума. Тогда и только тогда возникает шанс решить задачу. И если Вы затем попытаетесь синтезировать теорию синтеза механизмов (физических), Вы неизбежно упрётесь в необходимость рассматривать механизмы памяти, творчества, желания, воли и т.п. т.е. механизмов ментальных. А теория ментальных механизмов - это и есть теория ИИ. Вот такая рекурсия получается.
Gray Tag: нужно начинать пользоваться LLM Проверял теорию через такой промпт: " Ниже будет приведена теория, необходимо её рассмотреть на предмет наличия внутренних противоречий и дать предложения по её логическому продолжению.
Это всеобъемлющая теория работы интеллекта человека.
Эволюционная парадигма запрещена, полагается что человек произошёл креационным путём в широком смысле.
Запрещена дивергенция мысли, выискивание разниц и видов, подвидов. Наоборот, приветствуется попытка унификации, сведения к чему-то одному, упрощение. Вот теория:"
Замечания, которые давали нейросети, оказались малополезными или неуместными.
Gray Tag: абзац Абстрактного Механизма изложил GPT-5.3 от первого лица В целом забавно, местами любопытно, но в деталях нет понимания.
|
| |
|
create
|
| Теория и практика синтеза механизмов (механизмология) |
Gray Tag + GPT: это демонстративное игнорирование всей физики, инженерии и даже биологии Солипсизм суров, к нему надо привыкнуть. Или чётко обозначить в промпте.
Gray Tag + GPT: Термостат не становится субъективным только потому, что человек выбрал температуру 22° Да, термостат не становится субъективным поэтому. Он субъективен потому, что как таковой существует и работает в сознании субъекта. Был создан субъектом из повторения своего субъективного опыта, воспринимается субъектом и эксплуатируется субъектом. Критика малополезна т.к. нерелевантна.
Gray Tag + GPT: часто работает противоположное: сначала расширение пространства возможностей, а потом селекция Ровно именно об этом я и написал. Критика неуместна.
Gray Tag + GPT: Если следовать логике текста, получается, что любой механизм — это просто воспроизведение прошлого опыта. Да, здесь GPT "понял" меня абсолютно правильно.
Gray Tag + GPT: Тогда невозможно объяснить ни открытие нового, ни генерацию новых решений, ни даже обучение вне тривиального копирования. Это убивает саму идею развития систем. Моя вина в том, что я попытался сжать всё в максимально короткий текст, не растекаясь мыслию по древу. Отчего многое второстепенное было утеряно, но что, как мне кажется, неизбежно следует логически если просто подумать. Если механизм - это повтор некоего опыта (маршрут в местах памяти) то понятно, что ничего нового (в смысле памяти данного субъекта) быть не может. Но новое может быть относительно памяти другого субъекта! Именно так работает развитие культуры и техники. Пример. Сначала кто-то на своём стохастическом опыте открыл рычаг из палки. Принёс в племя и стал показывать "как я умею". Для всех соплеменников это шок, такого они ещё никогда не осознавали. Но теперь это их опыт, их механизм. Его не надо "добывать". Опыт скопировался, реплицировался, размножился. Рычаг становится мейнстримом. Что неизбежно приводит к появлению нового стохастического опыта. Например падению камней с высоты. И так далее. Так и только так происходит развитие. Примерно то же сейчас происходит с LLM. Дикари играются с новой игрушкой. Получают опыт. Пока не наигрались.
Забавно, но принципы работы интеллекта фрактальны, и наблюдаются как на уровне клеток так и на уровне социальных групп. Например, в индивидуальном интеллекте необходимо создание избыточных степеней свободы для получения личного жизненного опыта, а в социальных группах необходимо создание избыточного количества особей, чтобы ускорять инновации.
Gray Tag + GPT: это не теория и даже не заготовка под теорию. Это текст, который имитирует объяснение, но не объясняет ничего Можно согласиться, что это не полноценная детальная теория, это скорее рамочная концепция, но тем не менее достаточная для осмысления, сверки с субъективным опытом и перехода к практике.
Вот Luarvik., например, меня где-то понял и поддерживает:
Luarvik.: Вполне возможно, что Вы думаете правильно, даже скорее всего правильно
Эту Вашу интуицию поддерживаю, согласуясь со своими собственными убеждениями
Ч.Т.Д. Реакция LLM полностью определена промптом и (материалистическими) текстами людей. Если бы её тренировали только на текстах выдающихся солипсистов (если таковые имеются) то реакция была бы другой.
Luarvik.: "механизм работы Вселенной" и "бюрократический механизм" не только разной природы, но и качественно разные явления Чтобы понять механизм механизма нужно выискивать не разницу между механизмами, а то, в чём все механизмы тождественны. Тогда Вы упрётесь в субъекта.
Luarvik.: Сила ума не в том, чтобы постоянно держать перед глазами мегатонны вероятностей, но в том, чтобы быть в состоянии постоянной готовности к самому невероятному Ну вот, Вы уже описываете механизмы разума. А что значит готовность к невероятному? Это готовность восстановить норму, в случае отклонения.
Мне думается, что вы часто останавливаетесь за полшага до некоторого умозаключения, чтобы не утвердиться в некотором убеждении. Но тогда Вы обретёте ясность. И это Вас пугает. Возможно, это защитная реакция. Ведь некоторая ясность может быть несовместима со здравым рассудком - слишком многое придётся пересмотреть в своих убеждениях.
|
| |
|
create
|
Влад: ОТМ наполнена гомункулусами: субъект, контролёр, селектор, перемещатель фокуса, «я» и Творец. Влад, очень хороший анализ. В рамках ОТМ, как Вы понимаете, гомункулус - это механизм. Каждый из которых проще и доступнее для понимания, чем интеллект целиком. Вопрос в том, достаточно ли умений у творца (т.е. нас, с маленькой буквы), чтобы создать этих гомункулусов, например, в ЭВМ.
|
| |
|
create
|
Влад: приводит к гиперполяризации фоторецепторной клетки и генерации нервного импульса Влад: превращается в элементарный акт зрения Акт зрения ≠ генерация нервного импульса. Чтобы видеть, сначала надо научиться видеть. Сначала надо создать видимый мир, и только после этого соотносить нервные импульсы с визуальной памятью. Люди, слепые от рождения, не научаются полноценно видеть, если им во взрослом возрасте вернуть здоровье зрительного аппарата. Упущен важный этап создания зрительных примитивов в детстве.
А что касается родопсинов и всей этой прочей физиологической мишуры, то в компьютерной технике это не надо. Здесь визуальный "нервный импульс" генерируется совсем по другому и не менее успешно. Другое дело, что нет пока того гомункулуса, который будет этот импульс эксплуатировать.
|
| |
|
create
|
| Теория и практика синтеза механизмов (механизмология) |
Gray Tag: Люди по-прежнему важны, но в основном как генераторы идей и окончательные рецензенты. Люди по-прежнему незаменимы, потому что пока только у них есть целеполагание, жизненный опыт и акты творчества, т.е. интеллект.
|
| |
|
create
|
| Теория и практика синтеза механизмов (механизмология) |
Gray Tag: представление об интеллекте - это не интеллект.
Поэтому LLM должна разрабатывать AGI. Владеть интеллектом, умет решать задачи, быть умным - это, действительно, не значит понимать, как интеллект работает. Для обретения этого понимания нужна особая рекуррентная методология. Суть её, коротко, в том, что решая задачу (любую), разработчик должен:
а) успешно её решить (во множестве сфер)
б) объяснить, каким единым способом (механизмом) он её решил
в) проверить, годится ли объяснение б) не только для пункта а), но так же для пунктов б) и в).
LLM этот простой и очевидный тест не проходит. Её работа не может быть рекуррентной. Точнее она замыкается только через человека - единственного носителя интеллекта в данной схеме - источника знаний, источника цели, источника эталона. Поэтому AGI может разрабатывать только его носитель.
Я не видел, чтобы кто-то явно и осознанно юзал эту методологию (кроме меня). Но подспудно, интуитивно она неизбежно используется. Только в искажённой форме. Вместо постижения работы механизма интеллекта, берутся другие работающие механизмы (LLM в данном случае) и называются "интеллектом". После чего рекуррентно возникают нелепые идеи будто человеческий интеллект нуждается в промпте для своей работы или настраивает веса в своих биологических нейросетях. Вместо того, чтобы изучать естественный интеллект и делать искусственный - искусственно натягивают человеческий интеллект на LLM-глобус.
|
| |
|
create
|
| Теория и практика синтеза механизмов (механизмология) |
Влад:Prosolver, подойдёт ли Вам такое раскрытие механизма создания избыточных степеней свободы? Влад, отвечаю Вам в тематическом топике.
Как степени свободы реализованы в биологических механизмах. Примеры.
1. Делящиеся клетки мозга создают избыточное количество степеней свободы для запоминания жизненного опыта. Но для того чтобы запомнить что-то конкретное, необходимо ограничить возможность вспоминать всё остальное (тут, я предполагаю, работает эпигенетика - "метки" навешиваемые на ДНК).
2. Ветвящиеся аксоны и синапсы создают избыточное количество степеней свободы для перехода из одной памяти в другую. Но для воспроизведения чего-то конкретного необходимо ограничить переходы между местами памяти (см. синаптический прунинг).
3. Костно-мускульный аппарат имеет избыточное количество степеней свободы для совершения движений. Но чтобы совершить конкретное дижение, большая часть мышц должна заблокировать суставы, чтобы движение происходило только в разрешённом направлении.
4. В обществе создаётся множество индивидуумов (с помощью любимого коитусом коитуса). Но большинство из них конформисты и только копируют поведение друг друга, их свобода ограничена мнением большинства. Но тем самым они создают жизненные условия для работы единиц, создающих новации.
Механизмы "степеней свободы" не надо изобретать. Их устройство надо просто подсмотреть. Главное - понять принцип. Ничего нельзя создать на пустом месте. Сначала нужно создать базу сверхсложного хаоса, который затем ограничить до необходимой сложности.
|
| |
|
create
|
| Теория и практика синтеза механизмов (механизмология) |
Gray Tag: в пункте "в" проверяешь не ПРАВИЛЬНОСТЬ и ТОЧНОСТЬ решения, а годится объяснение или нет В объяснении как таковом нет ничего плохого. Когда люди обмениваются создаваемыми ими механизмами на именах. Вот ты мне объяснил, мне всё ясно, спасибо. Если же человек даже объ яснить не может, значит он ясно не мыслит, и делать дальше нечего.
Действительно, плохо когда за словами нет дел, но ведь не зря в топике есть слово "практика". По мере времени будем что-то кодить.
Gray Tag: интеллект - это искусство ставить и решать задачи
РЕАЛЬНЫХ задач РЕАЛЬНОГО бизнеса Я бы назвал это "интеллект по-американски". В реальном бизнесе нормой является прибыль. Всё, что ведёт к прибыли - это нормально работающий механизм. Но это - частный случай рассматриваемой тут теории. Нормой, целью, эталоном может быть что угодно (например, максимизация убытков, открытие законов физики или война) и нормальный ИИ должен мочь это всё делать.
|
| |
|
create
|
| Теория и практика синтеза механизмов (механизмология) |
Влад: сенсорный поток сгенерированный носителем Разума или солипсическим Сознанием (в компьютерном виде) поступает, но какова его дальнейшая судьба, Ваше видение механизма Разума или Сознания именно в этом месте? Сравним судьбу этого потока во сне и в бодрости, чтобы понять какие функции добавляются. Во сне этот поток тоже генерируется, но:
1. Он не ограничен навязчивой реальностью через рецепторы, поэтому сновидение зыбко, неустойчиво, волатильно, без привязки ко времени.
2. Он не ограничен представлением о норме. Т.е. в сновидении всё разрешено.
3. В сновидении нет целеполагания, оно ни к чему не ведёт.
4. В сновидении нет возможности остановить работу некоторого механизма, а значит невозможно ограничение, а значит невозможен синтез новых механизмов.
Но, к слову, в сновидениях часто не блокируется память, поэтому мы и можем о них сейчас говорить, как о жизненном опыте.
С учётом этого, в первом сообщении топика я коротко и охарактеризовал сознание, как необходимое условие согласованной работы восприятия и воли 1) в навязчивой реальности, 2) при ограничительной роли памяти опыта, норм и целей. Если коротко, то сознание в бодрости играет роль многофакторного вытормаживателя лишних степеней свободы.
|
| |
|
create
|
| Теория и практика синтеза механизмов (механизмология) |
Влад: 1. Детекция или имитация детекции окружающего мира.
2. Восстановление детектируемой ситуации окружающего мира.
3. Симуляция восстановленного окружающего мира. Не вижу разницы между 1 и 2, это всё условно названо "механизмы восприятия". А 3 вообще нет. В мире нет никаких механизмов. Они есть только в уме субъекта. Поэтому, когда мы видим мир, состоящий из механизмов - это на 100% наш личный, выдуманный мир. Солипсичный. Его не надо симулировать. Мы вообще ничего не "симулируем" и не моделируем т.к. нет возможности сравнить симуляцию/модель с оригиналом.
В процессе штудирования данной теории с нейросетями, одна из них выдала такое небезынтересное определение:
интеллект — это не поиск оптимального решения, а аппарат принуждения реальности к норме через последовательное ограничение альтернатив.
Влад: Какие еще механизмы Разума или солипсического Сознания можно вычленить? Всё, как мне кажется, что следует вычленить - указано в первом сообщении топика. Дальнейшая задача - не вычленять, и не разводить виды-подвиды механизмов, а наоборот - создать унифицированный формат механизма и начать делать простейшие макеты. В частности, интересно постичь "интерфейс" между механизмами, ведь по сути одни механизмы работают, для обеспечения нормальной работы других.
|
| |
|
create
|
| Теория и практика синтеза механизмов (механизмология) |
Влад: у нас, солипсистов, есть представление о мире как механизме состоящем из механизмов, но наш личный мир в постоянном последовательном движении Да, можно так сказать.
Влад: а мы постоянно пытаемся предвосхитить результат этого движения и осуществить воздействие на этот выдуманный мир с целью достижения нужного результата, (нормы) и как же тут без симуляции (моделирования) можно обойтись? А как Вы можете "воздействовать" на свой выдуманный мир? Единственное, что может происходить в этом мире, это воспоминание своего жизненного опыта в задачной ситуации, с целью повторения этого опыта и достижения нормы. Или сознательное торможение этого воспоминания с целью синтеза нового механизма. Т.е., опять же, воспоминания другого жизненного опыта и достижения нормы. Кажется, что этого мало, но этого достаточно.
Здесь как раз уместно вспомнить удачные цитаты из книжки Минского, которую мы по рекомендации Greate Egg'а разбирали ранее:
Марвин Минский "Сообщество Разума": Воспоминания суть процессы, которые заставляют некоторых наших агентов действовать так, как они действовали когда-то в прошлом
Чтобы мы могли рассуждать хорошо и правильно, наши агенты управления памятью должны научиться «перемещать» воспоминания, как если бы те были детскими кубиками
Воспоминание происходит в субъективном времени, последовательно. В сущности это и есть симуляция/моделирование/динамика. Это касается всех механизмов, в том числе и механизмов восприятия. Это значит, что любой акт узнавания, опознавания происходит последовательно. Мы не можем "сразу" узнать лицо или шкаф, нужно последовательно пройтись по местам памяти, чтобы убедиться, что данный механизм "работает" правильно.
|
|
|