Gray Tag + GPT:
это демонстративное игнорирование всей физики, инженерии и даже биологии
Солипсизм суров, к нему надо привыкнуть. Или чётко обозначить в промпте.
Gray Tag + GPT:
Термостат не становится субъективным только потому, что человек выбрал температуру 22°
Да, термостат не становится субъективным
поэтому. Он субъективен потому, что как таковой существует и работает в сознании субъекта. Был создан субъектом из повторения своего субъективного опыта, воспринимается субъектом и эксплуатируется субъектом. Критика малополезна т.к. нерелевантна.
Gray Tag + GPT:
часто работает противоположное: сначала расширение пространства возможностей, а потом селекция
Ровно именно об этом я и написал. Критика неуместна.
Gray Tag + GPT:
Если следовать логике текста, получается, что любой механизм — это просто воспроизведение прошлого опыта.
Да, здесь GPT "понял" меня абсолютно правильно.
Gray Tag + GPT:
Тогда невозможно объяснить ни открытие нового, ни генерацию новых решений, ни даже обучение вне тривиального копирования. Это убивает саму идею развития систем.
Моя вина в том, что я попытался сжать всё в максимально короткий текст, не растекаясь мыслию по древу. Отчего многое второстепенное было утеряно, но что, как мне кажется, неизбежно следует логически если просто подумать. Если механизм - это повтор некоего опыта (маршрут в местах памяти) то понятно, что ничего нового (в смысле памяти данного субъекта) быть не может. Но новое может быть относительно памяти другого субъекта! Именно так работает развитие культуры и техники. Пример. Сначала кто-то на своём стохастическом опыте открыл рычаг из палки. Принёс в племя и стал показывать "как я умею". Для всех соплеменников это шок, такого они ещё никогда не осознавали. Но теперь это их опыт, их механизм. Его не надо "добывать". Опыт скопировался, реплицировался, размножился. Рычаг становится мейнстримом. Что неизбежно приводит к появлению нового стохастического опыта. Например падению камней с высоты. И так далее. Так и только так происходит развитие. Примерно то же сейчас происходит с LLM. Дикари играются с новой игрушкой. Получают опыт. Пока не наигрались.
Забавно, но принципы работы интеллекта фрактальны, и наблюдаются как на уровне клеток так и на уровне социальных групп. Например, в индивидуальном интеллекте необходимо создание избыточных степеней свободы для получения личного жизненного опыта, а в социальных группах необходимо создание избыточного количества особей, чтобы ускорять инновации.
Gray Tag + GPT:
это не теория и даже не заготовка под теорию. Это текст, который имитирует объяснение, но не объясняет ничего
Можно согласиться, что это не полноценная детальная теория, это скорее рамочная концепция, но тем не менее достаточная для осмысления, сверки с субъективным опытом и перехода к практике.
Вот Luarvik., например, меня где-то понял и поддерживает:
Luarvik.:
Вполне возможно, что Вы думаете правильно, даже скорее всего правильно
Эту Вашу интуицию поддерживаю, согласуясь со своими собственными убеждениями
Ч.Т.Д. Реакция LLM полностью определена промптом и (материалистическими) текстами людей. Если бы её тренировали только на текстах выдающихся солипсистов (если таковые имеются) то реакция была бы другой.
Luarvik.:
"механизм работы Вселенной" и "бюрократический механизм" не только разной природы, но и качественно разные явления
Чтобы понять механизм механизма нужно выискивать не разницу между механизмами, а то, в чём все механизмы тождественны. Тогда Вы упрётесь в субъекта.
Luarvik.:
Сила ума не в том, чтобы постоянно держать перед глазами мегатонны вероятностей, но в том, чтобы быть в состоянии постоянной готовности к самому невероятному
Ну вот, Вы уже описываете механизмы разума. А что значит готовность к невероятному? Это готовность восстановить норму, в случае отклонения.
Мне думается, что вы часто останавливаетесь за полшага до некоторого умозаключения, чтобы не утвердиться в некотором убеждении. Но тогда Вы обретёте ясность. И это Вас пугает. Возможно, это защитная реакция. Ведь некоторая ясность может быть несовместима со здравым рассудком - слишком многое придётся пересмотреть в своих убеждениях.
