Форум создателей искусственных интеллектов

Это с самого начала было понятно. Что некоторая имитация некоторых интеллектуальных функций неинтеллектуальными статистическими методами - это новое, иногда впечатляющее, но тупиковое бесперспективное направление в IT. А вот что для меня оказалось неожиданной и неприятной новинкой, так это та гора информационного хлама, которую, с позволения сказать, "создают" эти новомодные инструменты, что грозит перерасти в информационную экологическую катастрофу. Будет довольно иронично (но справедливо), если финальным практически ценным и юридически дозволенным результатом внедрения генеративных моделей станет сервис для выделения капель человеческого знания, обретённого на практическом осознанном опыте, из океана бредо-контента, сгенерированного нейросетями.

Когда человек учится у других людей, происходит постепенный рост количества и качества итогового знания. Потому что ученик сравнивает модели, полученные от других людей, со своим личным осознаваемым жизненным опытом и способен критически оценивать опыт прошлых поколений и добавлять свои изобретения. Когда же нейросеть "учится" у бреда, сгенерированного другой нейросетью, то качество итогового знания неуклонно понижается. Это логично, потому что нейросеть не имеет ни творческого начала, ни жизненного опыта и ничего не привносит в итоговый продукт. Можно сказать, что нейросеть настолько умна, насколько были умны люди, на текстовых последовательностях которых она изначально тренировалась. Только чуть тупее их.

Нейросети ведь придумали люди, и как механизм, изобретённый людьми, он имеет право на существование. Я только предположил, какое практически полезное применение он может иметь. А именно по трудноразличимым для человека маркерам отделять сгенерированный нейросетями контент с целью его элиминации из дальнейших информационных обменов. Грубо говоря, чтоб подтёр за собой.

Такой задачи на самом деле нет, Вам показалось. Задача всегда в другом: есть некоторый механизм, нужно определить работает ли он? Решается очень просто - запустить его. И если он работает как следует, то он работает. И это единственная истина, которая может быть. А если он не работает, то он ложный.

Здесь нет цензуры. Здесь демократия и свобода слова.

Это верно. Постепенно первоначальный смысл аббревиатуры "ИИ" утрачивается (намеренно искажается) и теперь его следует расшифровывать как "Имитация Интеллекта". Но это явно не то, что нужно. Без ответа на вопрос "что такое сознание?" все разговоры о сознании у кого/чего бы то ни было - чистая спекуляция. Есть ли сознание у машины? Есть ли сознание у моего соседа? Есть ли сознание у меня? Есть ли сознание у бактерии? Вопросы в никуда. Без описания механизма сознания в этом вопросе продвинуться не удастся. Вот, например, так можно рассуждать. Когда-то давно одноклеточные организмы, каждый из которых не обладает сознанием, собрались в колонию и занялись кооперацией. Но для того чтобы эта колония могла действовать целенаправленно с максимальной эффективностью им необходим был один управляющий центр. Если допустить, что есть некая эволюция живых организмов и она действует по принципу поиска, то рано или поздно эта колония могла найти, например, физический механизм подключения к нашей четырёхмерной реальности незадействованных измерений. Т.е. сознание - это использование незадействованных измерений реальности (свёрнутых куда-то внутрь атомов, например) для построения моделей поведения колонии микроорганизмов. Так же как птицы "открыли" аэродинамику, а летучие мыши - эхолокацию и т.п. Если у Вас рядом болтаются незадействованные Вселенные - грех ими не воспользоваться. Вот теперь если Вы покажете, что ИИ-машина подключает незадействованные измерения реальности для отражения в них моделей своего поведения в четырёхмерной реальности, тогда можно смело говорить, что сознание у этой машины есть. А иначе все эти разговоры о наличии/отсутствии сознания - напрасное сотрясание воздуха (точнее, заполнение диска хостинга).

Если я правильно понял Вашу теорию, то сознание есть вообще у всего. Пансознание. Но оснований у такой теории нет никаких. 1. Если Вы будете честны перед собой, то вынуждены будете признать, что словом "сознание" в своей реальности Вы можете с уверенностью назвать только один единственный экземпляр этого предмета - а именно своё собственное сознание. С какой стати аналогом этого Вашего личного сознания должно обладать всё сущее? Решительно непонятно. Тем более, что и атом, и молекула воды, и бактерия - это всё только удобные механизмы, которые Вы сами для себя придумали и которые имеют место быть только в Вашем сознании. 2. Если бы сознание было бы таким вездесущим и базовым явлением, как Вы описываете, тогда оно и с Вами было бы всегда. Но на ночь сознание выключается, в болезнях оно притупляется, а когда оно впервые появилось вообще не понятно. Поэтому я и сказал, что сначала надо придумать теорию сознания, объяснить что это, а потом уже искать "это" в других предметах. Как по мне, сознание - это иное измерение реальности, а теории и практики для этого пока нет.

Вы всё рассматриваете через призму своего сознания. Поэтому солипсизм - это очевидно не теория, это единственная отправная точка корректных размышлений в сфере ИИ, в частности, и бытия, вообще. Но я не думаю, что мы с пользой потратим время, если снова разведём эту бадягу "за солипсизм", видимо, людям просто страшно признавать всю полноту и одиночество личного существования. А как я могу заставлять людей преодолевать свой первобытный экзистенциальный страх.

Свежее интервью Такера Карлсона на тему оккультизм и ИИ. Вышло очень маргинально, мне понравилось. Даёт представление о том, что за чертовщина творится в сфере IT.

Это правильное и очень важное наблюдение. С (личными) нормами сверяется всё, не только новые идеи, но и старые и вообще любые. Я это называю детектор противоречий. А это в корне не верно, всё ровно наоборот. Гений просто делает намного больше детекций и видит намного больше противоречий/соответствий, причём на более глубоких/широких масштабах пространства/времени. Поэтому гений может принять/отбросить те идеи, которые обычными людьми отбрасываются/принимаются просто вследствие менее детального рассмотрения. Например, эволюция через случайные мутации. Для обычных людей - это норма. И они не отбрасывают эту идею. Но более глубокое и детальное рассмотрение выявляет массу противоречий, что вынуждает отбросить эту идею как несостоятельную.

Уже не первый раз встречаю этот фейк, порождённый, видимо бурлящими миазмами готайки. Мне, как солипсисту, в целом безразлично, что обо мне пишут. Но в условиях, когда все мои декларации, как госслужащего, опубликованы в интернетах, распространение таких фейков, как мне кажется, бросает тень на самого распространяющего.

Судя по скорости написания генерации постов, товарищ с нами не совсем откровенен.

Это кусочек лекции Святослава Всеволодовича Медведева (сына Бехтеревой) про так называемый "детектор ошибок". По описанию Медведева "детектор ошибок" - это один-в-один детектор противоречий, который чисто умозрительно ввёл в схему интеллекта Ваш покорный слуга. С одной стороны хорошо, что умозрительные схемы подтверждаются практикой, с другой стороны - будь я менее ленивым, смог бы сэкономить время на разработку того, что уже давно известно. Выражаю благодарность Владимиру Мокроусову за подсказку.

Идея эта не новая и не безумная. И её разжёвыванию, собственно, посвящён данный топик. Но писатели, как обычно, ничего не читают. Есть несколько мыслей, которые стоит артикулировать. 1. Действующие системы имитации интеллекта (ИмИ), построенные с применением backpropagation, по сути эксплуатируют именно этот алгоритм. Было бы странным, если бы имитатор интеллекта совсем не использовал механизмы интеллекта. И он их, конечно, использует. Второй механизм интеллекта, который используют действующие ИмИ - это последовательности. Это очень важный момент и ему в своё время стоит уделить особое внимание. 2. Как всегда, нюансы скрываются в деталях. "Ожидаемый сенсорный вход", как Вы пишите, это не просто матрица пикселей, или спектр звука, или некая абстрактная последовательность бит. Ожидаемый сенсорный вход - это всегда механизм, развивающийся во времени. И в большинстве случаев, этот механизм, развиваясь во времени, ведёт себя правильно (это то, что мы называем "осознаваемой реальностью"). События происходят как надо, всё привычно и обычно, кажется, что всё независимо и объективно. Вместе с тем, вся без исключений картина реальность - это конструкт, построенный интеллектом, и запускающий этот механизм в режиме реального времени. Очевидно, что ни один механизм не может в точности воспроизводить настолько сложный сенсорный вход, как у человека, даже на коротких промежутках времени. Поэтому рассогласование есть всегда. Вопрос в том, как считать это рассогласование критичным, что вызывает необходимость, как Вы пишите "корректировать поведение", а я говорю - синтезировать новый механизм. Например, сидите Вы в комнате и ничего не делаете, тут в дверь комнаты кто-то входит. Это значит, что механизм, работавший до этого и генерировавший реальность в виде пустой комнаты, резко стал неактуальным, рассогласованным и необходимо срочно скорректировать его, введя в сознание модель человека/тигра/робота или что-там вошло в дверь. Т.е. детектор ошибок - это универсальный механизм, работающий как в сфере казалось бы чистого восприятия, так и в сфере построения поведения (которое по сути тот же самый механизм). Таким образом, интеллект - это механизм построения механизмов по сигналу рассогласования. Конечно, интеллектом, как механизмом построения механизмов, обладают все двигающиеся живые существа. Разница только в комплексности воздвигаемых ими механизмов. Т.е. в длине причинно-следственных последовательностей. Автомобиль в целом осуществляет функцию движения, но двигатель - это таки отдельный его орган. Без отдельного детектора ошибок, который работает независимо от обученности человека или его намерений, разум в целом не сможет выполнять никакую функцию эффективно. Медведев в лекции утверждает, что детекция ошибок фиксируется аппаратными средствами в мозге даже у пациентов в коме. Это объясняет, в частности, почему человек не просыпается от знакомого громкого звука, но от незнакомого тихого - просыпается.

Это хорошо и удивительно, что иногда Вы можете внятно формулировать свои мысли. Однако детекция - это всё же довольно узкая и специфическая операция. Она триггерная. Детектор либо молчит (тем самым "сигнализируя", что по умолчанию всё идёт правильно), либо поднимает флажок (в терминологии Медведева). Примерно как в движке данного форума, когда к сообщению прицепляется жёлтый флажок, сигнализируя, что это сообщение новое. Поэтому функция «Детекция ошибок» подразумевает: - наличие на одном "входе" детектора ошибок эталона, сгенерированного всем механизмом мышления с учётом памяти, своих желаний, знаний, допущений ("как должно быть") - наличие на втором "входе" детектора ошибок тестового образца, сличаемого с эталоном ("как есть"). Это не обязательно сенсорный вход, это может быть и поток мыслей и любое наполнение сознания. - на "выходе" - пороговый сигнал расхождения. Он либо есть, либо его нет. Это очень хорошо и удобно. Если бы расхождение имело меру, то мы никогда не были бы уверенными в том, что мы чувствуем и делаем. И не было бы слов "да" и "нет". А как пишет нам писание: "Но да будет слово ваше: да, да; нет, нет; а что сверх этого, то от лукавого.". Что касается вопросов приоритизации сигналов расхождения, что с ними делать дальше, поднимать ли вопрос исправления эталона, либо исправления "тестового образца" - это следующие вопросы, которые непосредственно к работе детектора ошибок отношения не имеют. Детектор ошибок (или как я их называю "противоречий") должен безучастно выдать результат и в этом соблазн начинать построение настоящего ИИ именно с него. Не согласен. Поясню почему. Термин "нежелательный исход" подразумевает императив некоего субъективного желания, предпочтения при задании нормы. И поэтому не может претендовать на всеобщность. Ведь в большинстве случаев человек что-то считает нормой просто потому, что встречается с этим часто. Например, ездите Вы по знакомой дороге, на ней разметка давно стёрлась. И тут рисуют новую разметку. Вы сразу это заметите, потому что это аномалия для данного места. Хотя с точки зрения Ваших желаний, Вы всегда желаете, чтобы разметка была чёткой. И с этой точки зрения не должны были бы зафиксировать аномалию. Поэтому в общем случае желание не может быть императивом при определении эталона. Но в других случаях (при целеполагании, при решении задач), конечно, желание, личное предпочтение будет играть решающую роль. В задачу создания интеллекта искусственного с помощью интеллекта естественного заложена рекурсивность по определению. При этом всё, что может создавать интеллект естественный - это алгоритмы/механизмы/автоматизмы. И если мы не отождествим мышление с механизмом, то, следовательно, мы не можем ожидать получения интеллекта искусственного в качестве продукта интеллекта естественного. Надеюсь, просто и доступно пояснил.

Это ключевой вопрос. Механизмом я называю множество условий, роковым образом приводящих к последствию. Определение не безупречное, его можно допиливать, но очень важно его искусственно не сузить. В механизме важно наличие времени т.е. факт перехода от отсутствия следствия к наличию следствия при предшествующих условиях. Условий всегда конечное множество. При этом трудность состоит в том, что и "условия" (причины) и "последствия" - это тоже механизмы. Ну и, конечно, механизмы - чисто субъективные конструкты. Говорить о "существовании механизмов в окружающем мире" - это моветон. Мне больше нравится "механизм". Он достаточно общий. Алгоритм это более узкое понятие. Алгоритм - это механизм, созданный из действий некоторого исполнительного устройства, по некоторой программе. Автоматизм - ещё более узкое понятие. Это алгоритм, выполняющийся без корректировок программы действий. Но это Вы их использовали, поэтому я их повторил.

Может быть, в топике: "Нормативы дисциплинарной лексики"? Ведь места на сервере для новых топиков ещё хватает. Для опровержения моего тезиса достаточно привести один единственный пример созданного человеком не-механизма. Но это должен делать тот, кто ставит мой тезис под сомнение. Тогда будет предмет обсуждения.

С этим спору нет. А какая задача требует это прекратить, для своего решения? Я такой задачи не знаю. Приставка "искусственный" очень ёмкая. Она указывает, что искомый ИИ может быть сделан только ручками в среде, которая называется реальность (или мир). А поскольку эта самая реальность (или мир) являются исключительно субъективным конструктом, то задача обретает очень трудную рекурсивность. Отбрасывая приставку "искусственный", мы тем самым как бы стыдливо заметаем под ковёр эту важную философскую составляющую. Это лукавство и неуместное обобщение. Каждому хорошо известен только один единственный интеллект - его собственный. Чуть менее хорошо, но всё же достаточно для практической работы, нам известны интеллекты других людей (некоторых, не всех). Ещё хуже нам известны интеллекты животных, например, птиц, которые чудесно справляются с задачей построения механизмов. И делают это, если верить сообщению ув. Linner'a несколько иным способом, чем люди. Ещё хуже нам известны роевые интеллекты муравьёв/пчёл/и т.п. Интеллекты бактерий, возможно, тоже в какой-то форме имеют место быть. Да, и эта функция - синтез механизмов.

Тоже обратил внимание на этот солиптический пассаж, не характерный для Luarvik.а. Но в отличие от DeepSeek'a, ничего не понимающего в колбасных обрезках, я высоко оценил эту идею. Проблема её только в том, что "энергия" - это тоже субъективный конструкт, о настоящем же мире на самом деле мы всегда знаем ничего, void, пустота. Поэтому направление мысли верное, но требует шлифовки. Здесь Глубоководный тоже дал маху. Вся "позитивная" возбудительная активность ума осуществляется человеком автоматически и бессознательно. А сознательная компонента, действительно, сводится только и всегда к торможению. Это принципиально важно, и кто этого не понимает, тот в самом начале пути.

Легко и приятно фантазировать о сферических мегаинтеллектах в вакуумах. Намного труднее заниматься прикладными мелкими вопросами. Прежде чем замахиваться на иллюзорные и никому сейчас не нужные мега-интеллекты, необходимо ответить на "простейший" вопрос: а что такое минимальный интеллект? Некоторые ответы уже написаны, интересно увидеть Ваш (лично Ваш, без подсказок дипсиков и прочих ИмИ).