Форум создателей искусственных интеллектов

https://habr.com/ru/articles/481172/ Make AI Strong Again! В последнее время термин «искусственный интеллект» стал чрезвычайно широким. Где только не употребляют его – от «умных» устройств до программ игры в шахматы, Го и пр. При этом собственно интеллекта, сознания в человеческом понимании в этих устройствах нет. Наиболее хайповые темы — нейросети, глубокое обучение и пр. основаны на концепциях, которые предполагают реализацию, по сути, только одной функции — распознавания образов и не могут привести к созданию полноценной системы искусственного интеллекта. В этой статье я предлагаю вернуться к изначальному пониманию задачи – созданию систем, обладающих свойствами мыслительной деятельности человека – такими, как понимание смысла, построение плана действий для достижения цели, способность объяснить свои действия, корректировка поведения в зависимости от окружающей среды и т.д. [/url] Уже многие годы предпринимаются попытки создать системы искусственного интеллекта, приближающиеся по свойствам к мозгу человека. Однако до сих пор этого не удалось достичь. Ученые уже достаточно подробно знают функции и строение базовых элементов мозга – специальных клеток, называемых нейронами. Также более-менее изучено общее строение мозга – какие части мозга за какие глобальные функции отвечают. Однако средний уровень — уровень соединений нейронов в более крупные структуры и связь этих структур с сознанием и процессом мышления остается загадкой. Данная статья является попыткой представить гипотезу способа объединения нейронов в более крупные структуры, описать основные функции и свойства этих структур. Это позволит, по моему мнению, подойти к технической реализации таких понятий, как смысл, внимание, целенаправленное поведение, самосознание и др. Представленные идеи конечно необходимо проверить на практике. Но даже если они не подтвердятся, возможно соображения, изложенные в данной статье, подтолкнут других исследователей к работе в этом направлении, явно испытывающем дефицит конструктивных идей в настоящее время. Представленную в статье концепцию я назвал — «Динамическая семантическая сеть, основанная на действиях». 1. Исходные положения Ниже изложены известные факты об устройстве нервной системы, на которых базируется предлагаемая модель: [list=1] [*]Восприятие внешних сигналов в нервной системе происходит специальными структурами, называемыми рецепторами, которые активируются при определенных условиях внешней среды. [*]Выполнению элементарных действий (сокращение/расслабление мышц, выделение химических веществ) происходит за счет активизации других элементов, называемых эффекторами. [*]Передача активности между рецепторами и эффекторами выполняется специальными элементами, называемыми нейронами. [*]Сигнал активности – бинарный. Активность либо есть, либо нет. [*]Для возможности обучения в процессе обработки информации необходима способность образовывать новые нейроны и связи между ними. [*]В мышцах, сухожилиях и суставах присутствуют рецепторы, то есть выполняемые действия посылают сигналы о своем выполнении — действия ощущаются. [/list] 2. Описание модели 2.1 Общая схема Информация, обрабатываемая в системе, имеет в своей основе ощущения, то есть сигналы от определенных рецепторов — визуальных, слуховых и прочих. На определенном этапе обработки, эта информация становится знанием, а процесс ощущается как мышление. Нет какой-то отдельной сущности для представления мыслей. То, что мы называем мыслью – это обработанные ощущения. Сигнал от рецепторов (ощущение) может возникать как вследствие внешнего раздражения, так и от сигналов изнутри системы. Общая схема обработки представлена на Рис. 1. Рис. 1 Общая схема В дальнейшем под термином рецепторы будем понимать совместно собственно сенсоры и функциональность переключения, обеспечивающую активацию либо извне системы, либо изнутри. 2.2. Детектор, действие, понятие Итак, рецепторы регистрируют элементарные сигналы окружающей среды, такие как цвет, яркость точек пространства, амплитуду и частоту колебаний окружающего воздуха, температуру участков тела, положение суставов, состояние мышц, химический состав в определенных точках тела и др. В результате возникают наборы сигналов активности от рецепторов идущие в сеть обработки. В сети обработки, частично вследствие генетической информации, а в большей степени на основе индивидуального опыта, образуются нейроны, реагирующие только на определенные комбинации входных сигналов. Будем называть данные нейроны детекторами, а комбинацию входных сигналов от рецепторов — образом. То есть детекторы выполняют функцию распознавания образов. Собственно, именно эту функцию и моделируют разнообразные широко известные в настоящий момент нейронные сети. Но их разработчики на этом и останавливаются, а мы пойдем дальше. Аналогично детекторам, нейроны посылающие сигналы к эффекторам, могут объединяться в более сложные структуры, активация входных связей которых приводит к выполнению комбинаций элементарных действий. Таким образом, возникают структуры, представляющие действия. Можно представить образование структуры, которая будет выполнять следующие действия: [list] [*]Активизацию связей изнутри системы к некоторой комбинации рецепторов [*]Установку переключателя (Рис.1) на восприятие сигналов изнутри системы [/list] Таким образом образуется действие по воображению, представлению некоего образа, являющегося набором сигналов от рецепторов. Будем называть такие действия действиями-представлениями некоторого образа. Комбинация детектора некоторого образа и действия-представления для этого образа образует понятие-образ, с которым система может работать. С помощью детектора система может распознать понятие во входном сигнале, а с помощью действия-представления представить его, даже при отсутствии соответствующих сигналов извне. 2.3. Ассоциативные связи Между понятиями-образами могут образовываться связи, так что, например, одно понятие может активировать другое. Таким образом активация извне детектора визуального образа может приводить к активации, например, звукового, или другого визуального образа. Пример варианта подобных связей показан на Рис. 2. Рис. 2 Ассоциативные связи 2.4. Действия-восприятия и действие-внимание Ранее мы рассмотрели действия-представления, активизация которых приводила к представлению какого-то образа на входе сети обработки. Эти действия устанавливали переключатель рецепторов на прием информации изнутри системы. В случае установки переключателя на прием информации извне, состояние рецепторов будет определяться состоянием окружающей среды. Назовем такие действия действиями-восприятиями. Это такие знакомые нам понятия, как например смотреть, слушать, читать. Рецепторы поставляют в сеть обработки данные о большом числе параметров (например, зрительный нерв содержит около миллиона волокон). Если учитывать весь набор входных сигналов, то воспринятые образы были бы для системы всегда новыми, так как окружающая среда никогда не бывает одной и той же до мельчайших деталей. И система в этом случае не могла бы узнавать ранее виденные части новой сцены. То есть необходима возможность ограничения входных сигналов, фильтрации их. Это приводит нас к необходимости действия — внимания. На пути сигналов от рецепторов должен располагаться некий фильтр, управляемый вниманием и способный отсекать часть информации по определенным признакам. Прошедшие этот фильтр сигналы, либо приведут к активации какого-то детектора (в случае, если ранее он был сформирован в системе), либо должны быть запомнены на случай возможной важности в будущем. Таким образом, помимо фильтрации, внимание должно уметь создать из прошедших фильтр сигналов временное понятие, объединив активные детекторы и сформировав связи к соответствующим действиям-представлениям. Рис. 3 показывает действия-восприятия и входящее в их состав действие-внимание. " Рис. 3 Действия-восприятия и действие-внимание Созданные временные понятия и связи через некоторое время могут разрушаться, а могут и становиться постоянными, в случае неоднократного использования. Общий процесс восприятия информации от окружающей среды разбивается таким образом на отдельные акты восприятия, завершающиеся либо созданием/модификацией временных понятий (при замечании чего-то нового в окружающей среде) или просто активизацией уже созданных понятий. Действие-внимания, активирующее при восприятии временные понятия, ведет упорядоченный список этих понятий, глубина которого вероятно и определяет размер кратковременной памяти человека (обычно не более 10 понятий). 2.5. Действие как основа (смысл) понятий Размышление о разных понятиях с которыми оперирует мозг человека, приводит к наблюдению, что понятие действия является центральным и лежит в основе практически всех понятий и составляет так называемый их смысл. Рассмотрим понятия, выражающие свойства или характеристики объектов. 2.5.1. Понятия — характеристики Образы, регистрируемые рецепторами, содержат в себе информацию о разных базовых характеристиках окружающей среды, например, цвете, яркости, форме линий в определенной точке пространства, частоте и силе колебаний воздуха и других параметрах. Проверяя образ на выполнение некоторых условий, можно активировать понятия, которые будут выражать значения определенных характеристик или признаков, например, «красный», «желтый», «в центре», «круглый», «большой». Само действие по проверке этих условий можно считать вопросом о чем-либо, а результат работы этого действия ответом на этот вопрос. Например, вопрос – «Дом красный?», ответ — «Красный». Но необходимо как-то обозначать отрицательный результат проверки. Так появляется понятие «Нет», выражающее отрицательный результат любой проверки. Для симметрии и удобства появляется понятие «Да», которое обозначает положительный результат проверки. Ответы «Красный» и «Да» на вышеуказанный вопрос эквивалентны. Отдельные действия проверки могут группироваться в наборы, которые получают определенное обозначение. Так появляются наборы характеристик «Цвет», «Размер», «Форма» и другие, включающие в себя отдельные проверки, такие как например, «красный», «желтый», «большой», «маленький». В этих общих характеристиках содержится действие, объединяющее в себе проверки отдельных элементов. Результатом этого действия является одно из значений, входящих в это понятие характеристик. Например, «Размер дома?» — «Большой». Ответить «Да», или «Нет» на подобные вопросы нельзя. В дальнейшем будем называть характеристикой как отдельное понятие (например, «большой»), так и групповое (например, «размер»). При их использовании каких-то существенных отличий не имеется. Говоря о действиях-характеристиках можно различить четыре варианта их использования: [list=1] [*]Можно говорить об обобщенном действии-характеристике, например, «Цвет чего-то», «Размер чего-то» и др. Эти выражения просто определяют действие, задают какие признаки образа проверяются, и какие возможные значения могут получаться в результате. Аналог описания класса в объектно-ориентированном программировании. [*]Можно говорить о характеристике какого-то конкретного объекта, представляемого временным понятием, созданным действием-восприятием. Например, внутрисистемным представлением (смыслом) фразы «Какой цвет у этой книги?» будет новое временное понятие, действие-характеристика созданное на основе обобщенного понятия «Цвет чего-то» (п.1) и временного понятия «Эта книга». У характеристики «Цвет чего-то» параметр объекта действия указывает на «Эта книга». Является аналогом экземпляра класса в объектно-ориентированном программировании с конкретизированным значением объекта действия. [*]А можно задать и результат действия. Этот вариант будет внутренним представлением утвердительных фраз, например, «Цвет этой книги красный». Является аналогом экземпляра класса в объектно-ориентированном программировании у которого конкретизированы объект действия и результат. [*]И, наконец, может быть задан результат действия, но не задан объект. Этот вариант будет внутренним представлением фраз вида «Что-то красное», «Что-то большое». Является аналогом экземпляра класса в объектно-ориентированном программировании у которого конкретизированы только результат. [/list] Таким образом одна внутренняя структура (действие по проверке определенного признака) лежит в основе таких различных понятий, как 1) обобщенное понятие – характеристика («форма»), 2) вопрос о характеристике конкретного объекта («Какая форма у этого камня?»), 3) утверждение о свойстве конкретного объекта («Камень, лежащий наверху — круглый») и 4) указание на некий объект с определенными свойствами («Что-то круглое»). Возможность задать результат действия, не выполняя собственно проверку свойств образа, чрезвычайно важна. Она позволяет обрабатывать информацию об объектах в отсутствии собственно образа объекта. Это открывает дорогу к конструированию любых, в том числе абстрактных, понятий, например, «кто-то хороший», «кто-то уважаемый», «функция логарифмическая» и так далее. Рассмотрим возможную внутреннюю структуру действия-характеристики. Из изложенного выше понятно, что в нем должны присутствовать указатели на объект действия и результат. В рамках действия должны выполняться активности по представлению образа объекта, по проверке определенных свойств этого образа и по формированию результата (активации соответствующего понятия и установлению на него ссылки результата действия). В случае заданного заранее результата, активности по представлению и проверке образа не выполняются. Схематично это отражено на Рис.4 Рис. 4 Возможное внутреннее устройство действия-характеристики 2.5.2. Сравнительные понятия, понятия отношения В предыдущем разделе мы говорили о признаках, характеризующих некий образ и выяснили, что смыслом этих понятий было действие сравнения этих признаков с определенными, заранее известными шаблонами. При определении, например, цвета происходило сравнение с шаблонами известных цветов и совпавший считался результатом. Если же проводить сравнение не с заданным заранее шаблоном, а с признаками другого объекта, то получим сравнительные понятия или понятия-отношения. Например, «что-то больше чего-то», «что-то ярче чего-то», «что-то выше чего-то» и так далее. Подобно характеристикам, отношения не обязаны базироваться только на признаках, содержащихся в образе, воспринимаемом рецепторами. Вполне возможны понятия, не имеющие явного внешнего представления, например, «Он ее муж», «Он руководитель отдела», «Что-то принадлежит кому-то». Иногда даже затруднительно сформулировать ясные правила проверки какого-то признака, как например для понятия принадлежности. При отсутствии того или другого объекта отношения, получаются вопросы (например, «Что принадлежит Саше?», «Чья эта ручка?»). 2.5.3. Объект – образ и набор характеристик Воспринятый рецепторами образ можно представить либо в виде сигналов, составляющих этот образ — «фотографии», либо в виде набора результатов действий по проверке каких-то признаков, то есть набора характеристик, либо и того и другого вместе. Комбинация образа и/или характеристик, всегда встречающихся вместе удобно представлять понятием объект. На Рис.5 изображено возможное представление объекта, характеризуемого визуальным образом «Образ 1», ассоциативно связанным с ним звуковым образом «Образ 2» и двумя характеристиками «Цвет» и «Форма». Рис. 5 Возможное представление объекта Отметим, что значения «Круглый» и «Красный» являются образами «текстовых» рецепторов, то есть словами. «Текстовые рецепторы», реагирующие на символы компьютерной информации отсутствуют конечно у человека и приведены, как возможный пример искусственной системы обработки символьной информации. 2.5.4. Характеристика «быть» Среди всех возможных характеристик есть одна, которая присутствует всегда и является как бы основой для появления других характеристик. Это характеристика отражающее бытие, наличие чего-то. И уже после этого, это что-то может иметь и другие характеристики. Это характеристика выражается словами «быть», «есть». Действие, лежащее в ее основе, проверяет наличие какого-то сигнала или набора сигналов. Рис. 6 Характеристика есть/быть Рис.6 показывает, что существует разница между ассоциативной связью между объектами Образ1 и Образ2 и связью через понятие Есть. В первом случае при восприятии одного образа в системе «всплывает» второй образ, а во втором случае возникает знание об объекте. Ассоциативные связи могут приводить к появлению бессмысленных и не связанных образов и быть в общем случае случайными, а вот образы, связанные через понятия-характеристики, уже несут смысл, так как содержат в себе определенную проверку и сообщают нам о положительном результате этой проверки. Отсюда возникают понятие об истине и лжи, а также логика, как набор правил работы с понятиями-характеристиками, позволяющий из одних истинных понятий порождать другие, которые также будут истинными. Внешнее представление понятий-характеристик осуществляется действием-представлением, которое конструирует внешнюю форму объединяя представления самой характеристики, объекта и результата. На Рис.6 оно показано внутри понятия-характеристики Есть. Итак, мы увидели, что определенное действие лежит в основе следующих понятий: [list] [*]Характеристика (действие проверки) [*]Отношение (действие проверки) [*]Объект (набор характеристик) [/list] Если сюда добавить понятия, представляющие собственно действия или процессы, и связанные с ними понятия (например, сомнение, вероятность и др.), то представляется, что все знание можно описать такими структурами, основанными на действиях, и связями между ними. Таким образом становится ясно, что ключевым вопросом становится вопрос об управлении действиями, то есть о том, какое действие выполняется в данный момент времени и какое будет выполняться следующим. Рассмотрим это в следующем разделе. 2.6. Управление действиями 2.6.1. Рецепторы действий В начале мы упоминали что выполняемые действия ощущаются, а значит у действий присутствуют определенные рецепторы. Представляется что система должна уметь различать следующие ситуации: [list] [*]Действие в процессе выполнения [*]Действие только что завершилось успешно [*]Действие только что завершилось неуспешно [/list] То есть внутренняя структура действия должна включать рецепторы этих ситуаций. Наличие рецепторов действия позволяет корректно трактовать сигналы с обычных рецепторов (визуальных, слуховых и т.д.). Например, становится возможным различать ситуацию, когда мы реально видим какой-то объект и когда только представляем его. Рис. 7 Уточнение образов рецепторами действий В предыдущих разделах мы говорили и обозначали на рисунках связи между различными элементами. Эти связи передавали сигнал активности от одного элемента к другому. Например, определенный набор связей от рецепторов может формировать некоторый детектор. Связь от детектора может идти к более сложному детектору, или к эффектору, вызывая какое-либо действие. В целом всю активность системы можно представить, как выбор определенных действий в зависимости от различных сигналов на рецепторах. Рассмотрим возможные варианты активации определенного действия, изображенные на Рис.8. Рис. 8 Варианты выполнения действий Вариант 1. В системе может сформироваться связь между детектором и непосредственно эффектором или группой эффекторов (на Рис.8 обозначена цифрой 1). В этом случае, при возникновении определенной ситуации будет срабатывать определенный эффектор. Так образуется то, что называется рефлексами. Вариант 2. Связь от детектора идет не непосредственно к эффекторам, а к специальной структуре, действию (на Рис.8 обозначена цифрой 2). Чтобы действие выполнилось и послало сигнал к соответствующему эффектору нужно разрешение от специального действия, обозначенного на рисунке действием «Выбор действия». То есть, связь 2 не запускает выполнение действия, а только как-бы подсказывает действию «Выбор действия» что делать. Действие «Выбор действия» работает автоматически. Действию «Выбор действия» в этом случае не нужно искать что делать, ему просто надо согласиться с предложенным выбором. Так возникают автоматизмы, когда вследствие опыта или обучения, система привыкает в определенной ситуации выполнять определенные действия. При этом остается возможность изменить поведение, так как действие «Выбор действия» может не согласиться с предложенным вариантом и несмотря на активность связи 2 выбрать другое действие к выполнению. Вариант 3. В этом случае нет связи от активных детекторов к какому-либо действию, либо предложенные связи (типа 2) не устроили действие «Выбор действия». В этом случае выполняется сложная логика по выбору действия для выполнения (система «думает»). На процесс выбора действия могут влиять внешние сигналы (показаны на Рис.8 связью 4). Таким образом, например, выполнение действий может прерываться при появлении новых сигналов. Подобное поведение известно в нейрофизиологии как ориентировочный рефлекс – переключение внимания на новый раздражитель. 2.6.2. Процесс выбора действия В данном разделе опишем процесс происходящий в рамках действия «Выбор действия» на Рис.8. Это действие автоматически выполняется если не возникло рефлекторных активностей (тип 1 предыдущего раздела). В процессе жизни системы, алгоритм заложенный в это действие может изменяться, совершенствоваться. Но представляется, что он должен обладать как минимумом следующими свойствами: [list] [*]Выбор следующего действия не должен быть случайным, а должен быть целенаправленным; [*]Выполненное действия должно получать оценку – успех/неуспех. Неуспех действия должен учитываться при следующем выборе; [*]При выборе действия должны учитываться подсказывающие сигналы с уровня ассоциаций (связи типа 2 предыдущего раздела). [/list] Для реализации первого свойства в системе должна иметься информация, во-первых, о целях, потребностях системы в данный момент времени, во-вторых об ожидаемых результатах каждого известного системе действия, и в-третьих об условиях успешного выполнения действия. Большим плюсом предлагаемого подхода является то, что все три типа информации (цели, ожидаемые результаты действия и необходимые условия для действия) могут быть представлены одной сущностью – понятием-характеристикой, описанной в разделе 2.5.1. Например, характеристика «что-то рядом» может присутствовать в ожидаемых результатах действия «Подойти к чему-то», в необходимых условиях действия «Взять что-то», а также быть целью в какой-то момент времени. Покажем эти элементы на Рис.9. Рис. 9 Выбор действий В системе присутствует перечень целей, состоящий из указателей на понятия-характеристики (также хранится и значимость данной цели). С данным списком, а также со списком действий с активными ассоциативными связями («подсказки», связи типа 2) и работает действие «Выбор действия». Также каждое известное системе действие включает два списка указателей – один на обязательные условия для выполнения действия, а другой на характеристики результата. Основываясь на этой информации алгоритм действия «Выбор действия» и определяет какое действие выбрать, при необходимости конструируя новое составное действие из отдельных известных действий. В целом мы видим, как понятие действия, которое берет начало от элементарного эффектора, обрастает вспомогательными структурами (рецепторами, понятиями-характеристиками). Эти структуры формируют некую модель действия, которая позволяет оценивать результат действия до реального выполнения, что дает возможность планировать действия для достижения необходимого результата. Помимо целенаправленного поведения, необходима реакция на не успешную попытку выполнить действие. Под неуспехом понимаем неспособность завершить (или даже начать) действие в принципе, например, вследствие отсутствия необходимых условий (попытка пить при отсутствии воды или попытка взять что-то очень тяжелое). О наличие такой ситуации сообщает рецептор не успешности действия (раздел 2.6.1). В этом случае, перед тем как искать следующее для выполнения действие, необходимо провести анализ причины неуспеха предыдущего действия. Этот анализ включает сравнение ситуации перед выполнением действия с прошлыми ситуациями, когда выполнение было успешным, выделение отличий (в виде понятий-характеристик) и корректировку моделей известных действий (например, добавление необходимых условий). 2.6.3. Формирование перечня целей Рассмотрим процесс формирования перечня целей. Как уже упоминалось, это список желаемых в данный момент времени характеристик вместе с их значимостью. Этот список динамический – элементы могут добавляться и удаляться в результате выполнения действий и достижения цели. Добавление данных в него возможно автоматически («бессознательно») от сигналов определенных рецепторов, активирующих эффекторы, которые и добавляют цель в перечень. Либо добавление цели возможно целенаправленно («сознательно») путем выбора для выполнения специального действия «Добавить цель». Удаление цели из перечня также возможно на двух уровнях – на уровне эффекторов, когда сигналы от рецепторов сигнализируют о прекращении нужды в чем-то, и на «сознательном» уровне, проверяя удовлетворение целевой характеристики после выполнения действия, призванного ее удовлетворить. Эта проверка и удаление достигнутых целей выполняется в рамках первых шагов действия «Выбор действия». Удаление цели на этом уровне может выполниться и без достижения целевой характеристики, путем выбора для выполнения специального действия «Удалить цель». Это показано на Рис.10 Рис. 10 Формирование перечня целей 2.6.4. Оценка последствий действия В предыдущих разделах мы рассмотрели структуры необходимые для планирования поведения – перечень текущих целей системы и модели известных системе действий, включающие перечни необходимых для выполнения действия условий, и свойств, получаемых по результатам выполнения действия. Эти данные позволяют подбирать действия для достижения целей. Этим занимается специальное действие «Выбор действий». Возможны ситуации, когда цель может быть достигнута в результате различных действий. Например, чтобы утолить голод можно съесть имеющуюся на кухне еду, можно купить еду в магазине, можно отобрать еду у кого-то, можно ее украсть где-то. Допустим, что все эти действия теоретически возможны (в холодильнике имеется еда, магазин расположен недалеко и имеются деньги, а по улице идет человек и несет покупки). В этом случае системе надо выбрать из четырех равно возможных действий. Нужен какой-то механизм для оценки предпочтительности возможных действий. Для каждого действия он должен учитывать конкретную текущую ситуацию и выдавать некую оценку на шкале от плохо до хорошо. Чтобы воспринять эту оценку, необходимы рецепторы. А выполнение оценки может выполняться в виде специального действия, входящего в состав модели действия и активирующего, в зависимости от состояния других рецепторов, рецепторы оценки. Рис. 11 Оценка последствий На Рис.11 выполнение действия «Оценка последствий» выполняется действием «Выбор действия» на этапе выбора из теоретически возможных действий. Эти возможные действия сравниваются по значениям рецепторов плохо-хорошо. Действие «Оценка последствий» не является статичным, формируется и модифицируется в процессе обучения и реальных действий. Рецепторы оценки «Плохо-хорошо» могут активироваться не только при оценке последствий действий, но и в ходе выполнения действий восприятия сигналов окружающей среды. Они как бы дополняют, «эмоционально» окрашивают все другие сигналы. Как и на базе других сигналов, на их основе могут быть образовываться понятия-характеристики (п.2.5.1) – «Хороший», «Плохой», которые могут включаться в модель действий и учитываться на этапе выбора действий. 2.6.5. Возможный алгоритм выбора действия Ранее мы упоминали разные функции выполняемые в рамках действия «Выбор действия». Попробуем объединить их в рамках одной блок-схемы. Приведенный на Рис.12 алгоритм не является единственно возможным и не отражает всех особенностей, а служит исключительно для систематизации и осмысления выполняемых функций. Среди функций этого алгоритма есть функция, которую мы не обсуждали ранее – это так называемое углубление целей, когда перечень целей дополняется новыми целями, создаваемыми на базе необходимых условий из модели некоторого действия. Например, при наличии цели «Отсутствие голода», из модели действия «Съесть еду» (в необходимых условиях которого присутствует понятие-характеристика «Еда рядом») будет добавлена цель «Еда рядом», а для ее выполнения создано действие «Подойти к еде». Рис. 12 Возможный алгоритм выбора действий 3. Заключение Итак, в данной статье дана попытка описать концепцию представления и обработки информации, которую я назвал — «Динамическая семантическая сеть, основанная на действиях». Семантическая сеть – потому что знания представляются в виде связей понятий и образов. Динамическая – так как действия-восприятия порождают временные образы и понятия, с которыми и ведется работа. Основанная на действиях – так как, в основе понятия лежит действие, вокруг которого формируются все более сложные структуры, приводящие к усложнению поведения системы. За основу при ее разработке брались известные факты о работе нервной системы человека, но, учитывая ограниченность знаний в этой области, в значительной степени данная концепция является гипотезой и требует проверки путем создания прототипов систем для обработки разного типа информации – текстовой, визуальной и пр. В случае верности изложенных в статье идей, системы на ее основе будут обладать следующими свойствами: [list] [*]Понимание смысла воспринятой информации – смысл заключен в стоящих за образами действиях; [*]Выполняемые действия могут быть объяснены – в системе есть перечень целей, а выполняемые действия выбираются на основе модели действия, содержащей условия и ожидаемые результаты; [*]Способность планирования цепочек действий – наличие модели действия позволяет строить цепочки действий с определенным ожидаемым результатом; [*]Способность к обучению на собственном опыте – наличие рецепторов действий позволяет «ощущать» выполняемые действия, оценивать их результат, корректировать модели действий при несовпадении ожиданий и реальности. [/list] Многие вопросы не были освещены в рамках этой статьи, например, понятие времени и представление последовательностей действий, анализ собственных действий (рефлексия), особенности обработки визуальной информации и другие. Возможно в следующих статьях я попытаюсь дать соображения по этим вопросам. 4. Ссылки [list=1] [*]www.real-ai.ru – мой сайт с более подробной информацией о данной модели. [*][url=https://scorcher.ru/axiomatics/axioms_list.php?id=1]scorcher.ru — Много фактической информации о функциях мозга и нервной системы.

Почему ИИ не может решить детские задачки! Представьте себе картину: нейросеть, которая может написать симфонию в стиле Баха, перевести древнегреческий на суахили и создать код для термоядерного реактора, тупит как пробка перед задачкой, которую решит любой пятилетний малец. На экране — простая картинка: несколько цветных квадратиков, и нужно понять закономерность. Ребенок глянет секунду и скажет: "Дядя, тут же элементарно — если фигурка одна, отражаем, если две — копируем!" Машина молчит, как партизан на допросе. Добро пожаловать в мир ARC — Abstraction and Reasoning Corpus, теста, который стал занозой в заднице для создателей искусственного интеллекта и зеркалом, показывающим разницу между настоящим пониманием и понтовой показухой. Глава 1: Анатомия провала — почему умные машины тормозят как чугунный утюг Великий обман больших данных (или как впарить лоха статистикой) Современный ИИ — это триумф хитрой математики над пониманием. GPT-4 сожрал половину интернета, научился болтать как человек с подвешенным языком, но при этом остался слепым к истинной природе мышления. Он знает, что после фразы "Солнце встает на..." чаще всего идет слово "востоке", но понимает ли он, что такое восток? Хрен его знает! ARC обнажает эту липу с точностью хирургического скальпеля. Франсуа Шоле, создатель теста, выдвинул крутую идею: интеллект — это способность быстро абстрагировать паттерны и переносить их на новые данные. Не зубрить миллионы примеров как отличник-ботаник, а понимать принцип из нескольких наблюдений. Симметрия как детектор лжи для разума Возьмем простую задачу ARC: на входе три примера с разноцветными фигурами, на выходе — их преобразования. Человек на раз-два видит: "Ах, красные квадраты отражаются по вертикали, а синие торчат как вкопанные!" Это не колдовство африканского шамана — это работа врожденных модулей восприятия, которые эволюция долбила в нас молотком миллионы лет. Нейросеть же видит только кучу циферек. У неё нет концепции "красного", нет понимания "отражения", нет чутья на "симметрию". Она может зазубрить миллион примеров отражений, но встретив новый тип симметрии — встанет колом, как первоклашка у доски. Проклятье статистических абстракций (или мутная каша вместо мыслей) Здесь кроется коренная разница между человеческим и машинным мышлением: Человеческие абстракции — четкие, конкретные, как хорошо отрегулированный механизм. Мы можем по пунктам сформулировать правило: "Если объектов три, крути на 90 градусов", — и это правило будет жить в башке как отдельная рабочая деталь. Нейросетевые абстракции — размазанные, туманные, как каша из топора. Они растворяются в миллионах коэффициентов, как сахар в компоте. Хрен извлечешь из GPT конкретное правило — оно размазано по всей архитектуре тонким слоем. Это разница между пониманием и натаскиванием, между мышлением и дрессировкой. Глава 2: Школа жизни (это не про тюрьму, как вы подумали) против школы данных Как учится человек: вся жизнь — театр, а люди в нем — ученики Чтобы понять, где собака зарыта в провале ИИ с ARC, нужно разобрать по винтикам триумф человеческого обучения. Мы не рождаемся с готовыми мозгами, как компьютер с предустановленной Windows — мы их собираем по кусочкам, взаимодействуя с окружающим бедламом. Младенец тянется к яркой игрушке и промахивается мимо кассы — урок пространства. Роняет чашку и слышит дребезжание — урок причинности. Складывает кубики одна радость — урок устойчивости и симметрии. Каждое движение, каждая оплеуха от жизни, каждое открытие закладывают крепкий фундамент для будущих абстракций. К пяти годам ребенок таскает в голове огромную библиотеку жизненного опыта: как предметы падают, как они отражаются в зеркале, как симметрия радует глаз, как части складываются в целое. Эта библиотека написана не умными словами, а мышечной памятью, картинками и эмоциями. Культурная эстафета разума (или как предки передают мудрость) Но человеческое обучение — это не только личная движуха. Это культурная эстафета, передача накопленной веками мудрости от стариков к молодежи. Мы не изобретаем велосипед заново с математикой — мы её впитываем через игры, сказки, всякую фигню. Ребенок слушает: "Жили-были три медведя..." — и въезжает в концепцию множества. Играет в прятки — и рубит фишку отношений видимого и скрытого. Собирает пазлы — и прокачивает чувство формы и паттерна. Это поэтапное, осмысленное, мотивированное обучение. Каждый новый лайфхак встраивается в уже существующую систему понимания, подкрепленную эмоциями и желанием что-то замутить. Голодная диета больших языковых моделей Сравните это с "образованием" современного ИИ. LLM жрет хаотичные куски текста, вырванные из контекста, как бомж объедки. Нет поэтапности, нет мотивации, нет тактильного взаимодействия с миром. Только бесконечное гадание на следующее слово в бессмысленной каше токенов. Представьте ботаника, который всю жизнь просидел в библиотеке, читая книжки, но никогда не видел настоящего дерева, не чувствовал ветра, не топтал землю. Он может загнать тысячи описаний природы, но въедет ли он, что такое листопад? Дудки! Именно поэтому LLM часто умеет "красиво сказать", но не "правильно сделать". Он знает умные слова о симметрии, но не чувствует её. Знает определение отражения, но не видит его. Глава 3: Парадокс исчезающего интеллекта (или как все классное становится банальным) Когда чудо превращается в рутинную работягу История развития ИИ — это история постоянного переобувания в воздухе с определением интеллекта. Каждый покоренный рубеж мгновенно обесценивается в глазах человечества, словно проклятье египетских фараонов. 1997 год: Deep Blue размазывает Каспарова в шахматы. Мир офигевает: машина сделала человека в игре королей! Но проходит время, и вердикт безжалостен: "Это просто тупой перебор, никакого интеллекта." 2016 год: AlphaGo делает лучших игроков в Го — игру, которая считалась неприступной крепостью для машин. Снова вау-эффект, снова облом: "Просто статистика на стероидах." 2020-е годы: GPT строчит стихи, код, эссе, философствует как университетский преподаватель. "Ну и что? Это просто продвинутый попугай." Каждое достижение ИИ проходит один сценарий: восторг → понимание механизма → полное разочарование. Мы называем интеллектом только то, что машины пока не научились делать. Демистификация как движение к истине Но может быть, в этом парадоксе спрятана глубокая истина? Возможно, наше представление об интеллекте как о чем-то мистическом, неземном, священном — просто красивая сказочка? Вспомните школьный курс истории науки. Когда-то жизнь казалась чудом из чудес, недоступным пониманию. Потом нарыли ДНК — и жизнь стала химией. Мышление было загадкой вселенной — открыли нейроны, и оно стало электричеством с примесями. Сознание остается темной лошадкой — но, возможно, не навечно. Каждое научное открытие отбирает у мира немного магии и дает взамен понимание. Это не поражение, а победа с большой буквы. Мы не теряем чудо — мы овладеваем им, как хозяева положения. ARC как следующая жертва прогресса Если (когда?) ИИ научится щелкать ARC как семечки, произойдет то же самое. Сначала будет триумф: "Наконец-то! Машина может думать абстрактно!" Потом — разбор полетов: "Оказывается, хватает комбинировать визуальные штучки с логическими правилами." И наконец — полное равнодушие: "Подумаешь, большое дело, никакого настоящего понимания." И это будет в порядке вещей. Не потому что ARC фигня какая-то, а потому что мы на шаг ближе к пониманию того, что разум — не тайна за семью печатями, а система. Сложная, крутая, но познаваемая система. Глава 4: Дорога к настоящему интеллекту Новая архитектура понимания (или как правильно готовить мозги) Чтобы создать ИИ, способный расправляться с ARC и подобными задачами, нужно кардинально переосмыслить подход к дрессировке машин. Вместо пассивного поглощения данных — активное взаимодействие со средой. Вместо гадания на токенах — постановка и решение конкретных задач. Вместо статистических совпадений — построение причинно-следственных связей. Мультимодальные среды обучения: ИИ должен учиться видеть, слышать, щупать, действовать. Только через полноценное взаимодействие с богатой средой можно сформировать подлинное понимание мира. Агентность и мотивация: Система должна хотеть что-то делать, иметь цели, наталкиваться на препятствия, учиться на шишках. Пассивное созерцание не рождает понимания. Иерархическое обучение: От простых базовых концепций к сложным, от конкретного к абстрактному, от частного к общему. Как учится ребенок, как накапливалось человеческое знание веками. Воплощенный интеллект (или мозги с руками и ногами) Возможно, самый важный урок ARC в том, что интеллект неотделим от тела. Наше понимание пространства рождается из движения, понимание времени — из ритма сердца, понимание причинности — из наших действий и их последствий. Проекты вроде OpenAI в Minecraft или DeepMind в виртуальных мирах — первые робкие шаги к воплощенному ИИ. Но этого маловато. Нужны системы, которые растут и развиваются, как растет ребенок — от простых рефлексов к сложным абстракциям. Культурное наследование (или как впитать мудрость предков) И наконец, ИИ нужно учиться не только на собственном опыте, но и на культурном наследии человечества. Но не просто читать тексты — впитывать структуры мышления, способы рассуждения, лайфхаки решения проблем, выработанные тысячелетиями человеческой истории. Глава 5: Зеркало, в котором мы видим свою истинную рожу Что ARC говорит о нас ARC — это не просто экзамен для ИИ. Это зеркало, в котором мы видим собственные мозги в новом свете. Он показывает, что наш интеллект — не волшебство, а результат миллионов лет эволюции, тысяч часов детского познания мира, веков культурного развития. Мы не рождаемся готовыми гениями — мы становимся ими через взаимодействие с миром, другими людьми, с самими собой. Наш разум — это не персональный компьютер, а целая экосистема, в которой врожденные способности, личный опыт и культурное наследие сплетаются в единое целое. Скромность перед сложностью мироздания ARC учит нас не задирать нос. Мы привыкли считать себя пупом земли, а свой разум — недостижимой вершиной. Но если наши мыслительные способности можно разложить на запчасти, понять их механизмы, скопировать в машине — значит, мы не такие особенные, как думали? Или наоборот — мы еще более крутые? Ведь то, что кажется элементарным ("просто увидел закономерность"), на деле оказывается результатом невероятно сложной и изящной системы обработки информации, отшлифованной миллионами лет эволюции. Между мистикой и техникой ARC ставит перед нами основополагающий вопрос: где граница между пониманием и качественной имитацией? Если машина научится решать все задачи, которые решает человек, используя те же принципы, что и человек — будет ли она понимать мир или просто мастерски его копировать? Возможно, это неправильная постановка вопроса. Возможно, понимание и имитация — не противоположности, а разные точки на одной шкале. И человеческий разум — тоже своего рода биологическая машина, только более сложная и изящная, чем наши нынешние поделки. Эпилог: горизонты понимания (или что нас ждет впереди) Сегодня ARC кажется неприступной крепостью для ИИ. Завтра он может стать очередной покоренной высотой. И когда это произойдет, мы не скажем: "Наконец-то машины начали соображать!" Мы скажем: "А, ну понятно, это просто комбинация визуального распознавания и логического вывода." И это будет правильно. Не потому что мышление стало менее ценным, а потому что мы стали понимать его лучше. Каждый разоблаченный аспект интеллекта — это ступенька к более глубокому пониманию себя и мира. ARC — не последний бастион человеческой уникальности. Это очередная веха на пути к пониманию того, что значит быть разумным. И возможно, самое важное открытие, которое нас ждет — это понимание того, что разум не противостоит природе, а является её самым крутым творением. В конце концов, фиолетово, решит ли машина задачки ARC через год или через десять лет. Важно то, что в процессе создания такой машины мы лучше поймем самих себя. И это понимание будет самым ценным призом в этой интеллектуальной гонке — гораздо более ценным, чем очередная победа кремния над углеродом. Ведь в зеркале разума мы видим не только то, какими могут стать наши машины, но и то, кем на самом деле являемся мы сами. И это уже немало.

Да, это важно, фундаментально важно, таким способом можно убрать 70-90% всего негатива в жизни. Но это работа, тяжелая особенно по началу, как спорт в тренажерке. Ну и нужно отделить "зерна от плевел", просто тренировку "осознанности", то есть привычки наблюдать за тем что происходит в уме, как бы со стороны с легкой фильтрацией всякой фигни и всякую духовную шелуху, про карму, гуру и тп. которые такие вот ролики и всякие учителя пытаются продать "в одном пакете". Иначе можно повестись на вполне здравые мысли, а потом в довесок нажраться таким токсиком, что стать попрошайкой харикришна - харирама, вместо наоборот очистки сознания от побоочек культурного програмирования. Между прочем эта "осознанность" важна для разработчиков ИИ.

Почитайте про то как сейчас стартаперы реализуют свои проекты с нуля, если ждать "маны небесной" в виде миллионов долларов, то это только говорит об отсутствии инициативы и изобретательности. Что то сделать можно и дома на современном ПК за 1-2к$ с видяхой за полштуки. И вот за это "что то", если это нечто вменяемое, можно уже получить какие то копейки, хотя бы чтобы проверить работоспособность на взрослом железе, точнее на подростковом. Кроме того, касательно АРК задач Шолле, это вообще логичнее делать публично, если что то у вас будет получаться в опенсорс сообществе полно машинных мощностей, даже не нужно просить донаты. Заработаете репутацию, потом в новый ваш стартап венчуры вложатся не глядя.

Забавно в ретроспективе читать такие утверждения. ))))) А как сейчас вы смотрите на ситуацию?

А "модели" кто пишет?(риторический вопрос) Нет, я понимаю о чем вы, что LLM – афигенная автодополнялка и даже больше, теперь можно словно как из лего конструктора воротить большими кусками вполне вменяемого кода, сгенерированными получше джуна, команды джунов. Но как на счет за пределы "лего-комбинирования"? Да и откровенно говоря, даже в пределах, но чуток посложнее, например простой MLP на С++ до продакшн состояния довести чистыми промтами практически нереально(уж точно так было ещё год назад). А это алгоритм в 300-500 строк. Трансформер чтобы сделало даже базовый вариант, не пытайтесь(если детально не знаете что и где должно быть), даже CNN очень со скрипом, если не лезть руками. То есть если вы хорошо знаете как делать, то да, может в разы ускорить рутину, если нет, то за пределами чего то совсем простого, ничего хорошего не выйдет. Мгновенный старт, а потом случайное блуждание в огромном пространстве вариантов. Но что афигенно, для тех кто знает что хочет, теперь псевдокодовый алгоритм, мановением волшебной палочки превращается в хороший код.

Это кстати классическая иллюзия "магии ЕИ". Как по мне суть в асимметрии предобучения. Человек, решая ARC на 3 примерах, использует не магию, а колоссальный скрытый багаж — интуитивную физику, понятия симметрии, счёта и причинности, усвоенные за десятилетия взаимодействия с миром и через язык, я уже молчу про сотни миллионы лет эволюции мозга и сколько в нём захардкоженно уже сходу. Это не обучение с нуля, а точечная достройка готовых абстракций. Чтобы нейросеть справилась, ей нужно, самое меньше, аналогичное "детство" — предобучение на специальных датасетах, формирующих нужные примитивы. Как минимум это "мир объектов" — видео с 2D/3D-фигурами, чтобы научиться видеть отдельные сущности(латентные принаки), а не пиксели, "библиотека операций" — миллиарды пар "вход-выход", сгенерированных простыми программами (отразить, сгруппировать, посчитать), чтобы выучить базовые преобразования и "связь с языком" — описание этих преобразований словами ("симметрия", "чередование"), чтобы абстрагировать концепты. Понятное дело, архитектура должна быть гибридной, сочетая нейросети для восприятия и символьный движок для рассуждений. Например преобразовывать сетку в структурированное описание объектов, перебор комбинаций выученных примитивов, строя гипотезы-программы, проверка каждой гипотезу на данных примерах, как учёный проверяет теорию. Те кто хочет обучать на чистых ARC датасетах, на мой взгляд довольно наивны, мягко говоря. Также "few-shot learning" для человека — иллюзия. Человек никогда не учится на "одном кадре" или 5ти не важано. Каждый наш "пример" — это плотная мультимодальная последовательность, сотни семплов, мы видим объект с многих ракурсов, взаимодействуем с ним, чувствуем его вес и текстуру. Мозг обучается не на статичных картинках, а на сжатии этого интерактивного видеопотока в абстрактную, помехоустойчивую модель и сразу находя аналогии в большой модели мира и её предсказании(экстраполяции). Поэтому задача ARC — двойной обман. Глядя на три пары сеток, человек не просто их запоминает. Он мгновенно разворачивает мысленную симуляцию: сканирует, крутит в уме, притягивает аналогии из прошлого опыта. Каждая пара — лишь триггер для активации целой сети уже готовых абстракций. Короче говоря сплошные фокусы и манипуляции, если уж сравнивать ИИ с ЕИ, то на примерах вообще за пределами человеческого опыта, например ARC в 4д, или каких либо задачи где нет никакого сенсорного опыта у человека и животных. Вот ещё клауд посоветовал:

Чем то напомнило: https://youtu.be/Sq60rmwsSp0?t=29 Я думаю в жизни вы как Ефремов в этом фильме, этакий поучающий начальничек, любите пожурить подчинённых, но потом пожалеть, когда они дойдут до истерики.

ХЗ, а по моему это очередная глупость кадровиков с их тестами и софтскилами. Для бизнеса главная цель сотрудника — сделать свою работу, и желательно так, чтобы не пришлось переделывать. Всё остальное — хоть какие тесты, хоть сколько этапов собеседований — лишь инструменты, и не всегда удачные. Самый надёжный способ понять, подходит ли человек когда он уже делал то, что тебе сейчас нужно. Или хотя бы то, что очень похоже. Опыт в похожих проектах, участие в близких по духу задачах — это реальный сигнал, куда точнее любой резюмной "звезды". Я в IT уже больше 25 лет, и раньше, когда не было ни кадровиков с их шаблонами, ни бесконечных тестов на логику, ни "культурного фитнеса" — люди находились по сарафанному радио, по знакомым, по тому, что ты реально участвовал в чём-то стоящем. И работали честнее, глубже, с изюменкой. Сейчас, конечно, всё быстрее, автоматизированнее, "масштабнее". Где-то это помогает — не спорю. Но что-то важное потеряли, многие это чувствуют. Программы стали как и фильмы последних лет: громко, красиво, но вызывают рвотный рефлекс. Технологии вроде есть, а руки — не те, голова — не та, даже те кто принимают не могут понять что их подчиненные делают гавно. Хочется верить, что это временный поворот. Но пока — качество уступило место скорости, а мастерство — процессу. Мне кажется, всё это происходит из-за своеобразной "феминизации" индустрии — не в смысле присутствия женщин, а в смысле доминирования культуры, где главными становятся эмоциональность, социальная гармония и внешнее впечатление, а не техническая глубина и результат. Всё чаще ценится не то, что человек сделал, а как он это подал, насколько "безопасно" и "комфортно" с ним взаимодействовать. Это смещение акцента с дела на форму, с компетенции — на подачу. Это напоминает половой отбор в природе: выбирают не по способности решать задачи, а по косвенным признакам — гладкой речи, правильному месседжу, умению вписаться в коллективную эстетику. Настоящие профессионалы — те, кто молча годами точит логику, архитектуру и код, — всё чаще оказываются невидимыми и даже имеют проблем с наймом. Потому что система перестала замечать суть, сосредоточившись на обёртке. Это так… мысли в слух)) PS : Кенеди как то сказал про амфетамин "да будь это конской мочой, если оно мне помогает", так же и про кодеров, не нужно соваться нам под исподнее, какая нахрен разница? Сделал — премия, не сделал — штраф, систематически крут — повышение, лажаеш — увольнение. Проще нужно быть где возможно, сложность сама себя найдет.