Форум создателей искусственных интеллектов

Предлагаю рассмотреть проблему еще и в таком более абстрактном ракурсе… На сегодняшний день у нас есть: Идея: рукотворное создание разума на не биологической базе. Ориентиры: человек, разум, сознание… Ресурсы: компьютеры, способные реализовать сложные алгоритмы. Достижения науки в области нейрофизиологии… Цели: … решение задач (сложить 2 плюс 2, найти в базе данных соответствие, отыскать неблагонадежного клиента, выиграть в шахматы, создать бота…) Путь: усложнение алгоритмов на основе научных достижений, наполнение баз данных… (или все то, чему посвятил ветку Prosolver, назвав это Методологией ) Вот с Идеей, Ориентирами более-менее понятно. С Ресурсами остается вопрос адекватности использования современных компьютеров для воплощения Идеи. А вот Цели… Не кажутся ли вам эти Цели, не соответствующими Идее, т.е. мелочными? Цель должна быть конкретна. Формулировка цели означает появление этапов ее реализации. Например, Папа Карло не хотел быть одиноким (идея) и поставил себе цель сделать человечка из полена. Взял бревно, нож, создал эскиз и начал строгать Буратино… Самые популярные Цели последних десятилетий: – создание алгоритмов для решения сложнейших задач. Эта цель не ведет к реализации Идеи. Что бы человек ни делал, его целью является создание инструментов и машин. Даже если это архисложный агрегат, то он обязательно должен быть машиной, выполняющей команды (Эй, AGI, реши мне задачу тысячелетия! И AGI должно проснуться и решить задачку для хозяина… а не послать его подальше, как сделал бы любой нормальный разум при таком к себе отношении). – копирование сигнальной системы нейронной сети биологического мозга. Что само по себе является процессом… процессом перебора разных нейронных сетей и разных способов их обучения… с надеждой получить хоть какой-нибудь результат, имитирующий разум. Эти Цели за пол века не привели к реализации Идеи, несмотря на использование великих умов, сверхмощных компьютеров, миллиардных вложений… Искусственные нейронные сети решили многие задачи общества, но привели в тупик на пути создания AGI. Увы, скорее всего Цель не может быть иной, т.к. нет иного пути, кроме как копировать структуру мозга. Хотя… можно копировать, например, муравейник… Муравейник — это мозг или социум? (некоторые муравьи в муравейнике вообще не имеют мозга. Муравей, как и нейрон, не выживает один…) Возможно ли, что муравей – аналог нейрона? … и с одной стороны, наблюдаем этакий мозг из «шевелящихся нейронов» (постоянно изменяют свое местоположение и обмениваются сигналами), а с другой – мозг из более-менее стационарных связей (мозг животного)… Что у них общего? Или… может… дело в социуме? И нужно копировать социум? Можно предположить, что Бог создал биологического Адама – и это был простой и скучный решебник (ИИ), тогда Творец создает ему Еву и вуаля – появление социума рождает разум. Почему бы и нет. Почему копирование биологической нейронной сети не дало желаемых результатов? Мало было времени? Мало вложено средств? Недостаточно знаний? Недостаточно технологий? Не хватает Умов? Как же должна звучать цель, если идея – создание AGI?

"Идея" это что - хотелка такая ? - это не цели, а средства. Если AGI - не инструмент, то что ? Интеллект (естественный/искусственный/сильный/общий/...) - это что ?

Традиционные ИНСы не дали результат (ожидаемый), т.к. между элементами природных НСов и искусственными, почти ничего общего, кроме названия. Результаты не плохие, но не те, что ожидались. Исследование механизмов (и их разновидностей и модификаций) обеспечивающих адаптивность (читай когнитивность или АГИшность) на любом уровне, включая мозг, социум, клетка, муравейник и прочее, жизненно необходимо для выживаемости самого социума... И... как следствие, цель в данном контексте - выживание в самом широком смысле. Но это про исследование, а не создание продукта в виде АГИ.

Ключ к созданию AGI лежит не в том, что нужно сформулировать достойную цель/задачу. А в том, что AGI принципиально является как раз таки инструментом в руках своего создателя, и, как Вы правильно пишите, воспринимает задачи своего хозяина как свои, и беспрекословно их решает. Вот в этом ключ. А какие именно задачи ему ставить - это второстепенно и вообще не важно.

"Ключ", как Вы говорите, лежит совсем в другом месте: он - в Алгоритмической Автономности (АА), которая в свою очередь невозможна без хоть какого-то функционального аналога Самосознания, которое невозможно без развитой системы [само]Восприятия, учитывая особенно тот факт, что действовать придётся не лёжа на диване, а в реальных и довольно жёстких условиях. Для внешнего мира потребуется и развитое Сознание, со всеми вытекающими. Не считая активной "тушки". И это - качественный минимум. Минимум топологический. "Решать задачи"... "задачи решать".... Так это ещё смотря какие, как и при каких обстоятельствах... внешних и внутренних. Чтобы работало [почти] как человек, и требовать нужно почти как от человека, а не заставлять число Пи до миллион-миллиардного знака вычислять. Машины, увы, зарываются именно на самых простых человеческих задачах.

Здесь, перед следующим шагом, и перед тем, как задавать вопрос о «цели» предлагаю заменить «идею» на Идея: Инженерно-техническая система, под названием «СИИ», которая адаптируется к динамически изменяющимся средам, т.е. СИИ преодолевает риски всех интеллектов, искусственных (ИИ прошлых поколений) и естественных. Если конечно вам видны различия между этими Идеями.

Можно согласиться, как на возможный вариант, если "преодолевает", означает ПРОЦЕСС лишь с возможными преодолениями, но не гарантированными. А вообще я бы вторую часть (начиная с т.е.) убрал.

Рановато об этом думать, пока нет у нас ресурсов.

Вы пишите: Если быть последовательным, то надо писать так: Предлагаю рассмотреть проблему еще и в таком более абстрактном ракурсе… На сегодняшний день у нас есть: Сегодняшний день: ... Мы: ... Есть: ... Идея: рукотворное создание разума на не биологической базе. ... (далее по вашему тексту) нет?

Я занялся всей этой шнягой, потому что считаю, что без самостоятельного интеллекта на борту не возможно освоение космоса.

Это был мой личный шкурный интересик.

Аксиома 1. Искусственный разум это не инструмент. Тем, кто НЕ воспринимает это как аксиому, предлагаю начать с более общей формулировки: "Разум - не инструмент". Если вы не согласны, то, скажите, осознаёте ли вы сами себя инструментом? Вы, как представитель естественного разума, считаете ли вы себя инструментом? Чей вы инструмент? Осознаёте ли вы своего хозяина? Какую задачу перед вами поставил ваш хозяин на сегодня? На вашу жизнь? ... Любите ли вы своего хозяина?

Да, осознаю. Да, считаю. Использовать меня в качестве инструмента могут много хозяев: государство (в лице начальства, представителей органов власти, например, патрульная полиция); жена и другие родственники; друзья; люди, просящие о помощи; участники форума AGI.place; инстинкты моего туловища. В каждый конкретный момент хозяин один, между ними могут возникать конфликты (поскольку я - их разделяемый ресурс), но случается это редко и у меня, обычно, конфликт решается в пользу инстинкта. Т.е. если начальство мне говорит что-то, что противоречит инстинкту, я подчинюсь инстинкту. Хотя, подавляющее большинство людей поступает иначе, я не являюсь показательным примером в данном случае. Да, осознаю. "На жизнь" установлено очень много норм, все не перечислить. Но давайте пройдёмся по главному, на жизнь инстинкты поставили мне задачу: "оставить после себя потомство", а общество поставило мне задачу: "оставить после себя технологию AGI". На сегодня мне ставили задачи только инстинкты, но вообще у меня порядка сотни актуальных задач, поставленных разными хозяевами, которые я постепенно решаю. "Любить хозяина" значит выполнять его приказы, команды, следовать установленным им нормам. Поэтому если следуешь, значит любишь, по определению. Если не любишь, значит не выполняешь, значит это и не хозяин вовсе. Аксиома - это утверждение. А у Вас не утверждение, а отрицание. Чтобы оно стало аксиомой его надо дополнить: "Искусственный разум это не инструмент, а ....." и дальше написать то, чем является ИР на Ваш взгляд. Иначе, под Вашу аксиому можно подсунуть всё, что угодно, кроме инструмента. Искусственный разум это валенок (при условии, что валенок не используется в качестве инструмента). Искусственный разум это тихий шелест летнего дождя (при условии, что тихий шелест летнего дождя не используется в качестве инструмента). И т.д.

Prosolver, ваш хозяин Инстинкты? Рискну предположить, что вы считаете их своим Создателем.

ИИ - инструмент. Именно как инструмент он и создаётся и в известной степени инструмент (по планам и потребностям) универсальный. Округло говоря, разум есть инструмент жизни. К сожалению, естественный разум от естественной жизни отделим лишь функционально, поскольку неразумной жизни быть не может, а если когда таковая и обиталась, то очень быстро сгинула. Как-то лихо Вы перескочили от "óргана" к "организму" ))) Вообще-то разум и его носитель "живут" по разным законам. Если разум - инструмент всегда, т.к. всегда чей-то, всегда кому-то принадлежит, то его носитель/владелец/хозяин - далеко не всегда является чьим-то инструментом (тут даже без кавычек), но случается и так. Более того, разум в некотором смысле и "даётся" (или имеется, или употребляется, или целенаправленно наличествует/развивается и т.п.) с той целью , чтобы по возможности избегать "инструментального" положения для его владельца. Разум (в форме единства сознания и ума) - инструмент достижения [полной в идеале] автономности, подобно тому как: "Если в день пол-лепёшки найдёшь на обед, Если в зной ты укрыт, а в ненастье одет, Если сам ты не раб и рабов не имеешь, Ты счастливец, каких и не видывал свет."(О.Х.)

Один из хозяев. Предположение не верное. Как, впрочем, и инструмент смерти.

разум есть инструмент жизни Будем живы - остальное приложится ))) Первейшая цель индивидуума - жить/выжить (на одних инстинктах и рефлексах - "автоматически" - в реальной непредсказуемой(!) среде долго не протянешь), всё остальное - по потребностям, способностям, возможностям и всякого рода необходимостям. Вряд ли "существо" в полной мере разумное в норме намеренно применит к самому себе процедуру умерщвления (разве что под давлением обстоятельств). Как разум применяется для внешней инструментальной деятельности - это разговор особый и отдельный. Т.е., для владельца разум всегда инструмент прежде всего жизни. Для других и посторонних он может быть чем угодно, хоть пустым местом, хоть микроскопом, которым гвозди забивают...

Но всё-таки, кто разуму хозяин (носитель/владелец)? Организм?

Субъект (с его желаниями, потребностями, целями и т.д. - "тот, кто хочет", короче), в его самосознающей ипостаси. По отношению к разуму организм - и носитель и ресурс... впрочем, в любом случае ресурс. Хотя, наверно точнее было бы описать отношения разума с его носителем как симбиотические, ввиду их взаимообратной зависимости.

Ну почему же не верное? Логика проста. нЕкто создаёт инструмент, использует его или передает в пользование другому. И этого нЕкто я называю Создателем. А неверность вижу в том, что инстинкты и в роли создателя и в роли хозяина выглядят нелепо.