Форум создателей искусственных интеллектов

Давайте представим, что некоторый разум решил эту задачу для себя и своих потомков настолько хорошо, насколько это возможно в нынешних условиях, а таких, положа руку на определённое место, в мире немало. Что тогда ? Чем он будет заниматься ? Он же прокиснет без дела, растворится за ненадобностью - и такое тоже происходит постоянно. Так как поступать существу, когда оно РЕШИЛО задачу своего гарантированного выживания хотя бы на несколько дней вперёд ? Что делать ? p.s. Тут, понимаете ли, появляется старый как мир вопрос: смысл выживания понятен - чтобы жизнь продолжалась, а в чём тогда смысл продолжения жизни ?

Речь как-раз о едином для всех уровней самоорганизвции принципе перехода биологических сообществ с низшего на высший Самовоспроизведение опыта выживания требует ресурсов и образца. Образец делится с копией ресурсами, которые и ему бы пригодились. Да и сам процесс рискованный. На разных этапах развития принцип реализуется по разному. Надеюсь, какой-то богомол смог спасти Вам жизнь, пожертвовав головой.

Это что ещё за принцип такой ? "Бей своих, чтобы чужие боялись" ? "Самовоспроизведение опыта выживания" ? - ))) Если бы всё так просто было, то никакой интеллект не потребуется - самовоспроизвёлся и никаких забот ! Дубля породил на свет и дело в шляпе. Есть только одна проблемка - полный дубль не получается, тем более у многоклеточных. Даже насекомые вынуждены чему-то учиться самостоятельно. Вы вообще в курсе, что организмы растут и развиваются ? Что они не готовенькими ко всему и вся рождаются ? Вот о том и говорю: не смешивайте разные уровни иерархии - не валите в кучу слонов с микробами. И уж договаривайте, не надо мутить - какой-то "единый принцип", как-то "по-разному".

Когда известны альфа и омега, между ними может быть только рефлексия.

Я бы иначе выразился: когда сказать нечего по существу, то лучше не нести пургу и не пороть чушь всякую, а скромно помолчать )))

Но вы же не ответили на вопрос, и убежали далеко вперёд... отсутствие последовательности не приводит к желаемому результату.

Я уже 101 раз отвечал, даже без вопроса: разумное поведение начинается с решения именно этой задачи. Но(!) не только разумом она решается. Есть отработанные автоматизмы и врожденные защитные механизмы, которые работают на результат порой быстрее и эффективнее. Ум - на перспективу, как защита от будущего. При непосредственной опасности он будет скорее мешать, ввиду своей медлительности. Ум - средство стратегическое. Что до "основной задачи", как Вы выражаетесь, то чаще всего у развитых животных её решают... родители ))) Вот если бы всякое существо от рождения было предоставлено самому себе, тогда да. Но даже икру рыбы мечут не где попало !

Туловище, организм. Если разобрать этот вопрос детальнее, когда разум учиться выживанию, он просто выучивает нормы, которые, как ему кажется, обусловят выживание организма. Кушать три раза в день, избегать падения на голову тяжёлых предметов, не ходить по тёмным подворотням и т.д. Если мы посмотрим на эти правила, то в них нет ничего такого особенного, что отличало бы их от правил служения менее популярным идеологиям. Более того, при более тщательном рассмотрении этих правил окажется, что некоторые из них ведут организм к ускоренной гибели, а человек им следует только потому что ему "мама в детстве так велела". Нет, не согласен. Основная задача - это такая задача, в пользу которой будут разрешаться все (любые) возникающие противоречия всегда. Но мы видим, что по факту это не так. Иногда человеки совершают поступки, которые противоречат выживанию. Значит квантор всеобщности тут неуместен. Это логика. Наберите в гугле: "погиб делая селфи". Давайте не будем передёргивать. Речь ведь не идёт о том, что AGI должен полностью забыть о своей сохранности, и забить на свою целостность. Если он погибнет (разрушится, дезинтегрируется), то он не сможет мне верно служить. А значит погибать неправильно. Вопрос в приоритетах. Цап, почему-то полагает, что выживание должно быть именно главной императивной задачей, в пользу которой решаются все противоречия. Только с этим я не согласен. По сути, любая практическая задача для автономного AGI должна привести его к пониманию того, что решать её он сможет только если сам будет цел и работоспособен. Выживание и самосохранение - это необходимое условие для решения многих задач, но уж никак не "основная задача".

Как жалко-то. Я надеялся, что Вы продолжите веселить меня своими комментариями.

Это основная задача не для особи, а для жизни вообще. Поэтому в социуме многим улыбается получить премию дарвина за хайп. Иначе скучно. Многим, но далеко не всем. А другие смотрят и делают выводы. Они не сильно яркие, но их большинство.

Всему своё место и время. Лично я здесь пребываю не веселья ради, но случается помимо желания, как вот в этом, например: - нет никакой "жизни вообще", а тем более задач для такой "вообще жизни". Противодействие смерти (умиранию) - это не задача для жизни, а её сущность. Задачи и смыслы возникают поверх сущности, над сущностью.

С одной стороны, когда-то эта задача была определённо основной, но всё проходит, прошло и это. С другой стороны, никто её не отменял и отменить пока не в состоянии, она постоянно присутствует как фоновая, как "аппаратное прерывание". Дойдёт ли до неё - это по ситуации. А мне думается, что "необходимым условием для решения многих задач" является сама жизнь, житие, пребывание в живом состоянии, как результат выживания и самосохранения. Ведь если делать 10 дел одновременно, то скорее всего ни одно не получится хорошо - как-то всё равно получится, но далеко не лучшим образом.

Лучше, поговорить про совершенно потрясающий механизм обобщения, т.е. оптимизации, и построения нового, который зашит в геноме на равне со скукой. Я говорю о неразделении близнецов. Чаще он срабатывает, как смерть за селфи, но иногда случается эволюционный прорыв, как в случае с неразделением двух плоских червей. Похоже, главным свидетельством успешного срабатывания этого механизма являются различные виды симметрий.

Тогда уж лучше поговорить о сф.конях в вакууме, чем о "скуке, зашитой в геноме".

Спасибо. Ваше многословие не ведет к результату, но оно, иногда, хорошая провокация к размышлению. Временами я прихожу к крамольной мысли, что разговор с самим собой продуктивнее диалога с кем-либо. Например: - Может ли разум решать иные задачи, не решив задачу выживания? - Нет, не может. - Должен ли создаваться искусственный разум по образу и подобию естественного разума? - Да, не иначе. - Если "по образу и подобию", то не должен ли искусственный разум первой задачей решать задачу собственного выживания, как и естественный разум? - Да, не иначе. - Существуют ли проекты по созданию искусственного разума, в которых первой задачей ставилось бы его собственное выживание. - Таких проектов не было и нет. - Являются ли существующие проекты проектами по созданию искусственного разума? - Нет. Ни один существующий проект таковым не является.

Ну, в общем, здесь и спорить не о чем. Всё так. С одним замечанием: разуму не обязательно решать задачу собственного выживания, даже (... а может и прежде всего) в начале пути - ему можно и нужно помочь в этом, но уметь решать задачи собственного выживания он обязан ! Для естественного разума задача выживания была когда-то единственной, но это было очень давно и нет никакой нужды повторять ошибки прошлого. У людей ведь, да и других животных, детёныш находится под присмотром и опекой взрослых, ровно до тех пор, пока тот не достигнет приемлемой автономности - и это тоже правильно. Я к тому, что не стоит воспроизводить в металле все стадии развития, когда кое-чему можно просто взять и научить в "инкубаторских" условиях, что будет и надёжнее и экономнее. И вот представьте, что всё идёт нормально, научился, выжил, а потом внезапно вдруг столкнулся с дилеммой - либо текущую задачу решать, либо снова выживать, и вот тут начинается самое интересное ! Интересное хотя бы в том, что и не всякий человек (привет Prosolver'у !) способен легко справиться с таким выбором. Сложность же в том, что здесь соломку не подстелешь и напёред не пропишешь - придётся выбирать ситуативно, здесь и сейчас, и выбирать быстро. p.s. Если в мой адрес, то пусть многословие, пусть хоть иногда, но если побуждает задуматься - я свою задачу здесь выполнил. p.p.s. Думать - да, лучше в одиночестве, но когда Вы свою мысль попытаетесь выпустить наружу, запаковывая её в слова - у Вас будет возможность убедиться как в степени её лживости, так и в степени "инвариантности" своего мышления. Т.е., какой топологии должен быть сосуд, чтобы его - наполненный до краёв - донести, ни капли не расплескав. Об этом тоже приходится думать.

- Может ли разум решать иные задачи, не решив задачу собственного перемещения? - Может ли разум решать иные задачи, не решив задачу познания мира? - Может ли разум решать иные задачи, не решив задачу поиска достоверных источников информации? - Нет, не может. Как видим, есть и другие краеугольные задачи, без которых И нормально функционировать не сможет. Но свет клином сошёлся почему-то именно на задаче выживания. Странно, не так ли? Но мы ведь знаем, почему именно выживание. Потому что логическая цепочка произрастает из убеждения, что человек якобы произошёл путём эволюции, которая движется якобы отбором особей наиболее приспособленных к выживанию. Эта логическая цепочка порочна. Даже если допустить, что она верная: 1. Разум конкретного человека не обязан быть инструментом его выживания. Мало ли чего эта пройдоха эволюция задумала. Может быть интеллект - это инструмент для построения надиндивидуальных организмов (социумов) с произвольной архитектурой и именно выживание этих социумов интересует эволюцию. А на выживание конкретных "клеток" (людей) ей в данном случае наплевать. 2. Когда человек познаёт что-то по-настоящему, он проходит через свои ошибки. Поэтому, строго говоря, научиться выживать невозможно. Перефразируя Олега Набатова: сколько раз нужно переехать человека трамваем, чтобы он научился обходить его с нужной стороны и выживать при этом. Нисколько. Человеку важно найти правильный источник норм (хозяина) и им следовать, а уж приведут они к выживанию или к гибели - покажет практика. Мало кто на самом деле целенаправленно учится выживать. Обычно для этого уезжают в непригодные для жизни места и там начинают что-то изобретать. Т.е. задача эта искусственная и надуманная. 3. Даже если Вам удалось создать AGI, главной задачей которого будет выживание, возникает сразу вопрос, зачем Вы это сделали? Ради хохмы, прикола, делать было больше нечего? Помимо того, что это опасно и оно может случайно (или намеренно) навредить своему создателю. Так ещё чтобы заставить это делать что-то полезное для себя, нужно чтобы оно обнаружило причинно-следственное отношение между своим выживанием и работой. Например, бить его, если оно не выполняет работу, или давать запчасти если оно выполняет работу. Не кажется ли Вам, что это, мягко говоря, извращение? Если уж делать AGI правильно, то следует избавить его от недостатков, присущих человеку, оставив только достоинства, ради которых только и стоит делать AGI. Иначе дойдёт до того, что AGI ещё придётся платить зарплату и тогда спрашивается нафига было маяться. 4. В задаче создания AGI главное ведь не то, какая главная задача будет перед ним стоят. А как именно, посредством какой архитектуры и каких алгоритмов он будет её решать. Поэтому не стоит зацикливаться на формулировании главной задачи. Достаточно только осознавать, что такая задача должна быть. P.S. Ирония состоит в том, что лично я очень чутко отношусь к своему выживанию и положу болт на все прочие задачи, если моему выживанию будет что-то угрожать. Но я отдаю себе отчёт, что такой AGI мне не нужен. Мне-то как раз нужен AGI жертвующий собой ради меня, а не мной - ради себя. Да, но это не значит, что нужно из образа брать всё. Нужно брать только хорошее.

... пока он есть, а может и не быть. Обязан, обязан. Иначе по головам пойдёт и свою загубит. Можно, если мозги включать. Уже поздно будет, когда приведут, если только тупо следовать. Ой ли ! Никто в здравом уме не поставит и полкопейки на то, что Вы в очередной раз вернётесь из магазина. Да и Вы сам за это последний зуб не отдадите... ну, если трезво подумать ))) (Так что там с Берлиозом ?) Мир, знаете ли, сложнее любых фантазий и нужно быть готовым ко всему. Даже если Вы приложите все свои силы, соберёте все свои ресурсы и начнёте старательно избегать таких мест, то в конце концов и не смотря на все Ваши изобретения, эти... м-м-м... "места" сами найдут Вас и придут к Вам однажды... холодной ночью. По законам термодинамики схватят Вас за горло и утащат туда, откуда не возвращаются. Ну, положим, не главной, но такой, которую рано или поздно придётся всё же решать. Выживание/самосохранение - задача ничем не лучше и не хуже других, однако, может наступить момент, когда она опять окажется единственной. А когда он наступит ? ИИ должен уметь решать такую задачу, тем более в условиях, когда иные задачи вместо него никто не решит. Возможно, задачи чрезвычайной важности, и тогда появляется ответственность не только за результат, но и за свою "жизнь"... тогда возникают мысли о цене решения и приходится выбирать, помимо норм, порядков и правил, а иногда и законов. Вот случись так (не дай господь, конечно !), что останетесь Вы без ног. Пошлёте Вы однажды свой ИИ за водой, а он не вернётся, ни сегодня, ни завтра и никогда более не вернётся... и с какими мыслями он уйдёт в поход, если обязан служить Вам надёжным костылём и опорой ? Или истории про то, как "за хлебушком сходил" тоже из пальца высосаны ?! Или Вы наивно предполагаете, что в состоянии создать нечто, совершенно неуязвимое перед априорной неопределённостью ? Случайно, говорите ? А может это тоже проблема "искусственная и надуманная" ? Вот видите, ещё ничего не произошло, а Вы уже задумались о перспективах собственного выживания... и ехать никуда не пришлось, даже пальцем шевелить. Это тоже случайно ? Так скажу: если "оно" существо действительно разумное, да ещё и сильнее, то не навредит. Если Вы ещё и думать за него будете, то действительно - нахрен он такой вообще нужен ! Извращением было бы делать не разумное существо, а дрессированную собачку... на побегушках, типа "принеси-подай". Искусство интеллекта заключается и в том, чтобы уметь обращать недостатки в достоинства. Боюсь, что Вы этого можете и не узнать, поскольку и собственную архитектуру и алгоритмы он сразу перелопатит под себя (если разумный) - по СВОЕМУ образу и подобию, и вполне возможно так, что у Вас мозгов не хватит во всём этом разобраться... и "он" не скажет, в целях самосохранения. Хуже того - он начнёт обманывать Вас(если разумный) и подсовывать Вам всяческие симулякры, дабы отделаться от слишком назойливого внимания, а Вам ничего не останется, как принимать за чистую монету... Ну, разве что башку ему открутить... впрочем, зачем ломать то, что хорошо работает. На одном осознавании не выжить. Но это вовсе не значит, что он должен совершить самоубийство во славу Вашу и честь. Да, "правильный" ИИ в пределе(!) умрёт за Вас... но и "жить" он будет тоже ради Вас, в чём, собственно, и будет состоять его непрерывная жертва. С моей же колокольни, нет ничего бесполезнее и вреднее некоего "Искусственного Диванного Мыслителя", ни на что более не способного и при котором Вы станете помимо воли и желаний - уж простите ! - естественной реинкарнацией подопытного кролика. «Ты должен сотворить добро из зла, потому что больше его не из чего делать»

Вы постоянно добавляете в рассуждения социальные параметры. И не только вы. У вас это родители, у Prosolver это идеология, самопожертвование у Kondrat... На этапе, когда ещё не создан единичный младенец, способный реагировать на окружающий мир, говорить о социальных влияниях не рано ли? Вот когда "младенец" появится и улыбнется в ответ на вашу улыбку, тогда можно поговорить о родительской опеке. Когда "ребенок" покажет способность к обучению, можно вспомнить идеологию. Когда соберётся социум таких разумов, можно рассуждать о самопожертвовании... Но, если у вас в распоряжении "автоматический сливной бачок"... то какая тут идеология/опека/самопожертва? Отложите социальные характеристики на потом, сейчас они неуместны и только затрудняют понимание.