Форум создателей искусственных интеллектов

Как только исследователь, снабжённый не только дипломами, услышит "LLM ! БЯМ !" в приложении к ЕИ/ИИ - он по долгу службы должен и обязан насторожиться. Когда начинают с языка, который всегда поверх мышления, и что было уже не раз - это есть большой повод для сомнений в правильности выбранного пути. Какой смысл разбираться, каким путём энтузиасты катятся в пропасть - на каком транспорте, на каких колёсах, чем заправляются, какова грузоподъёмность, мощность повозки и т.д. и т.п., когда исход очевиден более чем ? Если б дело было в том, что король голый - это ещё пережить можно, но когда короля нет вовсе ! а только цветастые одежды - это уже катастрофа. Понятно, что тяжело с иллюзиями расставаться, особенно с теми, за которые платят, но придётся. У вас есть язык, но под языком нет НИ-ЧЕ-ГО. Моделирование ? - это та самая жопа, в которой утонут последние ваши надежды, потому что построить модель, и не просто модель, а модель реальности, и не просто реальности, но адекватную модель - это не языком чесать. Тем более, что модель эту придётся строить как без языка, так и без готовых алгоритмов. И эта беда потянет за собой снежный ком проблем, за которые ещё никто не брался.

Язык не существует сам по себе, изолированно от того, кто им пользуется и, пожалуй, нигде так ярко и с такой необходимостью не проявляется идея о системном управлении ресурсами, как в отн. языка. Язык без управления может рассматриваться разве что как орган пищеварения. (Кому и когда пришла в голову мысль, что язык есть "орган" мышления - оставим за скобками. Если довести до крайнего маразма эту мысль, то можно поискать лингвистические способности и на генетическом уровне.) Должно быть нет такой деятельности, которая требовала бы больше интеллектуальных усилий, чем освоение и применение языка в качестве средства коммуникации. Язык провоцирует на осуществление таких усилий, как первая попытка поехать на велосипеде, взывающая к немедленному и непрерывному удовлетворению потребности в сонастройке телодвижений с вестибулярным аппаратом. ...

А что, неплохой образец блядословия.

... и вообще забудьте о моём существовании, даже имени моего не упоминайте всуе.

Нет, ну понятно, с таким интеллектом можно и в двух соснах заблудиться... и даже в одной. Ни рыба, ни мяса, одним словом - "херзнаетчто". Конечно - " хер знает какой". Интересно, а кто их туда поместил ? А, всё-таки людишки поместили... Нет, не поместили - они там были всегда. Их просто открыли, как банку с пивом. - что называется "как засунуть псевдонаучные понты в квазиматематическую кишку". - это всё, что по мнению Егорова нужно знать об интеллекте, естественном и искусственном. А тот - с таким представлением - он в какой палате лежит ? Все слышали ?! - "Умом не понять ! И даже не пытайтесь !"

Prosolver, Ваш текст можно переписать НЕ употребляя термин "механизм" без протери смысла. Он ничего не проясняет, не объясняет, не усложняет и не упрощает, с единственным назначением - всё стянуть и привязать к "механизматике". Раньше мы оперировали поименованными явлениями, а теперь нет никаких явлений, есть только механизмы, выполняющие как-то называемые функции. А в общем, Вы пытаетесь завуалированно описать всё то же обрыдлое "царство алгоритмов", на которых свет клином сошёлся. И Царь у Вас, что вполне естественно в Вашем положении - Алгоритм Алгоритмыч (Механизм Механизмыч), который как кролик денно и нощно строгает механизмы-алгоритмы в безмерных количествах. Далеко ли Вы таким образом заедете ? Там бывали и до Вас и не раз, а много-много-много раз... И где они теперь - все эти... ездуны ?

Доказывать ? Здесь ?! - Я ещё из ума не выжил. Реагировать или нет - это по настроению и сам наперёд не знаю когда и по какому поводу. ... но, вполне понимая и оценивая Ваше беспокойство и намёк Ваш "тактичный" на некую просьбу, расхаживать по Вашей монастырской "операционной" в кирзовых сапогах не стану. (Здесь есть специально обученые для этого люди)

Т.е., механизм ≡ алгоритм. ЧТД ! Основное и решающее отличие алгоритма от природной закономерности, выраженной алгортмически (в виде допустим формулы свободного падения), даже не в том, что один искусственный, а другой естественный, но в том, что алгоритм создаётся с определённой целью. Поэтому, "механизм работы Вселенной" и "бюрократический механизм" не только разной природы, но и качественно разные явления. Их можно описать на одном языке, но делать выводы, опираясь лишь на описание - чисто формалистский подход. Абстракция тоже хороша только в меру. Это важно, потому что предмет исследования не может быть объектом веры. Он либо является объектом знания, либо таковым не является, оставаясь объектом наблюдения и восприятия. ИИ может и будет создан человеком - в этом я абсолютно убеждён, опираясь на имеющиеся знания и опыт. Опуская частности: Вы не в первый раз пытаетесь протолкнуть ту идею, что, дескать, существует или возможен один универсальный алгоритм на все случаи жизни, для любых целей, но это своё утверждение Вы должны доказать либо теоретически, либо практически (либо отказаться от него). Весь опыт человечества за всё время его существования говорит об обратном - нет и не может быть такого алгоритма, ни в природе, ни в воображении, поскольку интеллект "заточен" под оперирование явлениями не повторяющимися - в этом, смею утверждать, основной "смысл" его существования и в этом его ни с чем не сравнимая ценность. Но... попробуйте ! Все эти сказки про якобы "алгоритмы интеллекта" - это для детей старшего дошкольного возраста. Человеческий интеллект, который <> успешно справляется и справится практически с любыми человеческими задачами и проблемами, явл. средством в значительной степени универсальным, но это вовсе не значит, что в основе его работы лежит именно тот самый искомый т.н. "универсальный алгоритм", как хочется думать и к чему подталкивает простая житейская логика. Эта же логика заводит в тупик, доходит до крайности и уничтожает саму себя, как традиционная и уже привычная физика в теле т.н. "чёрной дыры". Да, интеллект может использовать готовые алгоритмы, даже для оптимизации своей собственной деятельности, но сам он - не машина, не механизм, не алгоритм, не свод правил и не библиотека инструкций, что за тысячи лет показано и доказано многократно. И в этом как раз проблема - как такое возможно ? Но ведь возможно ! Искать лёгких путей - это от безысходности, но легко не получится, не тот случай. Нет уж, увольте, я и без этого массу глупостей наделал в своей жизни. Алгоритмы желаний, алгоритмы творчества... - сколько копий было сломано вокруг только этих двух чемоданов ! а они как были "чёрными ящиками", так и остались.

[Внешнее] функциональное назначение ума/интеллекта - разрешение неопределённостей. Там, где он сталкивается с такой необходимостью, на нём лежит вся ответственность за выбор. Точка за точкой, выбор за выбором, траектория за траекторией - так и происходит алгоритмизация. Куда идти ? Что делать ? Как поступить ? Каковы последствия ? - практическими и необратимыми ответами на эти вопросы строится будущее, которого ещё нет... А между тем, неопределённость поджидает нас на каждом шагу и каждую секунду. На статистику можно опереться, но абстрактно, в общих чертах, так сказать, принять к сведению, но решать придётся не по статистике, а по реальным условиям, которые в общем случае уникальны и ни в какую статистику не вписываются по определению. Предсказания, говорите ? - У них тоже есть свой предел применимости, даже в границах "алгоритмической Вселенной", у которой тоже есть край... даже если она представляется нам бесконечной. "Непредвиденные обстоятельства" - в этом вся слабость и дерзость ума. Какие уж тут алгоритмы ))) Сила ума не в том, чтобы постоянно держать перед глазами мегатонны вероятностей, но в том, чтобы быть в состоянии постоянной готовности к самому невероятному. (Нет, я не спорю с Вами. Вполне возможно, что Вы думаете правильно, даже скорее всего правильно... но Вы думаете не о том.) Вы всё ищите место для ума и не находите, а ему отведено единственно подходящее место - граница хаоса и порядка. Вы спросите, а как же творчество ? А творчество... творчество есть внутренний источник... хаоса... который и ужасает, и восхищает, и удивляет и требует, именно требует усилий с любой стороны. Ничто так не ограничивает как знание, и есть определённая прелесть в том, чтобы не знать слишком много и о себе, и об окружающих/-ем. И в этом смысле, цивилизацию строят совершенно аморальные с привычной точки зрения, какие-то возмутительные... идиоты("_"), которые просто НЕ ЗНАЮТ, что "так" нельзя.

Эту Вашу интуицию поддерживаю, согласуясь со своими собственными убеждениями. Однако, следует подчеркнуть, что такой путь не единственный и не всегда оптимальный, из энерго-экономических соображений. Актуализация творческих, созидательных потенций требуют сил, но они не могут быть бесконечными. Отсюда - опять выбор. Не всё, что создаётся, есть продукт ума. Безумие - в лучшем смысле этого слова - часто оказывается плодотворнее.

Не понял, при чём здесь LLM. Их учили говорить, а не думать, потому что думать там нечем. Да, "языком" они чешут будь здоров и люди довольно странно реагируют на их болтовню: похоже на галлюцинации - слышат то, чего нет. Это как попытаться составить связный текст из объявлений в газете. С другой стороны, сами люди иногда такое говорят и пишут, что невольно усомнишься в их принадлежности к роду человека разумного. Можно не слушать этот бред, но можно и полностью абстрагировавшись от "носителя" искать рациональное везде, где только возможно, особенно в искусственно произведённом, отдавая себе отчёт в том, что ни о каком взаимопонимании не может быть речи, и что предметом анализа могут быть только собственные интерпретации, что, однако, происходит при взаимодействии с любым текстом, с любым артефактом знаковой системы, когда в нормальных условиях решающим является только то, что имеет смысл интерпретировать текст по какой-то разумной причине - автор имел цель, понимал и знал, что он делает, вполне осознавая последствия содеянного... А когда ничего этого нет по определению ? Это который "алгоритм алгоритма" ? - Такого быть не может, что даже в доказательствах не нуждается. Метамеханизмы, метаалгоритмы... У этих образований должны быть более гибкое действующее начало, чем автоматизм, прописанный как инструкция. Здесь только один выход, если исключить вариант всеведения и божественного всезнайства - "самомодифицирующийся алгоритм", являющийся алгоритмом только по названию, к которому само понятие алгоритма неприменимо по определению, как "белая тьма", "сладкая соль", "горячий лёд".. А в него и без Ваших "механизмов" всё упирается, с него же и начинается. Вы наплодили сущностей, станцевали с ними по кругу и оказалось, что проблема совсем в другом месте, которое к Вашим построениям не имеет никакого отношения. Субъект - это что такое по-Вашему ? Или тоже механизм/алгоритм какой-нибудь ? Лёгкость, с которой любая, как кажется новая идея превращается в сверхценную, в предельную точку, с которой можно обозреть и описать всё на свете - это от самонадеянности, от самомнения, дескать, "копались-копались и наконец докопались !" А с чего бы это вдруг ? Это даже не глупость, а какая-то... "узколобая высоколобость". Механика и алгоритмы - это не тот молоток, которым можно стучать по чему угодно и всех проблем, особенно в биологии, они не решат. Давайте Вы не будете так бессовестно ... сову на глобусе. (Вам не о том и не то думается.) Что касается выбора, то я давно выбрал и для колебаний пока нет ни одной, даже мизерной причины.

Одна из проблем состоит в том, что человек, как носитель интеллекта, сам для себя является источником неопределённости, купировать которую в полной мере нельзя принципиально. И дело здесь не в случайности - случайностей нет. Хаос и порядок, сложность и простота.. - понятия чисто субъективные, что легко показать и обосновать. При всём при этом, опрометчиво было бы утверждать, что интеллекту отводится исключительно роль некоего "сита", отсеивающего злаки от плевел. Анализ - это хорошо, но без синтеза он мало на что пригоден. Язык - не ответ на вопрос "как работает ум", а вопрос о том, как ум порождает слово. Что и в какой момент произнесёт говорящий, если говорит не по написанному и даже если у него есть некоторый план - он и сам не знает. Задним умом мы все крепки и в состоянии описать уже произошедшее, но ДО ТОГО КАК... - всё спланировать невозможно, да и не нужно. Образно говоря, мы способны дойти до цели как минимум двумя путями: все просчитав, разложив по полочкам и двигаться поступательно, ступень за ступенью(1), и "ввяжемся в драку, а там посмотрим"(2).

Проявлять творческие наклонности исключительно и только в рамках своих профессиональных обязанностей - это скорее норма, чем исключение из правил. Как и обратное верно - везде, кроме работы. Третье тоже имеет место быть - "всегда и везде" - но значительно реже, это уже другой уровень, другая порода. ... Самый типичный, самый близкий и родной нам представитель непредсказуемости и неопределённости - сновидения: каждую ночь, каждый день, из года в год, от начала и до конца жизни, и не где-то там, а в самом "сердце", в исходной точке, там где начинается всё. Вот где бы порыться и ответить на вопрос - как они так лихо сшиваются и склеиваются, что лезвие бритвы не пройдёт ?

Моя прабабушка(врач) и прадед(тоже врач) как-то сидели за обеденным столом. Прадед - старый курильщик во всех смыслах - читал газету и потягивал табачок. Прабабушка спросила его - " Ты мог бы не курить ?", прадед ответил "Да" и положил недокуренную папиросу в пепельницу, продолжая читать газету, и больше никогда после этого не курил. Просто "Да" и... всё кончено, как нажал на спусковой крючок.

Братья Стругацкие, например, делали одно, а писали совсем другое, но кто скажет, что за их словами не было интеллекта, мышления ? Да разве только они ? Как вообще оценивать труд писателей, поэтов, композиторов и т.д., которые материально ничего не делают и не производят ? Куда их ? Может сразу в печь ? Особенности языка позволяют кое-что знать о тех, кто им пользуется, поскольку интеллект отражается и в языке, как специфичной деятельности. В известной степени язык можно считать самым прямым зеркалом интеллекта, но тут уж кому как повезёт и кто чему учился. Кто-то чуть что за кулаки хватается, а кому-то и пары слов достаточно сказать. БЯМы хорошо говорят, но даже не зная о них ничего, через несколько текстов становится понятно, по какому шаблону они работают и что за ними голимая механика, тупее насекомого. БЯМ/LLM - это станок с ЧПУ на лингвистическом производстве. А "алгоритим, составляющий алгоритимы" или "механизм, производящий механизмы", звучит так же глупо, как "автомобиль, плодящий автомобили" или "велосипед, изобретающий велосипеды". Современный т.н. "ИИ" создан людьми, для которых важнее казаться, чем быть, для людей, которым важнее казаться, чем быть. Соответственно, современный т.н."ИИ" - это то, что кажется, но чем не является. Формализм - родной брат автоматизма, а автоматизм - всегда способ экономить ментальные усилия. Какой искусственый интеллект могут создать люди, не умеющие обращаться с интеллектом естественным, или не желающие с ним обращаться ? В общем, по образу и подобию, по образу и подобию... Ум не был бы умом, если его вот так просто - по щелчку пальцев - удалось бы загнать в "инструкцию по применению". Что такое Арнольд Шварценеггер по сравнению с карьерным экскаватором ! Современные п/п технологии автоматизации далеко шагнули, но они - не та конечная идея, которая решит все проблемы, не терморядерный синтез и не пресловутая "Единая теория поля". У автоматизации есть естественный предел, как у любой технологии. Металл можно плавить и на дачном огороде, но микросхему в гараже не сделать. Автоматизация по отн. к ИИ - это уровень как раз вот этих "гаражных" технологий, деревянных копий Lamborghini, которые собирают рукодельники в Африке - выглядит очень похоже, но ездить не может, перемещается либо на конной тяге, либо ручным приводом. ... в своё время такой же эффект оказала механизация всего, что можно механизировать. На впечатлительных натур она производила сильное впечатление, как бульдозер на потомственного землекопа. По-моему, сейчас нужно заниматься не производством говорящих попугаев, прыгающих роботов, кукол с почти человеческой кожей, "универсальных геймеров" и прочего барахла - это всё игрушки. Сейчас самое время заняться серьёзным и глубоким анализом естественной интеллектуальности, который за тысячи лет так и не был произведён, что только плодит в безмерных кол-вах всевозможные и невозможные спекуляции и спекулянтов на мизере. До тех пор, пока это не будет сделано, мы будем наблюдать толпы необразованных бедолаг, падающих ниц перед новыми "древними египетскими жрецами", вызывающими заклинаниями солнечные затмения. Но давайте представим на секунду, что т.н. "вечный двигатель" всё-таки возможен... И тут конечно же прав профессор С.В.Савельев - в ход будут пущены все имеющиеся силы, чтобы он по вполне понятным и весьма прозаическим причинам никогда не заработал. Но и другой вариант возможен: как [вольно перефразируя] сказал Никола Тесла, кидая в топку чертежи - "Рано вам-скотам знать такие вещи !" Тест на решение задач и тест на интеллектуальность - ортогональны. Цель ? - Да, это хорошо и необходимо, для затравки, но это не есть самое главное. Тем более, что её происхождение может быть практически любым. Цель - не цель, она лишь обслуживается интеллектом, о ней вообще можно забыть и не вспоминать, когда телега сдвинулась, когда решение принято. И пусть будет так, что первый километр она сможет прокатить по инерции, а дальше... а дальше начинаются вопросы, вопросы, вопросы... бесконечные вопросы... - Где цель ? - Она где-то там - за горизонтами. Отсюда не видно. - И куда теперь ? - Нуууу, вот сюда точно нельзя - нас попросили и мы обещали - не давить чужих тараканов и... - Тогда пойдём в обход... - ... куда ?! - Ашхабад, говоришь ? - А какая разница ? - Никакой. Прямых доказательств у нас нет и долго ещё не будет. Косвенные "улики" - чреваты. Вот это мой след или твой ? - Какая разница ? - Действительно... ... ... но разница всё-таки есть: один настоящий, а другой похож на его отражение. - Но посмотри, вон там, дальше - они... расходятся ? Как такое может быть ? ведь мы всегда шли рядом ! - Вероятно, мы сильно отклонились от прямой. - Да здесь вообще не ходят... и мы ещё шагу не сделали. - Хорошо, идём. Я расскажу тебе одну историю. - А чьи это следы ? - Наверно мы когда-то сюда заглянули... пару раз. Ведь никого другого здесь нет и быть не может. - И что за история ? - ...