Форум создателей искусственных интеллектов

Во-первых - всем привет, давненько не был. У вас всё по-прежнему, собачитесь и пиписьками меряетесь. Вот такой диалог вышел у меня с chat4gpt.ru На середине диалога я подумал, что на том конце Джамшут быстро строчит ответ. Почему чат-боты не могут сказать, к примеру, "не знаю". Вместо этого просто тупят. Что думаете? Диалог я заскриншотил картинки могут не показываться.

1. Приветствую, Kek! Заходите почаще, думаю, нам не хватает полярности мнений, чтобы искра проскочила. 2. Тут иногда жалуются, мол сами ничего не делаете, а ругаете тех, кто делает такие замечательные игрушки как chatgpt. Я думаю: 2.1. если бы на каждом углу не трубили, что это самый настоящий всамделишный сильный-пресильный AGI, то и не пришлось бы дезавуировать такие ложные утверждения. И все уже давно бы забыли про это недоразумение. 2.2. само явление LLM довольно любопытное и ему необходимо дать адекватную оценку, чтобы понимать пределы возможностей данного забавного инструмента. Потому что принцип формирования ответа у них совершенно иной, чем у людей. Грубо говоря, они высчитывают с какой вероятностью должен быть напечатан следующий символ при данном входном запросе, если бы ответ писали люди, написавшие всю груду текстов из тренировочной выборки. Довольно странно, что люди удивляются вразумительным ответам chatgpt. Фактически, пользователи разговаривают не с искусственным разумом, а с естественными разумами людей, писавших тексты выборки. Если бы тексты выборки писали дебилы, то и ответы chatgpt были бы дебильными. Через vpn показываются.

- что может быть любопытного в статистическом попугае ))) По сути, этот попугай оказывается в таком же глупом положении, как известный солипсист: одному какие-то там органы мешают, а другому языковая прослойка. Оба изолированы от реальности описанием, но если солипсист ещё как-то способен двигать мыслительный процесс, хотя бы по факту рождения, то у с.-попугая такая способность даже не предполагается. Формальная система не перестанет быть таковой, если к ней добавить генератор случайных последовательностей или вероятностей. Синтаксические модели - так им в обед сто лет исполнится. Достали из чулана, пыль смахнули, дуст стряхнули, красиво упаковали и на базар. Смех и грех ! Но лохами Земля полна. Вот уж чего всегда будет в избытке.

Если его база данных актуальна, то он может быть неплохим консультантом программиста, адвоката, переводчика. А ещё он может заменить автоматическую робо-бабу в коллцентрах. Всё же некая ограниченная польза в этом механизме есть и это невозможно отрицать.

Даже мысли не было такой - отрицать. Как можно отрицать пользу, скажем, механической или электрической энциклопедии-библиотеки, в конце концов ? Хорошее дело. В хозяйстве пригодится. Однако, всему своё место, при том, что даже в наш просвещённый век находится немало людей несомненно мыслящих, от которых всё ещё можно услышать фразу "умная книга", произносимую, как правило, с фанатичной убеждённостью провинциального сектанта.

Кое-какие сведения есть, что он если и не совсем скипнул, то по крайней мере бывал "за двумя лужами". Да чего здесь читать ? Альфа-самец (как он о себе думает), попавший далеко не на первые роли, мучается от того, что ни способности его, ни даже его нынешние возможности, к которым он так стремился что Родину продал, не позволяют ему перейти порог - он так и останется серым членом серого стада. Надо же где-то такое положение компенсировать, вот он и мечется по форумам со своей колбасой или устрицами... или что там у него в избытке. Возвыситься самому за счёт унижения других - что может быть проще, когда иначе не получается. Не умом так каканьем. А то что он вот так "компенсируется" годами, а скоро возможно и десятилетиями, говорит только об одном - как был он серостью без каких-либо перспектив, так и останется серостью... или сыростью... или плесенью... офисной.

Думаю вопрос можно поставить шире, что доказало бы большинству собеседников, что данный чат-бот — носитель СИИ, ответы на какие конкретные вопросы или типы вопросов или решение каких задач и тп.? В принципе если возможна ли такая формальная валидация\фальсификация? Или чтобы не говорил чат-бот, всё равно, только на основании что это алгоритм, мы будем утверждать что это "только симуляция".

Того, что это алгоритм, вполне достаточно, чтобы квалифицировать его как тупой, безмозглый автомат. Относиться как-то иначе - просто глупо.

А если не ивестно?

Тогда есть риск быть обманутым и перепутать цель со средствами. Докапываться надо, однако ! Нет другого пути.

Ну вот хочется понять рамки, когда именно это станет не очевидно, каким образом чат-бот сможет полностью пройти ТТ, так как пока что ChatGPT в лучшем случае тянет на некую справочную службу в стиле "китайской комнаты", только выдающий не точный текст, из какого либо источника, а вроде бы новый, но вероятней всего близкий по содержанию с имеющимся. Какова может быть проверка того что "черный ящик"(не известно что внутри, может даже человек) действительно понимает, а не только более мене удовлетворительно складывает слова, на соответствующий запрос?

ТТ - детский лепет. Он для тех, кому пофиг, какую утку есть - мясную, резиновую или жестяную. Тяжёлый вопрос. Понимание здесь не главное. Имитировать его проще простого, особенно в языке. По телефону, например, можно уболтать любого. С другой стороны, всегда найдутся такие чисто языковые средства, которые в диалоге(!) не только робота поставят в тупик. При соотв. подготовке люди могут обмануть не только "детектор лжи", но и в известной степени действие в-в т.н. "специального назначения". Вся разведка на обмане держится... и хорошо держится. По сути, задача выведения шпиона на чистую, так сказать, воду - аналогична, поскольку шпион есть личность искусственная. Думается, проверка потребует заметного времени и должна быть комплексной с особенным учётом того, как система использует доступные ей ресурсы - тонкая и кропотливая работа, но для начала нужно чётко выяснить для себя, как и в чём мы можем обмануться или в чём нас не обмануть никаким способом - туда и нацеливать тестовые "композиции".

Идеальный "кролик" для экспериментов и проверки на наличие интеллекта/сознания конечно же человек - спрятано так, что даже вскрытие ничего не показывает. И уж если т.н. "ИИ" замахивается на человекоподобие, то с человеков и надо начинать. Не так много времени пройдёт и подшаманенные нейросетки научатся в реальном времени выдавать такие картинки, что не придерёшься. Тогда мы получим "ящик в ящике в ящике". Диктор с экрана будет вещать, а мы не будем точно знать - живой он или нарисованный. Ну, хорошо. Нас обманули, а с кого за это спрашивать ? Если мы становимся добровольными жертвами собственной наивности, доверчивости, легкомыслия - кто виноват ? Об этом никогда не было лишним подумать, а в наше время тем более. Проблемка, повторю, опять-таки сводится не к тому, как и кто нас обманывает или может это сделать, а почему, по какой причине мы позволяем себе быть обманутыми. Что нужно добавить к нашим аналитическим способностям, чтобы никто и никогда ? Вопрос ? Вопрос. Нынешние технологические достижения - а у них ещё своих мозгов никаких - уже лапшу развесистую вешают весьма убедительно, а что будет, когда появятся ?.. а рано или поздно несомненно появятся. И правы те, кто призывает думать об этом уже сейчас. Потому что конец нам всем, если попадёт в плохие руки, и что хуже всего - мы не будем даже знать, даже догадываться, где и как выглядит начало этого конца. p.s. Трезво глядя на ситуацию, даже не забегая вперёд, а скорее оглядываясь назад в прошлое... можно было давно придти к тому, чтобы объявить человеческий интеллект оружием массового поражения - поводов более чем достаточно. Под этой более чем реальной угрозой мы находимся постоянно и непрерывно со дня своего рождения. И эту проблему мы ещё не решили. p.ps. Кстати, интересно было бы посмотреть, как сам ИИ поведёт себя в качестве экзаменатора, если пару ИИ стравить друг с другом или с человеком, но в обратную сторону, или даже собрать несколько ИИ в некую коллегию, "приёмную комиссию". Думается, дело быстрее пойдёт, если в таком щекотливом вопросе человек с машиной будут иногда меняться местами. Но что-то не слышал я, чтобы где-то специально и целенаправленно обучали машину отделению лжи от правды, скорее учат обратному. А здесь богатейший опыт наблюдения за людьми, обширная человеческая статистика как раз могли бы сыграть свою положительную роль. В общем-то, это ведь та же самая задача (или даже проблема !) распознавания, в которой все косяки и вылезут, как с одной, так и с другой стороны. Дело серьёзное - хорошая, полезная, актуальная практическая задача... чем кошаков на картинках отыскивать. Где так ярко может проявиться способность к глубокому пониманию, объёмность сознания, проницательность и гибкость ума, как не в попытке раскрыть или скрыть обман ? p.p.ps. Невозможно приготовить яичницу, не разбив яйца. Отн. ИИ проверка может быть только одна - никаких "чёрных ящиков". Но тут, знаете ли, т.н. "интересы бизнеса" и т.п.... когда надо, люди могут очень хорошо спрятать свои секреты. Т.о. ЧЯ может оказаться совсем в другом месте и по другому поводу )) Последнее здесь, пожалуй. Прежде чем что-то искать, мы ведь должны понимать и чётко себе представлять, что мы ищем. Сознание, понимание, интеллект - как они должны выглядеть так.ск. "в идеале" ?

Вопрос правильный. В моём примере диалога я надеялся, что хотя бы симуляция распиаренного бота окажется приближена к той семантической форме, которая характерна для человеческого общения. На мой взгляд такая задача выполнима. Другое дело, что это всё равно будет симуляция. Почему? Мне представляется, что важна мультимодальность. Это, то к чему только подбераются строители ботов. Я раньше наивно полагал, что пространство слов является необходимым и достаточным набором для описания прекции реального мира. И эта проекция хоть в какой то мере создаст предпосылки для движения в сторону сии. Можно впихнуть в такую систему арифметику, алгебру, матан и пр. но возникают проблемы с такими вопросами: как описать для такой системы что такое "вверх", "вбок","над","под". Кстати эта прблема была прекрасно показана в забытом всеми фильме " Его звали Роберт". "... Как пахнет трава после дождя?" Вот представьте, что вы ментор и пытаетесь словами описать для обучающейся системы эти понятия. Без мультимодальности сложно. Под мультимодальностью я понимаю возможность одновременно использовать символьный поток, звуковой и изображение.

Беда этих ботов в том, что они... солипсисты ))) Дальше стены слов они продвинуться не в состоянии. Помимо того, что у них мозгов нет, они ещё и от реальности отрезаны. Слова определяются через те же слова - какие здесь могут быть понятия ? какое понимание ? Такой подход есть столбовая дорога ОТ СИИ. И мультимодальность не спасёт положение, потому что переваривать плоды её нечем. p.s. Ну, добавите вы к одному неизвестному ещё 2-3, легче от этого точно не станет. Причина, по которой ИТ оказалась в таком положении одна - не с того конца начали. А сам принцип, на котором работают все эти говорильники, воплощает собой просто не-ИИ, а АНТИ-ИИ. По сути, происходит "убийство" идеи, "замораживание конфликта" между "хочу" и "могу", между желанием и неспособностью, с нарастающей интенсивностью. Вся эта тараканья возня выглядит так, будто автомобиль начали строить с кузова, не имея никакого представления о его начинке, кроме наивных хотелок. Такой "самокат" получился, который нужно постоянно подталкивать, детская педальная машинка с ножным приводом - видели ? - вот что имеем. Да, выглядит симпатично, видно что вложились серьёзно, а то, что она пустая внутри - э-э-э... нууууу... давайте, дескать, сделаем вид, что мы этого не замечаем. Ездить нам... поездить мы и на неграх можем, а шашечки пригодятся. "Интеллект имеет социальную природу" - это ещё одна прокладка, ещё одна затычка, ещё один "гигиенический предмет", который нам пытаются впарить счастливые обладатели ниточки между ушами. Та же пена, но в другой обёртке. Для интеллекта общество "себе подобных" - это всего лишь другая среда обитания, более сложная, более трудная для освоения и адаптации, но среда, и не более того, в которой нет ничего такого, без чего нельзя было бы обойтись. В каких условиях развивать и развивается интеллект - дело в конце концов десятое. Главное, чтобы он был, а язык, равно как и всё остальное - приложится. Естественный интеллект развивался не на задачах вроде "как правильно сказать "как пройти в библиотеку ?", и не в попытках ответить на эти вопросы. Его эволюции связаны прежде всего с удовлетворением потребностей носителя в агрессивных, плохо предсказуемых внешних условиях и обстоятельствах - вот там начинается мышление. И "начало" это ни на миллиметр не сдвинулось за тысячи тысяч лет и не сдвинется, по крайней мере для тех, кого мы называем "живыми". Это вовсе не значит, что нужно непременно повторять и слепо копировать. Нет. Это означает только одно - копать надо глубже, брать в руки лопату и копать, копать, копать... а не липкими лапками по стеклу царапать или со всеми удобствами штаны просиживать.

Копать от сюда и до вечера как в армии. Нужна идея, сэррр.

Мультимодальность… Да, все о ней говорят, я и сам лет 5 назад думал что это тот самый "грааль ИИ", но теперь хз, сомневаюсь, что это существенную даст подвижку, разве что маркетинговую, "хайповую", как сейчас с текстовыми LLM. Как по мне, вообще глупо ожидать что нейросеть обучаемая бекпропом, на каких то производных данных, вроде текста и картинок, вдруг сложит более менее "верную" модель мира, близкую человеческой, или эффективнее. Будут максимум получаться оверфиты под отдельные виды датасетов, более менее сносно их симулирующие. Что по сути мало отличается от пресловутой "китайской комнаты", хотя не стоит недооценивать практической пользы от китайских комнат, это очень может быть полезно в почти всех областях, но это не СИИ и в принципе им стать не может. Такой СИИ не сумеет изобретать, где под "изобретать" я имею в виду не уровень Эйнштейна или Ньютона, а базовая бытовая изобретательность, которой пропитан весь быт и ремесло каждого человека. Конечно такую изобретательность может на 95-99% наверно заменить и китайская комната, так как вероятно все эти мелкие бытовые эвристики и догадки, кто-то когда то уже делал и документировал, но… всё равно это довольно быстро привело бы такой ИИ к стагнации. Потому что это никакой не ИИ а просто - поисковик на нейросетках. Нейросетки и вообще ML безусловно — основной инструмент моделирования СИИ, тут бессмысленно спорить, другое дело что ещё долго люди будут маяться с тем как обучать эти системы и как их строить таким образом что бы в них для начала физическая модель мира, гармонично укладывалась. На самом деле действительно сложный вопрос как получить "истинную мультимодальность", а не очередной оверфит. Мультимодальность же не в том чтобы теперь вместо только картинок, подавать смешанный вектор картинки и например фурье спекра звука а на выходе например детектить что за зверь, или рэпер, ну или по тексту рисовать чепуху. Всё дело в получении модели мира, где в базисе идёт физика, а затем всё остальное, в виде множества объектов с рядом свойств, в рамках законов физики. Если бы мне кто дал пару сот лимонов зелени и большую галеру в хотя бы 30-50 гениальных агнцев, я бы начал копать на синтетических данных, например на близких к реалу 3д играх, с реализованной там близкой к реальности физикой и графикой.

Что значит, "модели мира, где в базисе идёт физика"? А смысл? Идея понятна, можно нагенерить много данных для обучения, но разве их мало, с реала?

А почему это должно дать принципиальную подвижку в движении к СИИ? Технически мультимодальность это всего то дополнительные компоненты вектора с других сенсоров или каких либо модулей трансформации, прошедших некие процедуры фичаинжиниринга. Это по идее может улучшить качество обучения и распознавания, но суть и вероятно результаты процесса существенно не поменяется.

Конечно же мультимодальность – необходимое, но не достаточное условие для «подвижки к СИИ». Тут, чтобы была понятна моя позиция, надо напомнить сообществу, что мне интересно осмыслить что такое «элементарный интеллект». Где-то я писал об этом на этом форуме. Попробую ещё. Во-первых: ИНТЕЛЛЕКТ – это свойство. И я, спрашиваю: «Как можно создать свойство без носителя оного? Почему никто не говорит, а какой должен быть носитель свойства?». Во-вторых: Можно идти сверху – вниз. И коль носителем интеллекта является человек, то это верх. И отделаться от антропоморфизма тогда сложно. И мы видим попытки реинжиниринга мозга, и т.д. В-третьих. А может идти снизу – в верх? И тогда нужно, как Родену, отсечь всё лишнее. Но оставить необходимое и достаточное. Это и есть, то, что занимает меня.