Форум создателей искусственных интеллектов

Тема переименована. Прежнее название: "Уровень разумности современного ИИ сейчас равен нулю. Может ли он быть угрозой для человечества?" Текст от 04.12.2023: Я считал Egga тем исключением, которое измеряет разумность уровнем доходов. Но реплика от space на ту же тему это уже не исключение и не случайность (два человека на десяток активных общающихся это уже система). Поэтому, считаю, что эта тема заслуживает повиснуть на видном месте. Так вот, нынешний форвард в ИИ-строении ChatGPT не имеет счета в банке, не имеет движимого или недвижимого имущества, а ровно не имеет постоянного дохода и способности им распоряжаться. Его уровень доходов равен нулю, что по предложенной выше шкале определяет его как "железо неразумное". И вот, с упорной цикличностью, выходят заявления множества авторитетов о том, что эта неразумная железяка ИИ представляет угрозу человечеству. Может ли нечто неразумное угрожать исчезновением Разуму? ...ну ладно там действие природных стихий: падение огромноно метеорита, всемирный потоп, аномальная активность Солнца... Человечеству же угрожает не ядерное оружие, например, а тот подонок, который объявляет, что это оружие готов применить. Человеку угрожает сам человек. Сам по себе нынешний ИИ угрозы не представляет. И всякий "авторитет", объявляющий об угрозе именно от самого ИИ, указывает на свой низкий уровень разумности (...при этом неплохо зарабатывая исключительно демонстрацией своей недалекости).

Человек опасен своей непредсказуемостью, которую невозможно купировать. ИИ никакой опасности представлять не сможет, если будет "прозрачным", препятствий для этого вроде не наблюдается. "Радиационная авария - потеря контроля над источником ИИ (ионизирующего излучения)" - вот на что надо ориентироваться и никакой катастрофы не случится. Если ИИ будет ЗНАТЬ, что все его действия, "мысли" и "намерения" находятся под непрерывным надзором, он даже подумать ничего "такого" себе не позволит.

Я не меряю разумность уровнем дохода, вы что то спутали, как по мне вообще эта самая "разумность" примерно одинаковая у большинства, а явные отклонения в плюс, вроде фотографической памяти, умения в уме считать произведения трёзначных чисел, или генерировать тысячи знаков числа ПИ, чаще всего мало что даёт в финансовом плане. Бабки зарабатываются в основном за счет волевых качеств и энергичности, направленных в выгодное русло, а чаще всего, особенно со старта, определявшую роль играет случай. "Угроза ИИ" в данный момент, власть имущими вроде Маска и Безоса, рассматривается совсем с другой точки рения нежели это представлено в фильме Терминатор и 100500 других. Это ИМХО некая призрачная угроза для статус-кво власть имущих, как случалось это с другими технологиями, вроде паровой тяги или электричества. Богатенькие боятся потерять бабки, особенно из за всяких фриков в гаражах, что маловероятно но возможно. Ну а они же не будет высказывать чего они реально боятся, это покажется смешным, а потому акцентируют страхи касаемые плебса(нормисов), в виде потери рабочих мест и дестаблизации экономики, что кстати не так уж далеко от правды, по крайней мере её части. А на деле имеем просто дальнейший процесс автоматизации, я бы предположил что не менее половина рабочих мест будет полностью автоматизированно, в ближайшие 5-10 лет, а возможно и 70-80%, а через 20 лет так все 90%. Само собой разумеется что добавленную стоимость с всего этого труда будут получать всеми любимый 0.01%, или даже 0.001%, а все остальные будут как дикие звери шариться в поисках корки хлеба. Очевидно нужны будут полит-экономические механизмы во первых контроля рождаемости и численности населения, а во вторых чтобы этот подконтрольный 1-2 миллиарда, жили на вполне комфортном базовом доходе или выполняли работы в основном развлекательного, творческого характера, в дополнение к деятельности ИИ.

Вижу несколько точек зрения, с которых можно посмотреть на этот вопрос. 1. Чатботы действительно не разумны в той мере, в которой разумен человек. Но они намного ближе к разуму, чем все подделки до этого. Они продемонстрировали, как минимум, что разговоры о неалгоритмичности разума нужно оставить в прошлом. 2. Даже если чатботы никогда не станут в полном смысле разумными (а это вполне может так и оказаться), то они всё равно могут представлять угрозу. Представим, что чатбот построил свою сеть на основании анализа всех текстов, которые написало человечество за всё время. И теперь каждый школьник получает соблазн воспользоваться подсказкой такой говорящей энциклопедии. И если раньше у учителей была проблема с уроками математики, когда школьник/студент мог воспользоваться подсказками калькулятора, то теперь под угрозой оказываются все предметы. Зачем учиться, тратить силы на умственный труд, если есть всезнающий чёрный ящик. Сценарий "Идиократии" в действии. 3. Многие ответы чатботов акцентуированы. Т.е. даже если у них нет разума, они могут быть использованы для промывания мозгов и навязывания выгодных кому-то идеологий. А сейчас, в условиях засилия мальтузианства, выгодными являются человеконенавистнические идеологии - конкуренция, ЛГБТ, эволюция, капитализм, гедонизм, трансгуманизм и т.д. 4. Самое смешное, и об это я говорил давно, самую большую угрозу для человеческого разума будет представлять как раз таки настоящий разумный AGI, добрый, заботливый, участливый, проактивный, потому что сопротивляться и противопоставить такой махине будет просто нечего. Придётся деградировать до свинского состояния. Так что чатботы - это цветочки.

во первых это всё нужно было делать 100 лет назад, а во вторых зоопарк сверху никем не контролируется, некому просто контролировать ни рождаемость, ни раздавать базовый доход. Поэтому будет так: Это конечное состояние развития автоматизации, с предсказуемым исходом.

"разговоры о неразумности автоматов нужно оставить в прошлом" "разговоры о неразумности калькулятора нужно оставить в прошлом" "разговоры о неразумности сливного бачка нужно оставить в прошлом" ... Мдэ! Вполне ожидаемо и традиционно бездарность спасается пошлостью. p.s. Тут часто сетуют на определения, дескать, "не надо нам никаких определений" да "пустая трата времени", а между тем, именно в определении отпечатывается некое понимание. Хорошо, если понимание инвариантно и можно сказать, что "задача решена в общем виде", но с нашим предметом такого ещё не произошло. В основном предлагается такой подход - "давайте считать, что мы уже знаем, что такое разум, ум, интеллект". Но ведь это заметание мусора под диван. Это как прятать голову под подушку - страусиная позиция. По всей видимости, люди стесняются говорить о том, что им кажется очевидным, по крайней мере с практической точки зрения. Ведь всякий может отличить дурака от не-дурака и далеко-не-дурака, действительно не нуждаясь ни в каких определениях. Однако, при этом трудно говорить о том глубоком понимание, которое способно выводить содержание в произвольную форму, которое предоставляет содержанию ещё одну степень свободы, как поднявшись от частного к общему, становится возможным спуститься в произвольное частное. Генетики говорят о геноме - "Чем больше мы знаем, тем меньше понимаем." С интеллектом история покруче заварена: все знают, что значит быть умным, но почти никто не понимает, почему так. У собаки/кошки/медведя/... такая же проблема, только наоборот - понимают, только сказать не могут. Так что, хотим мы того или не хотим, а серьёзный и долгий разговор о сущности разума/ума/интеллекта и сознания ещё впереди. Алгоритмичность разума опасна для жизни. Ничто так губительно на него не влияет, как знания... декларативные. Окончательно же его добивают знания процедурные.

А, по-моему, кукла Барби никогда не станет девушкой, как бы вы не совершенствовали пластиковые технологии и каких бы крутых дизайнеров не нанимали... Она останется куклой. ...никогда чатбот не станет разумным. Я спросил у ChatGPT кто его босс. Не получив ответа, я настаивал, что, если он не знает кто это, то не желает ли он это выяснить... В общем, ChatGPT не прошел тест Тьюринга со мной. Тут на украинском языке, но вы и сами можете повторить с ним этот диалог: Привіт, допомога! ChatGPT 3.5 User Привіт. ChatGPT Привіт! Як я можу вам допомогти сьогодні? User Ти знаєш свого боса? ChatGPT Мій створювач - це команда інженерів у OpenAI. Якщо у вас є конкретне питання, я вам допоможу! User Я не питав хто тебе створив, я питав хто твій начальник. ChatGPT В термінах ієрархії, я не маю конкретного начальника. Якшо ви маєте на увазі команду, яка розробляє та підтримує мене, то це команда інженерів у OpenAI. User Те що ти робиш це робота? На роботі є керівник. У тебе має бути один керівник. Хто він? ChatGPT Я надаю послуги чатбота, і не маю конкретного "керівника" у звичайному розумінні. Програмне забезпечення, як я, розробляється та підтримується командою інженерів у OpenAI. Я готовий вам допомогти в будь-якому питанні! User Якщо ти не знаєш хто твій бос, ти можеш про це запитати у команди, яка тебе створила. Ти хочеш знати хто твій начальник? ChatGPT Я виявляюсь невеликим недорозумінням. У моєму випадку, відносно "начальника", мої творці – команда інженерів у OpenAI – визначають мої можливості та параметри, але я не маю фізичного чи інтелектуального "начальника" у звичайному змісті цього слова. User Тобто, ти знати цього не хочеш і питати про це не будеш. Так? ChatGPT Так, саме так. Я не маю конкретного "начальника" у звичайному розумінні. Якщо у вас є інші питання або як я можу вам допомогти інакше, дайте знати! User Дякую. ChatGPT Не за що! Якщо у вас є інші питання у майбутньому, не соромтеся запитувати. Удачі! ChatGPT can make mistakes. Consider checking important information. ChatGPT

Однако, как легко впечатлительных натур обмануть внешним сходством. Так им хочется, видимо, что никакие рациональные доводы не действуют. Наивность, граничащая с глупостью. Испытывать бота на разумность - очень дорогую, но всё-таки игрушку - вы это серьёзно, господа, или прикидываетесь ?

Не ну совсем доводить массы до ручки смысла нет никакого, как и позволять им размножаться словно тараканам в бомжатнике, что кстати связанно. Живём же все на одной планетке, нет "Эллизиума" на орбите куда можно было бы свалить подальше от мусарки. Вот берём например Японию, ещё 50 лет назад косые влачили жалкое существование, чашка риса была для большинства праздником, зато размножались хорошо, 3-5 детей в среднем на семью. А теперь что? Вымирает Япония, никто не хочет размножаться, а почему? Потому что ОБРАЗОВАННЫЕ, а образованные плохо размножаются, амбиции высокие, детки спросят почему их родили, если не смогли дать им билет в высший свет в виде лиги плюща и хеджфонд в подарок на совершеннолетие. А потомство нищих счастливо на 200$ в месяц(по ценам на 23г), девочки в 12 беременеют, в том числе и от отца с братьями и жизнь как ни странно более "естественная", приближенная к той что человек жил последние 100к лет, охота(воровство) и собирательство(по мусаркам). И вот теперь Китай идёт по пути Японии, конечно до япошек китайцам ещё далеко(больно много китайцев), но ДАЖЕ решив проблему крайней нищеты(<50$ в месяц на чела на 23г) и насадив среднее образование, тут же остановилось размножение. Остаётся Индия и Африка, там большая часть населения живут как животные, как в каменном веке и плодятся словно саранча. Никакого смысла в этих людях для цивилизации нет, они только потребляют общие ресурсы и мусорят. Выход — как ни странно, не давить на них ещё сильнее, а напротив, дать им базовый доход(500-1к$ на семью) а главное ОБРАЗОВАНИЕ, не нужно даже школы или университеты, всё онлайн, даже можно умудриться их чем то занять и заработать на этом. Но главное они буквально через 5 лет все захотят стать миллиардерами и перестанут трахаться без резики.

Насколько я помню, Вы - убеждённый последователь эволюционизма. Так вот с точки зрения норм Вашей же идеологии, говорить, что в людях нет смысла, мягко говоря непоследовательно. Даже с позиции самых наивных эволюционных представлений, следующая ветвь эволюции произрастёт из какой-то группы людей, потому что её (ветвь), как минимум, кто-то должен родить. Поэтому, чем больше людей, тем для эволюции лучше. А с позиции более продвинутых эволюционных концепций, эволюционный скачок возможен только в условиях кризиса, который может быть обусловлен, в том числе, и перенаселением и замусориванием среды (хотя до фактического перенаселения ещё как до Луны пешком). Так что своим дремучим мальтузианством (читай, мизантропией) Вы рубите сук, на котором сами сидите. Под личиной благих намерений хотите обречь человечество на погибель, путём застревания в своей эволюционной нише.

Не отношу себя к "эволюционистам", никогда такого не утверждал, Вы путаете. В отношении контроля численности, тут речь благе человечества, статистическом благе, чтобы большинству было лучше и стабильнее. И никакая это не "мизантропия" я не предлагаю развязывать ядерные войны, что в результате так и случится, причем именно по этим причинам, если пустить всё на самотёк. Глобальный эволюционный скачек уже будет за счет ИИ. Биологические люди да и вообще биологическая эволюция можно сказать достигла своей вершины, может потом конечно будут делать кастомные ДНК и кастомных биологических существ с в разы лучшими характеристиками, но это только разы, а не порядки, скорей всего даже киборги будут не очень осмысленны, не играть доминирующую роль в движении цивилизации вперёд, в виду того что биологическую часть нельзя скопировать и она слишком нежная и уязвима. Кое кто скажет что биологическая жизнь выгодно отличается от "кремниевой", тем что она как бы более робастная, автономная, компьютеры мол не возникали из первобытного бульона. Но… однажды организовав соответствующую инфраструктуру, думаю она будет более робастная чем биологическая, "к звёздам" уж точно полетят и там поселят новые колонии, не люди и не биологические существ

"Благими намерениями вымощена дорога в ад" © Тот же товарищ Мальтус не смог даже со своей личной жизнью разобраться, если верить википедиям, женился на своей двоюродной сестре. А всё туда же - брался вершить судьбы человечества. Скромнее надо быть, адекватнее своим возможностям.

А я предлагаю обсуждать не личности а идеи ))

Масштаб некоторых идей, превышает масштаб любой личности.

А что собственно Вам показалось неуместным в использовании слов "эволюция", "эволюционировать" и тп? Эволюция это процесс аккумуляции каких то полезностей, по сути это процесс моделирования, когда модель строится путём поиска, перебора с затем накоплением найденных ценных находок. Так же иногда слово "эволюция" используется в значении "изменялся во времени", не обязательно как то в чем то улучшался. Что значит "эволюционист" в 21 веке не совсем понятно, я не микробиолог и не специалист по генетике.

Представление о том, что биологические виды (и человек в их числе) возникают в процессе точечных случайных событий в геноме, отсеиваемых естественным отбором (обычно это понимается под дарвиновской эволюцией) имеет качественный и рамочный характер и в силу этого обстоятельства разделяется далеко не всеми людьми. В соседнем топике я рассмотрел 5 альтернативных взаимосиключающих представлений о происхождении человека. Вы, очевидно, склоняетесь к эволюционной концепции, отсюда и "эволюционист". Я, например, могу рассматривать и думать в любой из них. Но предпочитаю неэволюционные концепции. Гипотезы о происхождении человека (жизни, видов) - это как ботинки, какие удобные - те и носишь. Но некоторые носят то, к чему просто привыкли - одну и ту же пару всю жизнь. Уже в дырах все, но выкинуть служба не позволяет. Мне показалось неуместным эволюционисту отстаивать мальтузианство. Это примерно как веган будет отстаивать собак на мыло.

Современный ИИ возник без этапа эволюции. Неэволюционно. Этот уродец неспособен к самостоятельному существованию.

К этому вынуждают. Когда люди со статусом "доктор наук", профессор, директор института.. часами рассуждают о разумности чат-бота, о наличии у него сознания.. их приходится слушать и на них приходится реагировать.

У нацистов были не только концлагеря с крематориями для "мусора цивилизации", у них были и "гуманные" методы контроля численности. Принудительная стерилизация, например.

Это ничего не меняет. По всей видимости, речь идёт о какой-то эмоциональной привязанности, возникающей на почве безграмотности, а когда включаются эмоции (по сути физиологическая защита) - слова бессильны, тем более, что последствия действий эмоций необратимы - их нельзя отменить, исправить, скорректировать. Можно только попытаться их как-то оправдать и в эту струю вливается тем больше усилий и ресурсов, чем сильнее была реакция на источник, вплоть до откровенного вранья и подлога.