space, кремний с алгоритмами уже отняли у многих работников работу. AGI в таких видосах даже и не пахнет. И даже их создатели не утверждают это. А вы ведётесь на то, что сами себе придумываете и пытаетесь убедить/устрашить этим окружающих. Я не исключаю, что AGI возможен. И когда он появится никто не будет заморачиваться с высокотехнологичными человекоподобными железками и без них будет понятно, что это AGI.
cortl: space, кремний с алгоритмами уже отняли у многих работников работу. AGI в таких видосах даже и не пахнет. И даже их создатели не утверждают это. А вы ведётесь на то, что сами себе придумываете и пытаетесь убедить/устрашить этим окружающих. Я не исключаю, что AGI возможен. И когда он появится никто не будет заморачиваться с высокотехнологичными человекоподобными железками и без них будет понятно, что это AGI.
Про AGI речь не шла, ещё большой вопрос есть ли он у человека, а вот эмоции задача простая и уже решенная. Человеческая наука в основном строится на АККУМУЛЯЦИИ очень редких непредсказуемых НАХОДКАХ, это случайный процесс, такой же как поиск хешей с ноликами при майнинге битка. То есть человек изобретателен не на много более чем муравей, при "разработке" муравейника. Тот AGI про который многие говорят, на деле будет решен за счет огромных вычислительных мощностей, точно также как с майнингом. А человеческий ИИ, это вовсе не AGI(общий интеллект), а просто большая коллекция подсистем распознавания и их аркестрации, заточенная под "жизнь". Человеческий ИИ на 99.99% работает в режиме работы по инструкции, с легкими модификациями инструкций, по другим инструкциям, плюс простой перебор на разных уровнях абстракций.
Пугать никого не собираюсь, бояться нечего, мир и без ИИ был несправедлив, но технология так или иначе улучшает качество жизни, со временем, в базовых аспектах. Классовое неравенство конечно будет только расти, но жизнь плебея недалёкого будущего, даже безработного, всё равно будет биологически комфортное и безопаснее чем аристократии лет 500 назад, на уровне биологических нужд. Но социально-эмоционально плебей будет страдать, казниться, завидовать. По крайней мере при капиталистическим устройстве общества.
space: А человеческий ИИ, это вовсе не AGI(общий интеллект), а просто большая коллекция подсистем распознавания и их аркестрации, заточенная под "жизнь". Человеческий ИИ на 99.99% работает в режиме работы по инструкции, с легкими модификациями инструкций, по другим инструкциям, плюс простой перебор на разных уровнях абстракций.
Самая малость 0,01%, а не по зубам. И 99,99% инструкций написать ещё никто не осилил.
Не пугаете и ладно )
Алгоритм майнинга не случаен. Только входные значения в первом приближении можно считать случайными.
Плохая аналогия AGI-майнинг.
Egg:
Нет, оно не имеет такой цели и такую цель в gradient descent невозможно поставить... )))
Если вы думаете, что невозможно, то вам просто не хватает опыта. Я бы в первую очередь попробовал меру информации Шеннона прикрутить... Ну так, наивно, но все же не сдался бы.
Посмотрел ролик. Спешу сообщить, что слухи про грядущие ужасы сверхинтеллекта, на мой взгляд, сильно преувеличены. Потому что сверхинтеллектуальные способности может дать не какая-то магическая сверхинтеллектуальная вычислительная архитектура, а только сверхинтеллектуальный, принципиально недоступный людям, жизненный опыт. Для получения знаний, которые не смогут понять и осмыслить люди, нужно чтобы ИИ имел возможность получать нечеловеческий жизненный опыт. Если же единственным источником данных для ИИ будут тексты людей, то он не сможет стать сверхинтеллектом. Он, максимум, сможет стать среднестатистическим обывателем-конформистом с грудой стандартных предрассудков и суеверий, что мы собственно и наблюдаем на примере ChatGPT/Bing/Bard. Чтобы качественно превзойти людей, ИИ должен иметь качественно превосходящий, нечеловеческий жизненный опыт, принципиально нечеловеческие знания. А для этого он должен иметь возможности и способности эти знания получать - ставить нечеловеческие эксперименты, проводить сверхинтеллектуальные опыты, делать сверхумопостроения и проверять их на практике. Т.е. извлекать из своего личного сверхопыта недоступные людям сверхзнания. А этим, насколько я понимаю, к счастью, пока никто не занимается.
Небольшое лирическое пятничное отступление.
Материалисты, любопытные люди, им кажется, что их личные субъективные галлюцинации и иллюзии являются свойствами и атрибутами неких внешних предметов/явлений/процессов. В качестве примера, опровергающего данное странное убеждение, мне нравится приводить жёлтый цвет.
Убеждённый материалист скажет, что жёлтый цвет возникает как ощущение при попадании на сетчатку глаза света с длиной волны примерно 570 нанометров. И даже "докажет" это применив механизм с именем "призма":
Спорить с этим невозможно, это факт, действительно, при совмещении глаза и света с длиной волны 570 нанометров почему-то возникает ощущение жёлтого цвета. Но разве это проясняет, что такое жёлтый цвет?
Если вместо света длиной волны 570 нанометров мы спроецируем в глаз смесь светов, каждый из которых в отдельности ощущается как "зелёный" (≈530 нм) и "красный" (≈680 нм), то мы получим ощущение того-же самого жёлтого цвета. Проще всего проверить это глядя на дисплей компьютера, каждая точка которого состоит только из трёх цветов RGB. Если включить только R и G пикселы то мы ощутим именно жёлтый цвет.
Но можно сказать, что происходит какое-то смешивание и глазу кажется, что он видит жёлтый цвет, поскольку его длина волны лежит где-то между красным и зелёным.
Но тогда как объяснить, что мы не видим жёлтого цвета, там, где "объективно" он должен быть:
Как можно убедиться, спектр, излучаемый кружками одинаковый (по идее, должен восприниматься как "жёлтый"). Ну можно сказать, что это иллюзия и просто мозг обманывается.
Но с таким же успехом мы ощущаем жёлтый цвет там, где его не должно быть:
Кроме того, мы можем ощущать жёлтый цвет во сне, когда в глаз не проецируется вообще ничего.
Единственное внятное объяснение всех этих наблюдений в совокупности состоит в том, что жёлтый цвет - это атрибут не внешних предметов, а именно и только нашего субъективного восприятия. Что в определённых условиях мы ощущаем жёлтый цвет как наш собственный продукт, который мы генерируем сами.
Но разве любое другое ощущение - температуры, времени, длины, громкости, объёма, глубины, голода, места и пр. - имеет какую-то другую природу? Нет, конечно. Всё, что мы способны ощутить и осознать является нашим собственным продуктом. Можно задаться вопросом, а как же выяснить истинную первопричину этих ощущений? Что стоит за ними? Что их вызывает и обуславливает? Ответ. Никак. Потому для нас, людей, выяснить что-то, понять что-то можно только через комбинацию того, что мы сами сгенерировали.
Наблюдаю какую-то неуместную возню вокруг отставки директора ChatGPT OpenAI. И мне даже неловко и как-то стыдно смотреть на этот казус. Зачем цепляться за какой-то слабый естественный интеллект, если у вас есть искусственный? На мой взгляд, всё просто. Если вы сделали настоящий сильный ИИ, то в первую очередь надо без оглядки уволить директора и всех его замов, а на их место водрузить созданный искусственный супер-интеллект и заодно сэкономить на их зарплате. Profit! Не могу поверить, что какой-то захудалый индивидуальный интеллект Сема Альтмана более сильный, чем супер-нейросеть ChatGPT. Не верю, это какой-то обман.
О когнитивном парадоксе.
Бесконечность, как категория, не представляется для человека чем-то невообразимым. Это странно, но это так. Мы можем представить себе бесконечность пространства: иди себе в одну сторону и всё… Вот и у Стругацких с бесконечностью обращаются запросто:
«"Познание бесконечности требует бесконечного времени". С этим я не спорил, но они делали из этого неожиданный вывод: "А потому работай не работай — все едино"»
Но есть одна категория, которая недооценена. Это ПУСТОТА, или НИЧЕГО.
И это не вакуум. Это просто ничего. Когда мы пытаемся что-то сделать с этим, мы представляем себе нечто маленькое, исчезающе маленькое. Но! Мы, как наблюдатель смотрим на эту категорию, а значит, вне этого НИЧТО в это время мы находимся.
Можно предположить, что бесконечность и ничто взаимопротивоположные категории. Но бесконечностью мы манипулируем, а ничто не участвует даже в математических абстракциях. Ноль и пустое множество это не ничто. Это исчислимые объекты.
Даже физические свойства бесконечности представимы. А ничто в физическом смысле выглядит парадоксально.
Из этого можно сделать интересную гипотезу: НИЧТО не существует, оно не возможно.
Kek: Когда мы пытаемся что-то сделать с этим, мы представляем себе нечто маленькое, исчезающе маленькое. Но!
Проблема как раз в протиповоположном, не в том, что мы что-то неправильно представляем, а в том, что любое представление является "упрощенной" моделью мира, сформированной Маппингом рецепторной системы. Более того, совокупность этих представлений является плохо сшитой мозаикой, а не целостной непротиворечивой картиной. И как справедиливо заметил автор фильма, самые фундаментальные представления являются контринтуитивными, потому что мир в котором мы адаптируем свою жизнь примерно на .999 представляет собой бытовую не слишком сложную среду. Аскариде в кишечнике нет жизненной необходимости мыслить коллапс волновой функции фотона, возникшего миллиард лет назад, "сфера" распространения которого столь огромная, что захватывает скопления галактик целиком. При этом нужно понимать, что "время" в фотоне так и начало течь. Луна имеет форму круга - это предел научной сложности представлений большинства людей. )))
