Форум создателей искусственных интеллектов

А вот Стивен Вольфрам остается оптимистом, в своей долгой статье про будущее математики он уверен, что оно будет строиться не на диктатуре «черных ящиков», а на жестком симбиозе точных вычислений и человеческого выбора. В мире тотальной автоматизации единственным неавтоматизируемым ресурсом остается сам человек — дирижер, определяющий смыслы, ценности и направления цивилизации.

Но лопаты в ближайшие несколько лет продаются пока хорошо: ASML из Нидерландов предупредила, что в 2027–2028 годах ее поставки машин не покроют весь ИИ‑спрос, и сообщила о рекордной квартальной выручке €11,7 млрд, повысив нижнюю границу годового прогноза продаж.

Физики из нескольких институтов сделали бенчмарк из 50 неопубликованных задач по теоретической физике Astra решила их все, за исключением одной. Авторы признаются, что в этой задаче формулировка была двусмысленной (ни одна из других моделей ее также не решила). Задачи составляли сами эксперты, подобраны они были так, что профильный специалист решает такую задачу примерно за день-два. Opus 5.5 справился с 46 задачами из 50. GLM-5.3 – с 21. А с Astra история вообще получилась довольно забавной. Все ответы были сведены к числам и проверялись автоматически. После прогона тесты показали, что модель неправильно решила несколько задач, однако Astra настаивала, что ее расчеты верны. Исследователи решили проверить собственные решения и действительно нашли в них ошибки, а решения модели оказались верными.

Нейронные сети уже чистые Причиной полисемантичности в ранних модельных организмах была не суперпозиция, а несколько обычных, в основном устранимых проблем. Теперь мы можем понять большинство нейронов в моделях с триллионами параметров и считаем, что перспективы механистической интерпретируемости могут быть гораздо лучше, чем мы предполагали.

Google показала, как Gemini 4 Argon управляет роботами и строит для них симуляции Свежая Argon набрала 87% на ERQA, тесте на рассуждения о физическом мире для роботов, причём без внешних инструментов, только за счёт рассуждений. По словам Google, это лучше любой другой передовой модели. Модель управляла роботом Spot от Boston Dynamics и собрала в симуляторе MuJoCo цифровую копию мусорного ведра с педалью, отрепетировала на ней движения, а затем заставила настоящего робота наступить на педаль и выбросить банки. Простой манипулятор с камерой на запястье по её командам поднял упавшую кружку и положил в неё скомканную салфетку. Для этого модель за несколько шагов перебирала действия посмотреть, схватить, переместить и положить. Ещё одна сцена была собрана по рисунку от руки. Там гуманоид бросал мяч и сбивал пирамиду из шести коробок, все шесть упали. Видео, на котором двурукий ALOHA 2 136 секунд складывает лису из бумаги, модель разбила на шесть подзадач и 17 элементарных движений, при этом участки с неудачными попытками пометила как не продвигающие работу. На маленьком манипуляторе SO-101 модель сама разбирала по логам и видео, почему не удался захват кубика LEGO, и за три попытки сократила время задачи с 58,9 до 17,4 секунды. По одной фотографии рабочего места с двумя манипуляторами Franka Argon собрала откалиброванную симуляцию, придумала 77 задач и сгенерировала больше 4500 эпизодов. Дообученная на них модель VLA стала справляться с реальными задачами в 75% случаев вместо 56%, а среднее время выполнения сократилось с 35 до 24 секунд.

004 Очевидно, что манипуляция роботами и получение данных о реальном мире - это вопрос времени, рынка и развития соответствующих MCP. Делаться это будет через систему координируемых сенсоров. Причем сенсоры могут быть любыми, а не только аналогами))) шести органов чувств. О том как это может выглядеть я писал примерно лет десять-пятнадцать назад в Концепции Абсолютного Интеллекта.

Влад, я не буду отвечать на помойках, когда есть моя ветка, хотите что спросить - спрашивайте у меня, а не там, где хуярвики перепосчивают мои сообщения)))

Нигде не реализуется блок-схема управления, кроме пятидесятилетнего прошлого. Как хотите. Вам нравится хуярвика троллить - да, забавная задача, тем более, что он он уже выжил из ума. Решайте сами.

Устрашающие предсказания от Берни Сандерса на Atlantic — техноолигархи совсем спутали научную фантастику и реальность, и ведут нас в трансгуманистический апокалипсис. Сандерс предлагает приостановить разработки в области advanced-AI и запретить создание искусственного сверхинтеллекта до тех пор, пока государство не сможет гарантировать безопасность этих разработок. И кстати уже внёс соответствующий законопроект.

Крадут как обычно, значит, отстают)) Не волнуйтесь так...

Сергей Голубицкий. Сказка о пузыре. Время от времени в фокус общественного внимания попадает тема «страшного биржевого пузыря», который не сегодня-завтра обязан лопнуть с сокрушительным грохотом. Тема хлебно-кликбейтная, поэтому СМИ всегда с охотой ее подхватывают и разгоняют обывательскую жуть до уровня приятного профита. (Далее в статье)

Согласно новому исследованию Мюнхенского университета имени Людвига Максимилиана (LMU), даже когда искусственный интеллект ведет себя в точности как человек, люди неохотно считают его сознательным. По мере развития искусственного интеллекта всё чаще появляются сообщения о том, что системы ИИ вводят пользователей в заблуждение, работают сообща или, кажется, преследуют независимые цели. Такое поведение часто заставляет людей описывать ИИ так, будто он может думать, чувствовать или принимать решения самостоятельно. Но действительно ли поведение, подобное человеческому, убеждает людей в том, что машина обладает сознанием? Новое исследование Людвига Максимилиана предполагает, что люди четко различают проявление интеллектуального поведения и наличие сознания, даже когда люди и искусственный интеллект действуют совершенно одинаково.

В этом месте довольно много слоев и объектов. Что такое LLM как владение? Это дорогая гигантская инфрастрактура, которую нужно поддерживать и непрерывно развивать. Это топовые разработчики, за которых нужно конкурировать, а они штучные как природные алмазы. Это почти безпредельные корпуса данных, используемых в обучении, где всегда будут драки за лицензионную чистоту. Зачем это всё бизнесу, задача которого - снижать себестоимость. Главное преимущество и отличие LLM от прочего софта - генерация. Стимул - реакция. Промт - генерация. Вопрос - ответ. Задача - решение. Содержатся ли теоремы эвклидовой геометрии в начальных аксиомах? Да. Нужно ли их доказывать, если бы хотели их использовать для решения задач? Нет, если бы мы могли сразу отличать верное утверждение от неверного. LLM дает такую возможность. Но в этой возможности нет ни одной причины зачем этим владеть, если этим можно просто воспользоваться. Домены, стандарты, прикладные специализированные модели, спецификации, требования, etc -- да -- это все представляет собой корпоративную ценность. Но это не LLM, это её harness. Важнейший вопрос здесь -- отношение Моделей и Знаний, я не думаю, что речь идет просто об имманентности последних.

Как формализовать всю математику (Это гостевой пост, написанный Джереми Авигадом, Кевином Баззардом, Йоханом Коммеленом, Реми Деженном, Ким Моррисон, Оливером Нэшем и Адамом Топазом.) Реакция математиков на крупный релиз OpenAI на прошлой неделе варьируется от восторга до разочарования, но одно ясно: ИИ стал удивительно хорош в доказательстве теорем, как формально, так и неформально. Успехи в формальной области заставили энтузиастов ИИ заявить, что настало время формализовать всю математику как наследие для будущих поколений. (далее по тексту ссылки)

То есть единственный аргумент - безопасность. Есть такое - да, но зачем же открытые данные без обфускации сети подсовывать. Подготовка, фильтрация и преобработка - это неотьемлемый элемент любого пайпа. Китайцы бы лучше научились хоть что-то, что не ломалось бы через неделю использования))) Поверьте, Ялдобаот, слухи о мощи китайцев сильно преувеличены, знаю, что в РФ на них молятся, но ваших надежд они не оправдают.

Нейробиологи впервые детально увидели, как мозг представляет то, чего мы не осознаём. Группа ученых из запрещенного в РФ Беркли записала активность тысяч нейронов в лицевых участках височной коры и в префронтальной коре у обезьян во время бинокулярной конкуренции. В этом эксперименте разным глазам показывают разные лица: одно осознаётся, второе - подавляется и не попадает в сознание, хотя физически присутствует. Оказалось, что нейронная активность быстро чередуется примерно каждые 60 миллисекунд между двумя состояниями. В одни моменты из неё можно точно реконструировать осознаваемое лицо, а в другие - подавленное. При этом одни и те же нейроны по очереди кодируют и то, и другое. Это важно по двум причинам: Во-первых, подавленное изображение представлено в мозге не слабо и размыто, а очень детально. Во-вторых, сознательный доступ оказался связан не только с тем, в какой области находится представление, но и с тем, в какие моменты времени оно становится доступным. Дорис Цао, из Бэркли отмечает, что сознание, по её гипотезе, опирается на непрерывные механизмы слежения в теменной коре. То есть теперь у учёных есть чёткие и сильные сигналы и осознаваемого, и неосознаваемого контента, а значит, стало намного проще экспериментально разбираться, как именно мозг выбирает, что попадёт в сознание, а что нет.​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​

005 Anthropic выпустила исследование о том, что у них изменилось с приходом агентов. Сразу оговорюсь: компания находится на самом острие внедрения ИИ. Так что это скорее взгляд в будущее, чем возможный результат для всех. Но цифры показательные. Доля джунов среди новых технических сотрудников упала с 27% до 9%. К августу агенты наработали в шесть раз больше часов, чем люди. Встреч при этом стало на 20% больше. А чтобы просто прочитать все, что выдают агенты, даже нетехническому сотруднику нужна половина рабочей недели. Но интереснее не сами цифры, а куда сместилось узкое место. Раньше тормозило «сделать работу». Теперь тормозит «проверить то, что сделали агенты». Поэтому и нанимают уже не за знание конкретной технологии, а за самостоятельность и умение принимать решения. Все, что легко автоматизировать, быстро перестает быть ценным навыком. Отсюда мой ответ на вечный вопрос «как не отстать». Качать стоит не исполнение, его заберут агенты, а два других навыка: четко ставить агенту задачу и быстро оценивать результат.

Даю справку, 1) "почти случайное угадывание" для 1632 элементов - это 0.061%, 2) Модель GPT6 Astra имеет в этом тесте результат 49,57%, что примерно в 809 раз лучше случайного угадывания. GlobeBench git