Форум создателей искусственных интеллектов

Это дело, респект!

Согласен, побесились и хватит.

Я бы ещё уделил внимание тематике ЧТО ВООБЩЕ ДЕЛАТЬ??? Если кто понимает о чем речь… Раньше ответ был понятен. Хочешь ценность — собери очередную соцсеть, мессенджер, маркетплейс, торговый терминал, базу данных, с некими фишками, чуть боле удобными и привлекательными. Это были годы работы десятков людей, миллионы долларов, и на выходе — продукт, который хоть как-то защищён сложностью. Теперь? Теперь условный ютуб собирается дома за неделю. В умелых руках — сотни долларов, максимум тысячи. И таких ютубов будут тысячи, потом миллионы, ну да ютуб плохой пример, там физическая инфраструктура и тп, но суть понятна. Очевидно, что на плагиате с малыми изминениями никто не заработает — ну, кроме того, кому случайно повезёт с резонансом толпы. То есть старая формула "сделай сложное, потому что могу" умерла. Сложность больше не барьер. Барьер — в другом. И вот тут начинается самое интересное. Так какого типа продукты вообще имеет смысл создавать? Первое, что приходит в голову — то, что генеративные сетки делать не могут в принципе, а не просто "пока не умеют". Не "сделай лучше", а "сделай то, чего там нет по определению". Проблема в том, что таких вещей не так много, и они быстро тают. Второе — эксклюзивность. Не продукт, а доступ. Не "что", а "где" и "для кого". Закрытые клубы, приватные данные, физический мир, лицензии, железо, регулирование. Всё, что нельзя скопировать из промпта. Третье — то, что вообще не про функциональность. Раньше кодер делал "штуку, которая работает". Теперь штука, которая работает, стоит ноль. Ценность смещается в сторону вкусовщины, кураторства, доверия, бренда, харизматичности, сообщества. То есть в сторону того, что кодом не решается, а кодом только обслуживается. И вот тут всплывает неприятный вопрос. Если всё, что делает кодер, обесценивается за месяцы, а то и недели — может, с кодерами ВСЁ, как Геллер пять лет твердил на Готайке? Осталось добить, чтобы ИИ сам себя писал лучше человека — и на концептуальном, и на имплементационном уровне. И тогда кодеру останется… что? Рандомное творчество чисто для души? Может, и так. Но есть и другая рамка. Если инструмент подешевел в тысячи раз, выигрывает не тот, кто делает инструменты, а тот, кто ЗНАЕТ ЧТО ДЕЛАТЬ. Не "как собрать ютуб", а "зачем, для кого и почему именно это". Кодер превращается в человека, который умеет быстро проверять гипотезы о том, что людям вообще нужно, — и это, возможно, и есть новая профессия. Не "написать сложное", а "понять нужное и собрать его за вечер". Хотя, а почему мы думаем что человек намного лучше в этом сетки, специально этому наученной??? В общем вопрос "что делать" — он не про технологии. Он про то, что технологии перестали быть ответом. По аналогии фотоаппарат = генеративные сети, ремесло = "написать работающий код". Это уже обесценено и будет обесцениваться дальше. Первый уровень проекции — кодер как ремесленник — мёртв. Соревноваться с ИИ в скорости и качестве написания кода — это как соревноваться с фотоаппаратом в точности портрета. Можно, но рынок этого схлопнется до нуля. Второй уровень — кодер как "стилизатор". Аналог импрессионистов и абстракционистов: делать то, что ИИ пока не делает, но по сути то же самое, просто другим способом. Нишевые фреймворки, экзотические архитектуры, "красивый код". Это временная ниша. Через год её съедят. Этому обучить сетки довольно просто. Третий уровень — вот где начинается "чёрный квадрат". Вопрос не "что делать кодерам", а что такое кодирование вообще, когда код перестал быть дефицитом. И тут открываются ходы, которые для старой индустрии выглядят как буйство бесознательного: Код как жест. Продукт, который существует не потому, что решает задачу, а потому что высказывается. Как "говно в баночках" — буквально. Кто-то сделает язык программирования, на котором невозможно писать полезное, и это будет искусство. Кто-то выпустит софт, который делает одну бессмысленную вещь идеально. Это уже происходит — посмотри на демосцену, на эзотерические языки, на "useless machine" в цифровом виде. Раньше это было хобби. Теперь это может стать основным способом быть замеченным. Чтото врде NFT в крипте или марки, много всего такого есть. Код как рефлексия над кодом. Продукты, которые не решают задачи, а исследуют природу софта. Что такое баг? Что такое интерфейс? Что такое "пользователь"? Аналог концептуализма: не "картина", а "вопрос о том, что такое картина". В кодерстве это будет: не "приложение", а "вопрос о том, зачем приложение". Инсталляция, а не сервис. Код как анти-код. Отказ от эффективности, от масштаба, от пользы — как художественная позиция. Медленный софт. Софт, который нельзя запустить. Софт, который существует только как описание. Это не шутка — в искусстве такие жесты работают десятилетиями, и в софте они тоже начнут работать, как только "полезный софт" станет полностью бесплатным и вездесущим. Ну и победит, точнее обратит на себя внимание и как то может монетизирует это, первооткрыватель, если будет резонанс социума, повторение уже хрень. В общем лет через 5-10 попрет что то такое… Это так, мысли в слух.

Всё верно, "вообще" уже не катит, ничего уже почти не стоит. Ну а эксклюзив, что-то совсем новое, дело избранных, один на сотню максимум, если речь про что-то незначительное и один на миллион про прорывы, да и то как правило случайно. Получается 99% кодеров в утиль, как собственно и куча других "интеллектуальных" специальностей. То о чем вы толкуете, про "спецификации, описания, требования...", да, пока нужно кожаное вмешательство, но очень это не надолго. Многие сейчас фрустрируют по этому поводу, хочется как то подготовиться, найти более менее долгосрочную нишу для хотя бы интеллектуальной забавы, а в идеале как то этим торговать...

Несколько лет, согласен, даже может 5-7 лет, максимум 10-15. "Задачи, цели, приоритеты…" ИМХО — также закономерны, что-то подсказывает что даже структурно проще, чем то что уже делают генеративки, так что, как говорится "тик, тик…" Переломный момент, думаю наступит, когда LLM ну или некий гибрид, с ворлд-моделом, будет эффективно сам себя модифицировать, на глубинном уровне, то есть сам создавать архитектуры, на математическом и может каком то своём основанном на понимании природы данных, уровне, опитимизировать, писать код, железо, инфраструктуру, управлять всеми процессам и тп. Возможно ли это в рамка текущей парадигмы "контекст-токен + весь код, вся математика и весь интернет" думаю отчасти да. Тут ещё не паханное поле ресерча в структуре самих датасетов что подают в LLM, есть подозрение что 90-99% того что подайся в претрейн, не просто лишнее, но вредное. Слышал про рассуждения как датасеты претрейна довольно жестко фильтровать и структурировать самими LLM, что это была не каша малаша, где вес слов какого то блогера или троля, равны нобелевскому лауреату или фундаментальному фактажу о реальном мире. Также что на последующих, инструментальных этапах, кроме диалогов и всякой вторички с "LLM-софтскилами", добавить своего рода "фундаментальные знания о мире", как опору с большим весом, механизмами различения фантазии от реальности и тп. Вообще разного рода инструментальных этапов в последствии будет десятки, в том числе и те что учат ставить цели, приоритеты и тд. И самое интересное что теперь датасеты для этого могут генерировать, сами LLM а куча дешевых бедолаг за 1-10$ в час их метить, что решает проблемы что на подобии как раньше были с экспертными системами и данными. В общем это инженерное творчество(пока ещё кожаное). Да, бизнес не убьёт ИИ, но кардинально изменит, фундаментально, и политику и экономику и даже социальный строй, в последствии. Это не просто "новая технология", это "последняя технология", в этом и великое счастье для человечества и проблемы особенно на переходном этапе. Вот и интересно, выбрать этакий долгоиграющий тренд, лет на 5 хотя бы, который не протухнет с входом новой модели, а лучше 10, чтобы стартапы поклепать, или вложиться если будет похожий на то что бы сам хотел создать. Пока ИИ не будет делать "всё лучше" и останется только добавлять в рынок эксклюзивный дефект, как вышивка бабушек на базаре или домашнее печенье.

Дорс, нирвана, одобряю. Сам лично, теперь не часто музыку слушаю, не тянет, разве что когда травки пыхну, что бывает довольно редко. Когда на галерах пахал, то обычно техно слушал, или днб, это как тактовый генератор, как на реальных галерах был барабанщик. Нирвана, дорс, это бурная юность, лихие 90е, разок в год можно послушать, понастальгировать, но не более.

Я то как раз не паникую, я уже дано упакован, даже внукам останется. А вот кто не успел это сделать, будет почти невозможно, это с учетом того что и раньше оно было очень сложно.

Да, ну и сейчас в принципе за довольно не большие деньги можно до обучать базовые модели новым скилам, пробовать скрестить с мультимодалкой и всякое такое. Посадить 2-3 ботана за 2-3к в месяц, может в нескольких экземплярах на 5-7% портфеля, что-то вроде биткоина. Вангую скоро новые архитектуры попрут как грибы и трилллионы на этом заработают, а такие новшества возникают, как правило случайно, именно ботанами, а не чуваками за 10м в год.

Да, но это плато может тянуться годы ещё.

Похвально, что делаете что-то конкретное, а не балаболите про ужасы ИИ-безработицы и что "всё украдено до нас". Ваш пример конечно детский, не масштабируемый. Вообще вся текущая котовасия с ИИ это по сути алхимия с обучению представлению(representative learning), то есть как обучаться не на векторах а на хрензнаетчем(текст, картинки, видосики), потому что этого добра у нас полно. А формат результата особо то и не нужно мучиться, голая функция, вход-выход, на вход какой то кусок данных, на выходе что-то полезное, не нужно каких то "агентов" делать и прочие харнесы, это уже декорации.

Я ничего не говорил про инварианты, или забыл, напомните если так. Вы привели пример, с простой моделью, лукап, я сказал что весь сырбор, нынче возится не про то как некую сложную векторную зависимость аппроксимировать, но как извлечь структуру из сырых данных, которые есть в избытке. С инвариантами это тоже может быть связанно, так как само по себе преобразования например текста в смысл, предполагает построение под капотом, неявно, что-то вроде "семантических фреймов", то есть вычисление весов связей между фрагментами структуры. Но слова не связанны со всеми словами в предложении и тем более в абзаце или странице. Большая часть работы "механизма внимания" это именно извлечение слабого подобия семантического фрейма, а MLP уже как то их пытается сопоставить и осмыслить. Если бы данные были сразу в виде объектов-свойств-отношений, вычисления удалось бы снизить на много порядков, 2 может 3 даже.

Да, от инструментов для бизнеса, к самим бизнесам, это логично. Полный цикл, анализ экономики, спроса и предложения, генерация бизнес концепции, реализация, сопровождение, на полном автомате. Вся экономика под ключ, бизнес будет генерироваться как текст или картинка. Это разумный путь диверсификации шальных денег полученных на LLM-хайпе, закрепление их в реальной экономике. Другое дело что уже более полувека, реального дефицита в товарах и услугах нет, все держится на мотивах максимизации прибыли, которые и продуцируют искусственных дефицит и даже парадоксальное ухудшение качества продукции. Это элементарная экономика, если сделать всё доступным как воздух, прибыли будет также как с воздуха, то есть ноль. Так что "эра изобилия" под очень большим вопросом, кое-что конечно станет доступнее, может даже многое, но всегда останется что-то принципиально важное, что будет специально барыжиться через "очень длинную очередь". К социализму 2.0 аля Стартрек, общество пока не готово, точнее власть имущие против.