| |
Искусство промтинга, дирижирования и оркестрации LLM | |
| |
|
create
|
| Искусство промтинга, дирижирования и оркестрации LLM |
| 13:26 06.10.2026 |
|
14:27 06.10.2026 |
|
№15202 |
Я хочу начать ветку о промтинге. Но не о том, как написать "идеальный промт", чем больше я работаю с LLM, тем меньше мне вообще нравится выражение prompt engineering. Оно создаёт впечатление, что существует некоторая правильная формула запроса: достаточно хорошо сформулировать задачу, добавить контекст, определить роль, перечислить ограничения - и модель выдаст правильный результат.
Иногда это действительно работает. Но самые интересные задачи устроены иначе.
Когда я начинаю сложную работу с моделью, я часто ещё не знаю, какой именно результат хочу получить. Более того - я не всегда до конца понимаю саму задачу. У меня есть направление, опыт, несколько гипотез, какие-то ограничения и ощущение того, что ответ находится где-то рядом. И вот здесь начинается настоящее взаимодействие. Я пишу промт. Модель отвечает. Я смотрю не только на ответ, но и на то, как она поняла пространство задачи. Что она заметила. Что пропустила. Где слишком быстро сделала вывод. Где предложила неожиданное направление. Следующий промт возникает уже из её ответа. Постепенно меняется не только ответ модели. Меняется моя собственная постановка задачи.
В какой-то момент это перестаёт быть схемой человек → запрос → модель → ответ и становится циклом: намерение → формулировка → генерация → критика → уточнение → новое намерение. Именно поэтому мне кажется полезным различать три уровня работы с LLM.
Промтинг - когда я формулирую отдельное воздействие на модель.
Дирижирование - когда я координирую развитие диалога: меняю направление, темп, глубину, заставляю модель вернуться назад, спорить, искать альтернативы, проверять собственные выводы.
Оркестрация - когда одного диалога уже недостаточно и я начинаю собирать систему: несколько моделей или агентов, инструменты, данные, код, память, проверки, привличение кожаных сотрудников))).
Но всё начинается с промта. Не потому, что промт - магическая команда. А потому, что это минимальный акт координирования чужим процессом мышления. И, пожалуй, первое, чему я хотел бы научиться сам и научить других: не писать хорошие промты, а видеть, что именно я пытаюсь изменить следующим промтом.
Об этом и многом другом будет эта ветка.
Об искусстве ставить и решать задачи.
|
| |
|
create
|
| Искусство промтинга, дирижирования и оркестрации LLM |
Первый вопрос "чат или агент?"
На первый взгляд разница небольшая. В обоих случаях мы что-то пишем модели и получаем ответ. Но это два совершенно разных способа работы. Когда я открываю чат, я предполагаю, что работа происходит "здесь и сейчас". Я задаю вопрос. Получаю ответ. Уточняю. Возражаю. Меняю постановку. Мы движемся вместе, шаг за шагом. Чат - это диалог. И в хорошем диалоге я не обязан заранее знать весь путь. Более того, иногда главная ценность разговора с моделью именно в том, что задача постепенно становится понятнее в процессе разговора.
Агент начинается с другой идеи. Я хочу не просто поговорить с моделью. Я хочу "поручить ей работу". Найти информацию. Сравнить варианты. Пройти несколько шагов. Использовать инструменты. Проверить результат. Вернуться ко мне уже с чем-то завершённым. То есть различие примерно такое: "чат - я думаю вместе с моделью" против "агент - я делегирую модели часть деятельности."
И здесь появляется очень важная вещь. Один и тот же промт, хороший для чата, может оказаться плохим для агента. В чате я могу сказать: "Давай подумаем, как лучше решить эту задачу." Для агента этого недостаточно. Ему нужно понимать, что считать результатом, какие действия разрешены, где находятся данные, какие существуют ограничения и в какой момент работу можно считать законченной.
Поэтому искусство промтинга начинается ещё до первого промта. Оно начинается с выбора архитектуры взаимодействия: Мне сейчас нужен собеседник или исполнитель? Я хочу исследовать задачу или поручить её выполнение? Я собираюсь управлять каждым следующим шагом или хочу определить цель и передать управление? Ответы на эти вопросы меняет всё остальное.
Именно поэтому сегодня уже недостаточно говорить только об искусстве промтинга. Нам придётся говорить ещё о "дирижировании" диалогом и об "оркестрации" работы агентов.
|
| |
|
create
|
| Искусство промтинга, дирижирования и оркестрации LLM |
| 14:40 06.10.2026 |
|
14:59 06.10.2026 |
|
№15205 |
Термин "управление" слишком тупое и слишком механистическое слово для отношений человека с LLM. Его следует использовать редко и осторожно. Как используются костыли и/или заменители хороших вещей и продуктов. Управление - это про ресурсы, АСУ, функциональные аналоги и прочий устаревший еще в 1980х годах мусор смысловых символьных логических преобразований 😂
В управлении предполагается примерно такая схема: цель → управляющее воздействие → объект управления → наблюдение состояния → коррекция. При этом управляющий субъект в существенной степени знает, какое воздействие должно вызвать какой результат. Даже если система сложная, идея control остаётся инженерной: уменьшить ошибку относительно заданного состояния.
С LLM всё немного иначе. Мы не задаём её внутреннее состояние и не определяем непосредственно следующий шаг вычисления. Мы воздействуем на систему, которая сама интерпретирует наши инструкции, достраивает недостающий контекст, выбирает способ решения и генерирует результат, которого мы зачастую заранее не можем полностью описать. Поэтому метафора дирижирования оказывается точнее.
Дирижёр ведь тоже не "управляет" музыкантом в смысле сервопривода. Он не говорит скрипачу, какое движение пальца сделать через 140 миллисекунд. Музыкант обладает собственной компетенцией. Дирижёр задаёт другое: направление, акцент, темп, момент вступления, интенсивность, взаимодействие частей и интерпретацию целого. Это очень похоже на хороший диалог с LLM.
Я могу сказать модели: здесь углубись, здесь не спеши с выводом, рассмотрим противоположную гипотезу, отбрось предыдущее направление, теперь посмотри на всё глазами архитектора, сравни эти два решения, не решай пока задачу, сначала найди противоречия. Я не управляю моделью как велосипедом. Я формирую траекторию и пространство её генерации.
|
| |
|
create
|
| Искусство промтинга, дирижирования и оркестрации LLM |
Пару дней назад Андрей Карпатый выложил такой пост. Можно сказать, что это одно из самых современных вИдений диалога с моделью. Мы до такого взгляда доберемся неспешно и осмысленно. А пока перевод:
Андрей Карпатый:
Нам предстоит тратить гораздо больше времени на то, чтобы разобраться в результатах работы языковых моделей. Вот несколько мыслей и полезных советов:
Тексты. Хорошо работает такой подход: попросите языковую модель (LLM) объяснить что-либо, используя стандарт ASD-STE100. Это спецификация контролируемого языка, изначально разработанная для технической документации в аэрокосмической отрасли. Модели отлично владеют этим языком, а сам стандарт накладывает строгие ограничения, обеспечивающие чистоту и ясность стиля — читать такие тексты зачастую гораздо проще. Иногда я просил модель использовать этот стиль лишь «на 80%», так как полная спецификация довольно жесткая. Но есть варианты и получше:
Диаграммы и изображения. Вместо текста попросите модель создать диаграмму. Воспринимать, анализировать и понимать их зачастую намного легче. Но есть варианты и получше:
Веб-страницы. Попросите выдать результат в формате HTML, чтобы получить красивую интерактивную веб-страницу. Языковые модели всё лучше справляются с фронтендом и могут создавать качественные интерфейсы, анимацию и многое другое. Но есть варианты и получше:
Поясняющие видеоролики. Формат, на который я возлагаю самые большие надежды, — это полностью уникальные поясняющие видео, созданные по любому запросу. Поэкспериментируйте с такими задачами: «Создай поясняющее видео на тему X в стиле канала 3b1b. Для озвучки используй мой API-ключ ElevenLabs». (Для последнего варианта понадобится ключ API, но можно попросить модель найти достойные бесплатные альтернативы, работающие на ваших локальных вычислительных мощностях). Это действительно начинает работать!
Подводя итог:
- По мере совершенствования языковых моделей они будут брать на себя всё больше рутинной работы, а наша деятельность сместится на более высокий уровень абстракции — к контролю и осмыслению результатов.
- К счастью, здесь модели тоже могут помочь: поскольку интеллектуальные возможности и программный код становятся всё более доступными, можно заказывать создание масштабных, уникальных и «одноразовых» программных продуктов (например, веб-приложений или поясняющих видео), разработка которых раньше не имела смысла. Расширяйте границы возможного — результат вас удивит.
|
| |
|
create
|
| Искусство промтинга, дирижирования и оркестрации LLM |
| 18:59 06.10.2026 |
|
19:05 06.10.2026 |
|
№15219 |
Gray Tag:Пару дней назад Андрей Карпатый выложил такой пост.
Так думается мне, что для обсуждения профессиональными "чайниками" особенностей взаимодействия с программными продуктами далеко не первой свежести, есть места более подходящие.
Под шапкой форума эта тема - Искусство промтинга, дирижирования и оркестрации LLM - вся целиком выглядит как откровенный спам, т.е. намеренно запущенный мусор. Особенно, если учитывать, что ИИ существует лишь в сопливых мечтах и влажных фантазиях обывателей-недоучек. |
| |
|
create
|
| Искусство промтинга, дирижирования и оркестрации LLM |
| 19:15 06.10.2026 |
|
19:21 06.10.2026 |
|
№15222 |
Luarvik.:
Так думается мне, что для обсуждения профессиональными "чайниками" особенностей взаимодействия с программными продуктами далеко не первой свежести, есть места более подходящие.
Карпатый один из виднейших influencer'ов, его невозможно назвать чайником. Ровно как и меня, человека трудящегося Архитектором CV в одной из крупных компаний Кремниевой долины. Точно так систему Athropic Claude Opus 5.5 и Fable 5.1 нельзя назвать "продуктами далеко не первой свежести". Это продукты одни из самых новых на рынке LLM.
Твои сообщения, лаВрулька, являются заведомой ложью, направленной на то, чтобы превратить тему в очередную отстойную яму вроде Мутного Зоопарка или Автономной Алгоритмичности. За ложь в сообщении я лишаю тебя права писать в этой ветке. |
|
|
