Оптимальна послідовність промптів за логікою Майї Жуйки

Кілька днів тому це нарешті сталося: серіалу виповнилося 50 років. Зазвучала заставка, «карусель» з нав’язливою мелодією розкрутилася, і я на три хвилини знову став п’ятирічним.

Коли «карусель» зупинилася, щось зачепило мою увагу — проте не мелодія, а саме послідовність. У пісні спочатку розповідають, де ми знаходимося, потім — хто там літає, далі — яка вона за характером і наскільки великий її світ. І лише в самому кінці, після двох куплетів і двох приспівів, звучить справжня просьба: «розкажи нам про себе».

Це звучить як мила дитяча ностальгія, але це можна виміряти. Google DeepMind у 2024 році продемонстрував: якщо змінити лише порядок інформації в промпті — не змінюючи жодного слова в самому змісті — точність відповідей падає більш ніж на 30%. Завдання залишається тим самим, а от модель — ні.

Дослідження Стенфорда («Lost in the Middle») доповнює цю картину, пояснюючи, де саме виникає помилка: те, що стоїть на початку або в кінці, використовується надійно, а те, що знаходиться посередині, — «зникає».

А трежа робота пояснює, чому прохання має бути в самому кінці: при довгих вхідних даних модель «забуває» інструкцію, якщо вона була надана занадто рано. Anthropic у своїй документації рекомендує саме такий підхід: спочатку контекст, а в кінці — запитання. Це дозволяє покращити якість відповідей на цілих 30%.

Заставка з Майєю інтуїтивно робить те, для чого нам знадобилися наукові статті: світ, персонаж, характер, межі — і лише потім прохання. Дякую, Майє. Тож сидіти тоді перед телевізором було не дарма.

Легендарний дитячий серіал 1970-х років із заставкою у виконанні Карела Готта зробив Майю Жуйку безсмертною. Цей серіал міжнародного виробництва базується на книзі Вальдемара Бонзельса 1912 року.

PS: З «Капітаном Футуром» я поки що не розібрався. Якщо хтось бачить тут аналогію — коментарі відкриті.

Quellen

Ліцензія

Автор: John Loschnig

Посилання: https://speedbrain.ai/uk/posts/optimalna-poslidovnist-promptiv-za-logikoio-maiio-zhuyky/

Ліцензія: © John Loschnig — Усі права застережено

Цей допис захищено авторським правом. Повторне використання, переклад або зміна можливі лише з попередньої письмової згоди. Написано та відредаговано людиною за підтримки інструментів ШІ. Перекладено з німецького оригіналу локальною моделлю ШІ.