ПРАКТИЧНІ НОТАТКИ / ОЛЕГ ГЕБЕЛЬ
Кращий промпт не виправить зламану модель контексту.
Поведінка AI залежить від доступної інформації, її пріоритету, пам’яті, дозволених інструментів та поточного стану задачі.
Контекст — продуктова архітектура
Команди часто виправляють видимий промпт, хоча проблема лежить у розрізненому контексті. Навіть точна системна інструкція не гарантує послідовної поведінки, коли джерела суперечать одне одному.
Архітектура контексту визначає, яку інформацію може використати AI, як він має її пріоритезувати та як людина може зрозуміти або змінити цей вплив.
Шість взаємопов’язаних рівнів
Інструкції: постійні правила, поточна задача й обмеження. Знайдені знання: документи, записи та результати пошуку. Пам’ять: уподобання, попередні рішення й довготривалі факти.
Інструменти: можливі дії та дозволи. Стан користувача: роль, план, права й середовище. Стан задачі: поточний намір, виконані дії та нерозв’язані питання.
Свіжа політика може суперечити пам’яті. Користувач змінює намір, а агент продовжує старий план. Технічно доступний інструмент може бути заборонений для поточної ролі.
Спершу пріоритети, потім пояснення
Визнач авторитетне джерело, можливість перевизначення, актуальність і поведінку за недостатньої впевненості. Панель пояснення після помилки не замінить цих рішень.
Пам’ять проти поточного запиту: чи переважає новий намір? Два джерела: яке свіже або авторитетне? Можливість проти дозволу: чи має людина право погодити дію? Стара задача проти нової: коли потрібно скинути, відгалузити або уточнити обсяг?
Пам’яті потрібні межі
Більше збережених даних не завжди краще. Визнач, що можна пам’ятати, як довго, як переглядати й редагувати пам’ять та як виправлення поширюється далі. Важливі дії не повинні непомітно залежати від неперевірених спогадів.
Так само здатність надіслати, видалити чи опублікувати не є дозволом. Доступність інструмента не замінює авторизацію.
Перетвори мапу на правила роботи
Корисна архітектура змінює реалізацію: визначає пошук інформації, дозволи, контроль пам’яті, запасні сценарії та пояснення. Людині потрібні видимі межі, джерела, наслідки й контроль, а не приховані міркування моделі.
Малий спринт контексту
Обери сценарій із непослідовною поведінкою. Переліч усі джерела, познач рішення, на які вони впливають, знайди конфлікти й ризики застарівання. Визнач пріоритети та стани, потрібні людині для розуміння й виправлення.
Інформаційна архітектура не замінює retrieval-інженерію або оцінювання моделі. Вона дає їм чіткі продуктові правила.
Українська редакція матеріалу. Повний англомовний оригінал ↗