Визначайте можливості, а не покладайтеся на ярлик
«Чатбот» і «AI-асистент» використовуються неконсистентно. Краща специфікація описує, що система може читати, що може змінювати і які дії потребують схвалення.
Інтерфейс питань і відповідей може лише надавати інформацію. Асистент робочих процесів може створювати записи або викликати інструменти. Правилове бот може виконувати вузьку транзакцію більш передбачувано, ніж будь-який з них. Видимий чат-бабл не говорить, яка архітектура стоїть за ним.
Напишіть таблицю повноважень
| Можливість | Приклад | Необхідна межа |
|---|---|---|
| Пояснити | Підсумок опублікованої послуги | Затверджене джерело фактів |
| Зібрати | Запитати відсутні деталі брифа | Валідація та контекст згоди |
| Запропонувати | Пропонувати класифікацію ліда | Чітке відмінення від підтвердженого рішення |
| Підготувати | Створити чернетку оновлення CRM | Переглядаються запропоновані зміни |
| Виконати | Зберегти затверджену дію | Серверна авторизація, ідемпотентність та історія |
Асистент не має отримувати ширші дозволи лише тому, що користувач переконливо просить. Автентифікуйте викликача та перевіряйте дію поза мовою моделі. Обмежте кожен інструмент мінімальною кількістю даних та операцій, які йому потрібні.
Проектуйте розмову при помилці
Коли модель не може відповісти, запропонуйте корисний наступний крок: уточніть запит, відкрийте бриф або зв’яжіться з командою. Збережіть посилання на безпосередній зв’язок доступними навіть коли провайдер AI не працює. Зберігайте чернетку там, де це доречно, замість того, щоб прикидатися, що невикликаний інструмент успішно виконався.
Уникайте надання, що відповідь є людською, якщо її надіслав не людина. Зробіть зрозумілим, коли вихід є чернеткою або попередньою інтерпретацією.
Оцінюйте повне завдання
Перевірте, чи система надає правильну відповідь і чи дозволена дія записана правильно. Включіть непідтримувані запити, ін'єкцію підказок, повторні надсилання та відмову провайдера. Переконлива розмова без стійкого завершення не є працюючим асистентом.
Досліджуйте AI automation та API integrations як окремі сфери: розуміння запиту та безпечне виконання потребують різних контрольних заходів.
Практичне питання
Чи робить надання інструментів асистента автономним?
Ні. Доступ до інструментів має вказувати автентифікованого актора, дозволені об’єкти, дозволені операції та вимоги щодо схвалення. Перевіряйте кожну дію на сервері навіть тоді, коли модель надає впевнені аргументи.