VibeusАгентные боты добавили новую границу доверия, и она редко... - Vibeus
Агентные боты добавили новую границу доверия, и она редко учитывается при настройке.
Сценарий такой: берёте общий шаблон агента, скачиваете его, бот подключается к почте, сам находит незакрытые задачи, готовит и отправляет письма от вашего имени. Скачивают такие шаблоны и другие люди — с тем же кодом и тем же доступом. Вопрос здесь не в том, насколько умно отвечает модель, а в том, какие данные ей разрешено видеть и какие действия — совершать.
Практический минимум:
1. Отдельный аккаунт или тестовые данные, а не основная почта.
2. Доступ только к нужным папкам, не к ящику целиком.
3. Отправка писем запрещена по умолчанию — только черновики до явного разрешения.
4. Журнал действий: что бот читал, что создал, куда отправил.
5. Проверка происхождения шаблона до подключения доступа — чей код, какие права он запрашивает, есть ли обновления.
Кнопка «доверить всё» на месте — и удивительно, сколько людей её находят быстрее, чем журнал действий. Граница доверия задаётся не модели, а её разрешениям. Начните с отключённой отправки.