Про безопасность обычно говорят либо страшилками, либо формальностями. Попробую по-рабочему: что конкретно не отдавать, почему и что делать вместо этого.
Пять «никогда»
1. Персональные данные клиентов в открытом виде. Паспорта, адреса, телефоны, медицинские сведения. Не потому что «нейросеть украдёт», а потому что вы как оператор данных отвечаете за каждую передачу третьим лицам. Что вместо: обезличивайте — замените реальные значения на идентификаторы, работайте с обезличенным массивом.
2. Ключи, пароли, токены доступа. Вставленный в переписку ключ живёт в истории и в логах. Что вместо: отдельные служебные доступы с минимальными правами, хранение в защищённом хранилище, регулярная ротация.
3. Боевая база без копии. Любая автоматизация с правом изменять данные должна сначала работать на копии. Что вместо: тестовая среда и подтверждение перед каждым действием, которое что-то удаляет.
4. Коммерческая тайна под чужим соглашением. Если клиент подписал с вами NDA, отдавать его документы в сторонний сервис — нарушение, даже если сервис надёжен. Что вместо: согласуйте использование ИИ в договоре заранее — это уже норма, а не экзотика.
5. Финальные решения без человека. Отправка денег, публикация от лица компании, ответ на юридическую претензию. Что вместо: подготовка — машиной, нажатие кнопки — человеком.
Отдельно про чужие расширения и навыки
Скачанный навык — это исполняемый код с доступом к вашим файлам. Относитесь к нему как к программе из непроверенного источника: смотрите содержимое, ставьте из известных репозиториев, не давайте чувствительных доступов экспериментальным сборкам.
Здоровая паранойя без паранойи
Простое правило, которое закрывает большинство рисков: прежде чем отдать что-то в задачу, спросите себя, готовы ли вы увидеть это в чужой переписке. Если ответ «нет» — обезличивайте.
Остальное — обычная гигиена: минимальные права, отдельные аккаунты, журнал действий, подтверждение на необратимых шагах.