Чек-лист информационной безопасности и приватности для ИИ-агента

Разделение и право собственности на данные

• Отделены ли данные организации от данных других клиентов поставщика и каким образом.
• Используются ли данные для обучения моделей: поставщика или стороннего поставщика модели.
• Где хранятся данные и где хранятся резервные копии. Оба места, а не одно.
• Кто у поставщика может получить доступ к вашему контенту и при каких обстоятельствах.
• Что происходит с контентом и данными по окончании договора и в каком формате их можно экспортировать.

Персональные данные в диалоге

Этим пунктом пренебрегают чаще всего. Риск не только в том, что сохраняется, но и в том, что обратившемуся человеку предлагают ввести с самого начала.

• Предупреждает ли система о недопустимости ввода удостоверения личности или платёжных данных в чате.
• Маскируются ли идентификаторы обращающихся, например номер телефона в WhatsApp, и где именно выполняется маскирование.
• Как долго хранятся диалоги и кто может их просматривать.
• Можно ли найти конкретный диалог при поступлении запроса по вопросам приватности.
• Существует ли письменный документ о политике хранения данных, а не только устное заверение.

Контроль и управление

• Журнал аудита: кто изменил контент или права доступа и когда.
• Права доступа по ролям, включая разделение между отделами.
• Можно ли заранее задать фиксированный ответ по чувствительным темам.
• Можно ли немедленно остановить систему и кто уполномочен это сделать.

Какие подтверждения стоит требовать

Принцип: просить то, что можно проверить, а не заявление. Обратите внимание на разницу между системой управления информационной безопасностью (ISMS), построенной по стандарту, и действующим сертификатом. Поставщику, который стирает эту разницу, стоит предложить её объяснить.

• Пакет документов политик и процедур для ознакомления.
• Результаты внешних проверок безопасности со ссылкой, позволяющей запустить их заново.
• Явное заявление: ISMS по стандарту или действующий сертификат. Не принимать расплывчатых формулировок.
• Структурированное описание мониторинга, резервного копирования и обеспечения непрерывности, с указанием того, что действительно проверено, а не только запланировано.