Что не стоит отправлять нейросети⁠⁠

Часто наблюдаю среди знакомых и коллег один и тот же сценарий. Человек хочет сэкономить десять минут и пишет нейросети:

— Проверь договор и найди ошибки.

А следом вставляет весь документ: с фамилиями, паспортными данными, адресами, суммами и реквизитами.

Или просит составить ответ клиенту и копирует рабочую переписку вместе с телефонами, почтой и внутренними комментариями.

Но дело конечно не только в работе. Нейросетям рассказывают о ссорах с партнером, пересылают личные диалоги, загружают личные фото, медицинские заключения и результаты анализов.

Иногда ИИ действительно используют как личного психолога — со всеми именами, обстоятельствами и подробностями, которые не стали бы рассказывать незнакомому человеку. И это легко понять. Диалог выглядит приватным, нейросеть не осуждает, отвечает спокойно и всегда готова продолжить разговор.

Но ощущение личной беседы может быть обманчивым. Перед нами не закрытый дневник и не разговор с другом, а онлайн-сервис, которому мы добровольно передаем личную информацию. Нейронки удобны для анализа, объяснений и подготовки черновиков, но для качественного ответа им далеко не всегда нужны реальные имена, документы и подробности нашей личной жизни. Проблема начинается в тот момент, когда вместе с полезным контекстом мы отправляем гораздо больше данных, чем требуется для решения задачи.

Небольшая подноготная: если речь идёт об облачном ИИ-сервисе вроде ChatGPT, нейросеть не сидит внутри вашего телефона. Запрос отправляется на серверы сервиса, где обрабатывается. Обычные диалоги хранятся в аккаунте, пока пользователь не удалит их самостоятельно. После удаления чат сразу исчезает из аккаунта и обычно удаляется из систем OpenAI в течение 30 дней — за исключением отдельных случаев, связанных с требованиями безопасности или законодательства.

В личном ChatGPT можно отключить использование новых диалогов для улучшения моделей. Для этого нужно открыть настройки управления данными и выключить функцию "Совершенствовать модель для всех". Новые разговоры после этого не должны использоваться для обучения, хотя продолжат отображаться в истории.

И это не только теоретический риск. В марте 2023 года OpenAI временно отключила ChatGPT из-за технической ошибки. Как компания рассказала в официальном разборе инцидента, некоторые пользователи могли увидеть заголовки чужих разговоров, а при определённых обстоятельствах — первое сообщение недавно созданного чата.

Поэтому перед отправкой я задаю себе три вопроса.

Первый: можно ли выполнить задачу без настоящих данных?

Вместо имени — "Клиент А". Вместо номера договора — XXXXX. Вместо реального адреса — вымышленный. Для проверки формулировки нейросети обычно не нужен паспорт человека.

Второй: что произойдет, если этот текст увидит посторонний?

Если ответ — "будет неловко", "могут быть проблемы из-за нарушения NDA" или "человек не давал на это согласия", текст все же лучше обезличить.

Третий: нет ли здесь того, что вообще нельзя копировать?

Пароли, коды из СМС, ключи API, данные банковских карт, закрытые ссылки, клиентские базы и внутренние документы — плохой материал для любого публичного сервиса.

Отдельная ловушка — скриншоты и личные фотографии. В углу могут остаться уведомления, вкладки браузера, названия файлов или лицо человека, который не соглашался участвовать в вашем запросе.

Мой алгоритм простой:

1. Удалить имена, телефоны, адреса и реквизиты.

2. Заменить реальные значения вымышленными.

3. Оставить только нужный для ответа фрагмент.

4. Проверить края скриншота и панель уведомлений.

5. Не отправлять то, что вы не стали бы публиковать открыто.

Нейросеть должна получать контекст, а не всю вашу жизнь целиком.

Вообще, такие утечки редко происходят из-за какой-то сложной хакерской атаки. Чаще мы сами отправляем лишнее — в чат с нейросетью, незнакомому боту или сомнительному сервису, потому что не видим в этом непосредственной опасности.

Подобные бытовые ситуации, разборы утечек и простые правила цифровой безопасности я собираю в Telegram-канале, подпишись!

А вы как ведете себя при “общении с нейросетью” — используете как личного психолога и юриста или все же стараетесь соблюдать правила для личной безопасности?