Что нельзя доверять нейросети: пароли, чужие данные и факты без проверки

Менеджер копирует договор с реквизитами клиента в чат нейросети — «сделай короткое саммари». Через минуту готово, удобно. А данные заказчика уже ушли на чужой сервер, и куда они попадут дальше, не знает никто. Нейросеть — сильный помощник, но у неё есть слепые зоны: чего-то ей нельзя доверять в принципе, а что-то нужно перепроверять каждый раз. Разберём по пунктам, без паники и без запугивания.

Личные данные и пароли в чат не отправляют

Всё, что вы пишете в обычный чат нейросети, уходит на серверы сервиса и может использоваться для обучения модели. Поэтому паспорт, номер карты, пароль от почты, коды из СМС, домашний адрес — мимо. Представьте, что печатаете это на открытке, которую прочитает почтальон: примерно тот же уровень приватности.

• Хотите разобрать личный документ — уберите из него ФИО, номера и адреса, оставьте только суть.
• Нужен шаблон заявления или письма — пусть нейросеть напишет его с «Иваном Ивановичем» и «городом N», а настоящие данные впишете сами уже у себя.
• Пароли не придумывайте в чате: сгенерировали — значит, он засветился.

Нейросеть уверенно выдумывает факты

Это её главная ловушка. ChatGPT, Gemini, GigaChat или Алиса отвечают гладко и убедительно даже там, где не знают ответа — просто подбирают правдоподобные слова. Так появляются несуществующие законы, выдуманные цитаты, «книги», которых никто не писал, и цифры, взятые из воздуха.

Юрист попросил подобрать судебную практику — получил номера дел, которых нет в природе. Студент вставил в реферат «источник», а его не существует. Всё, что нейросеть выдаёт как факт — даты, статистику, имена, ссылки на законы, — держите под подозрением, пока не сверите с первоисточником.

Деньги, налоги и договоры — только как черновик

Нейросеть неплохо объясняет общие вещи: чем отличается ИП от самозанятого, что примерно входит в договор аренды, как устроена рассрочка. Но она не знает вашей конкретной ситуации, не видит последних изменений в правилах и легко ошибается в расчётах.

Владелец кафе спросил, какой налоговый режим выгоднее, сделал по ответу — и попал на переплату, потому что нейросеть не учла регион и вид деятельности. Правильный ход: пусть нейросеть подготовит черновик, список вопросов и объяснит термины простыми словами. А решение по деньгам и подпись под договором — после проверки живым бухгалтером или юристом.

Чужие и коммерческие данные — это не ваша тайна, чтобы ей делиться

Базы клиентов, переписки, внутренние отчёты, цены поставщиков, исходники — всё это часто не только ваше. Загружая такое в публичный чат, вы фактически передаёте чужие данные третьей стороне, и это уже вопрос не удобства, а ответственности.

• Клиентские списки и контакты — не выгружайте целиком, обезличивайте.
• Рабочие документы под NDA в обычный чат не отправляют вовсе.
• Для командной работы с чувствительными данными существуют корпоративные версии сервисов с настройками приватности — это отдельная история, но именно её выбирают компании, где данные важны.

Свежие события и «прямо сейчас» — не к нейросети

Модель обучена на данных до определённого момента и по умолчанию не знает, что происходит сегодня. Спросите про курс валют, расписание, цену авиабилета или последнюю версию программы — легко получите устаревший или выдуманный ответ, поданный уверенно.

Если у нейросети нет доступа к интернету, любые «актуальные» цифры от неё — это память о прошлом, а не факт о настоящем. Наличие, цены, статусы заказов и всё, что меняется каждый день, проверяйте у источника напрямую.

Картинки и голос тоже умеют обманывать

Midjourney, Kandinsky и Шедеврум рисуют красиво, но с деталями врут: лишние пальцы, кривой текст на вывеске, несуществующая схема. Нельзя брать сгенерированную инфографику или «чертёж» как достоверный — это иллюстрация, а не документ. То же с голосом и видео: реалистичный голос знакомого в трубке сегодня может быть подделкой, поэтому просьбы «срочно перевести деньги» проверяйте обратным звонком, а не на слух.

Что нейросети можно доверять спокойно

Список запретов не значит, что пользоваться опасно. Наоборот — снимите с неё критичное, и останется море безопасной пользы:

• переписать текст, письмо или пост, придумать варианты заголовков;
• объяснить сложную тему простыми словами и разложить по полкам;
• составить план, чек-лист, структуру документа;
• перевести, сократить, причесать формулировку;
• накидать идеи, когда мысль застряла.

Во всех этих задачах цена ошибки мала, а результат вы всё равно читаете глазами перед тем, как использовать.

С чего начать

Заведите одно простое правило: перед тем как нажать «отправить», спросите себя — «расстроюсь ли я, если это увидят посторонние?» и «что будет, если ответ окажется выдумкой?». Всё личное и секретное — обезличивайте или не пишите. Всё, на чём завязаны деньги, право и репутация, — перепроверяйте у человека или у первоисточника. А рутину вроде текстов, планов и идей смело отдавайте нейросети. Именно так с ней и работают компании, которым мы в МАВИИ помогаем внедрять ИИ: не вместо головы, а как быстрый помощник под присмотром.