Специалист по ИИ объяснил, какие данные нельзя отправлять в нейросеть
Загрузка служебных документов в публичный чат-бот любой нейросети фактически равносильна их передаче в открытое пространство. О том, какие данные не стоит доверять искусственному интеллекту и как защитить свою информацию, агентству «Прайм» рассказал руководитель Дирекции искусственного интеллекта ИТ-компании «Первый Бит» Николай Абрамов.По словам эксперта, бесплатные сервисы никак не гарантируют безопасность: запросы могут использоваться для дообучения моделей и храниться на зарубежных серверах. К данным, которые не подлежат передаче в нейросети, относятся любые персональные данные сотрудников и клиентов, сведения, составляющие коммерческую тайну, финансовая отчетность, детали договоров, реквизиты компаний и банковские данные.»Строго говоря, сторонний ИИ ничего не крадет: данные ему отдают сами сотрудники. Всё, что вы отправили в публичный чат-бот, тем более бесплатный, можно считать переданным третьей стороне», — предупредил Абрамов.Он напомнил, что политика конфиденциальности многих популярных сервисов прямо предусматривает хранение и передачу пользовательских данных. Так, DeepSeek хранит данные пользователей в Китае и по местному закону обязан передавать их государству по запросу. С платными сервисами ситуация не лучше: глава OpenAI Сэм Альтман прямо говорил, что переписка с ChatGPT не защищена никакой тайной и по решению суда компания обязана ее выдать, добавил он.
Безопасная работа с ИИ начинается с простого принципа: никогда не отправляйте в публичные нейросети ничего такого, что не готовы увидеть в чужих руках, советует эксперт. Корпоративным пользователям стоит выбирать архитектурные решения, при которых данные не покидают периметр компании.“Например, у нас есть локальные модели с открытым исходным кодом. Они развернуты на нашем оборудовании или во внутреннем контуре заказчика, поэтому данные физически не покидают периметр компании», – рассказал он.Если же для решения задачи необходима внешняя модель, применяется технология обезличивания: конфиденциальная информация маскируется перед отправкой и восстанавливается после получения ответа, заключил Абрамов.
