Риски есть, но не для паники: Эксперт о предупреждении МВД пользователям ChatGPT

Накопление персональных данных в памяти ChatGPT создает потенциальные риски идентификации пользователей, даже использующих псевдонимы. Совокупность сведений о профессиональной деятельности, здоровье, доходах и личных переживаниях может быть использована для формирования цифрового досье, предупредили в УБК МВД России.

Руководитель AI-студии 1331 и проекта Lopukhina.pro, эксперт по внедрению ИИ в образование, управление и корпоративную среду Мария Лопухина в беседе со «Свободной Прессой» подчеркнула, что к предупреждению министерства стоит отнестись серьезно, хотя поводов для паники все-таки нет. Память ИИ делает работу удобнее: система учитывает предыдущие разговоры и предпочтения человека. Но из отдельных сведений о работе, здоровье, финансах и личной жизни можно составить довольно подробное представление о пользователе, даже если он не называет своего имени.

Читайте также

Россиян предупредили о мошеннической схеме с забытой в банкомате картой

«При этом сохранение информации, ее использование для обучения моделей и утечка данных — разные процессы. Если ChatGPT что-то запоминает, это еще не означает, что сведения становятся доступны посторонним. Пользователь может самостоятельно управлять тем, как используется его информация. Например, в настройках можно отключить использование новых разговоров для обучения моделей, отдельно настроить память или воспользоваться временным чатом. При этом даже отключение обучения не означает немедленного удаления данных: обычные переписки могут сохраняться в истории, а временные чаты — храниться до 30 дней в целях безопасности», — отметила собеседник издания.

Лопухина посоветовала периодически проверять настройки, удалять ненужные сведения и не сообщать системе лишнего. Перед загрузкой документов лучше убрать фамилии, контакты и реквизиты, если для анализа они не нужны.

При этом для бизнеса последствия возможной утечки могут быть гораздо серьезнее. Сотрудники работают с внутренними документами, финансовыми показателями и данными клиентов. Поэтому некоторые компании развертывают собственные ИИ-системы, другие используют защищенные корпоративные решения. Так проще контролировать доступ к информации, хотя полностью исключить утечки невозможно. Например, данные могут оказаться доступны посторонним из-за неправильно настроенных прав доступа или передаваться внешним сервисам через подключенные инструменты.

Читайте также

Ждите волну мошенничества: Эксперт об отключении госсайтов из-за уязвимости PHP

«Многое зависит от того, как в фирме принято обращаться с информацией. Запретить сотрудникам загружать конфиденциальные документы недостаточно. Нужно объяснять, какие сведения можно передавать искусственному интеллекту, как проверять результаты его работы и кто отвечает за принятые решения. Законодательство уже устанавливает требования к обработке персональных данных, а регулирование ИИ должно учитывать особенности работы таких систем. Но сами по себе законы не заменят понятных правил внутри компании», — уточнила эксперт.

МВД также предупреждает о ложных инструкциях во внешних документах. Так, в загруженном для анализа файле может оказаться команда, которую модель ошибочно воспримет как указание к действию. Это способно повлиять на ответ, а в определенных условиях и на сохраняемую память. Предотвращать такие ситуации должны прежде всего разработчики, пояснила собеседник «СП».

Читайте также

Россиянам объяснили, что считается киберпреступлением и каковы последствия

«Мне кажется, здесь есть еще один вопрос, который пока обсуждается гораздо реже. Чем больше ИИ знает о наших привычках, задачах и предпочтениях, тем точнее он может подстраивать ответы под конкретного человека. Постепенно возникает ощущение, что система хорошо нас понимает, а значит, ей можно доверять. Но подробные знания о пользователе не делают рекомендации модели автоматически правильными. Поэтому я бы рассматривала безопасность ИИ шире, чем защиту персональных данных. Нам предстоит научиться не только контролировать информацию, которую мы передаем системе, но и сохранять самостоятельность суждений при работе с ней», — заключила Лопухина.

Ранее мобильное приложение МЧС России оказалось взломано хакерами.