Лаборатория цифровых свобод: Существует ли приватность в работе с Искусственным интеллектом (ИИ)

Искусственный интеллект (ИИ) прочно вошел в жизнь журналисто_к и правозащитни_ц, помогая им работать с чувствительной информацией. Но возникает вопрос: безопасно ли использовать ИИ-решения, особенно с точки зрения GDPR, когда речь идет о чувствительных данных?

GDPR или Общий регламент по защите данных — постановление ЕС, с помощью которого Европейский парламент, Совет Европейского союза и Европейская комиссия усиливают и унифицируют защиту персональных данных всех лиц в ЕС. 

В этом тексте мы рассмотрим:

• Риски использования ИИ-решений для работы с конфиденциальной информацией.

• Соответствие GDPR при работе с ИИ-инструментами, например, чат-ботом GPT.

Как работает ИИ и причём тут колбаса

Разберём ответ на эти вопросы на примере самой популярной языковой модели и виртуального собеседника ChatGPT. Глобально,ChatGPT, DALL-E, Midjourney – это программы, только необычные. 

На уроках информатики изучают простые шаги программирования. Программе можно написать алгоритм «как спуститься с лестницы»: сделай шаг вперёд, спустись на ступеньку, снова спустись на ступеньку и так далее. Соответственно, если алгоритм «как спуститься с лестницы» усложняется, например, появляется дополнительный пролёт, то изменяется и сам алгоритм. Но программист должен потратить время, чтобы изменить сам алгоритм.

Обычная программа — это конкретный алгоритм, и когда человек что-то не учёл, то программа ломается или работает с ошибками.

Нейросети и искусственный интеллект позволяют не писать алгоритмизацию для каждого возможного варианта, а научить эту модель просчитывать всё возможное на вводных данных, например, описание или видео того, как кто-то передвигается по лестнице.

Модель — это своего рода чёрный ящик, в который мы закидываем данные и получаем результат, которые мы не можем предугадать заранее. Этот результат может быть как адекватным, так и неадекватным.

Нейросети могут быть более гибкими в поисках решений, а иногда давать совершенно непредсказуемый результат. В одном эксперименте нейросеть попросили как можно скорее пересечь финишную линию в виртуальном пространстве без ограничений. Команда исследующих предполага, что нейросеть будет строить скоростной транспорт, но она создала огромную «колбасу», которая просто упала вперёд и пересекла черту. Неожиданно, но тоже результат.

Это касается и языковых моделей, таких как ChatGPT. Если модель плохо натренирована, то и результат будет неадекватный, потому что модель не осознаёт ответ, выдаёт результат на основании всех данных на которых она была обучена.

Из чего состоят нейросети и кто их создаёт

Вначале есть программа оболочка, например, ChatGPT, куда мы вводим данные и в ней живёт какая-то модель. Модель — это большое количество разного вида информации и алгоритмов, с рядом ограничений, какой-то цензурой и исправлениями, сделанными человеком в процессе обучения и тренировки модели.

Мы знаем, что ChatGPT создан компанией OpenAI. Значит, можем решать стоит или нет доверять этой компании, потому что можем посмотреть информацию о компании и их privacy policy (инструкция по приватности). Если это модель или нейросеть, созданная компанией из Тайваня, Китая, США, или любой другой страны, то и компания, и её сервисы подчиняются законам и политикам той страны, в которой находятся и осуществляют деятельность. На это нужно обращать особое внимание.

Как выбрать модель ИИ для работы

Сохранять и использовать информацию, задаваемому пользователем, для самообучения может и ChatGPT и другие сервисы на основе ИИ. При этом сама модель при ежедневной работе никак не меняется на основании данных других пользовател_ниц, но оператор сервиса может дообучить модель на основании данных других пользовател_ниц.

В ChatGPT прямо написано, что операторы сервиса будут видеть информацию с бесплатных или дешёвых тарифных планов и могут её использовать для (до)обучения модели в анонимизированном виде.

Например, данные из ChatGPT, информация, которая туда вводится, шифруется через протокол «https» и отправляется на сервер. Информация приходит на сервер зашифрованной и расшифровывается на самом сервере. Интернет-провайдер не видит содержимое коммуникации, а компания OpenAI и те кто администрируют сервер — видя.

Она приходит на сервер уже в расшифрованном виде, и дальше может снова шифроваться, однако если кто-то имеет доступ к физическому серверу ChatGPT, то может её видеть или взять оттуда в тот момент, когда она туда попадает. Тут возвращаемся к вопросу, насколько надёжной является компания, создавшая эту модель, и кому по своему privacy policy могут быть доступны данные.

Кстати, мы уже подробно писали о 8 шагах в GDPR для некоммерческих организаций.

Сервис сохраняет у себя запросы (промты), которые пользовател_ница пишет и то, что сгенерировано в ответ. Также сохраняет каждый шаг редактирования промта и ответы на них. Сервис помнит, что и кому отвечает, какие даёт комментарии, на каком месте остановилась сессия.

Когда человек пользуется веб-интерфейсом ChatGPT, программа выполняется в браузере компьютера пользовател_ницы. Соответственно, если есть вирусы на компьютере, или версия браузере давно не обновлялась, то нет никакой гарантии, что данные пользовател_ницы не утекут, и ChatGPT тут ни при чём. 

Чтобы выбирать конкретные решения ИИ под свои задачи важно понимать плюсы и минусы конкретных сервисов и изучать дополнительную информации по политике компании при использовании моделей пользователь_ницами.

Арыгінальная публікацыя на сайце Human Constanta