ГИГАНТ: сотрудники российских компаний стали чаще раскрывать данные в иностранных ИИ-сервисах

Об участившихся утечках конфиденциальных данных через западные ИИ-сервисы и возможных последствиях рассказывает Алексей Колодка, коммерческий директор компании «ГИГАНТ - Компьютерные системы». 

• Почему сотрудники российских компаний стали чаще раскрывать конфиденциальные данные в иностранных ИИ-сервисах? Почему такая оплошность возникает?

Сегодня искусственный интеллект все больше проникает в нашу жизнь, и естественно, простые операции уже легко могут выполнять сервисы Google, Алиса, ГигаЧат. Сотрудники с их помощью могут за короткое время решить простейшие задачи, которые ставит руководство. Именно поэтому для людей личная эффективность в работе важнее, чем угроза безопасности компании. Зачастую они даже не задумываются о том, какие данные они передают, как эта информация может быть использована и как сильно это можно навредить. Еще одна причина — это низкая информированность об информационной безопасности, в компаниях недостаточно разъясняют сотрудникам, насколько важна специальная информация или вообще информационная безопасность в организации, почему стоит задуматься прежде, чем передавать свои данные в западные сервисы.

• Как ИИ-сервисы вроде ChatGPT и Google Gemini (Перплексити, Лама, Дипсик, Квен, Кими, Мистраль, xAi и др.) обрабатывают эти данные "в свою пользу" — и что реально "важного" может утекать?

Если честно, я бы не демонизировал ИИ-сервисы по обратной причине. Допустим, человек использует информацию о компании, зачастую он отправляет ее в чат того сервиса, с которым работает. Эта информация не попадает на другие серверы, если только кто-то не захочет этот сервер взломать и использовать эти конкретные данные. Но, как правило, никто специально их не запрашивает, и скорее всего, их больше никто не увидит. Единственное, что стоит иметь в виду, — данные о компании попадут в следующий сервер, когда сеть будет обучаться, но это не означает, что они обязательно попадут в руки конкурентов.

• Какие меры уже предпринимают российские компании и госорганы, чтобы сократить подобные риски? Какие меры обязательно нужно предпринимать?

На сегодняшний день применение ИИ сотрудниками зачастую не регламентировано. Нет никаких инструкций для работы, и большинство компаний даже не знают, что сотрудник использовал искусственный интеллект для выполнения какой-либо задачи и какие-то данные могли утечь. Но так как ИИ-сервисы все чаще становятся инструментами для работы и в коммерческих компаниях, и в госкорпорациях, необходимо задуматься о том, что организация должна сформировать и написать регламенты работы с ИИ-сервисами. Без этого нельзя предъявлять сотруднику какие-либо претензии или обвинять его в утечке чувствительной информации. Поэтому именно сейчас стоит написать регламенты работы с искусственным интеллектом и сервисами для того, чтобы предотвратить утечку как персональных данных, так и конфиденциальной информации о компании. 

• Есть ли тенденция перехода компаний к локальным нейросетям — и насколько они реально могут быть безопаснее?

Западные сервисы могут быть более функциональными и удобными для решения многих задач, которые стоят перед сотрудниками. И поэтому желания переходить на локальные сети у них нет. Да, действительно, Сбер и Яндекс стараются максимально продвигать ГигаЧат и Алису, также МТС работает в этом направлении и использует ИИ-технологии для решения своих задач и создания IT-продуктов, где используется искусственный интеллект. Но такой тенденции, чтобы компания применяла искусственный интеллект действительно в большом объеме, я пока не вижу. В дальнейшем, конечно же, функционал российских ИИ-сервисов будет расти, развиваться и позволит решать большинство интересных задач, которые необходимы для успешного ведения всех бизнес-процессов организации.