ГИГАНТ Компьютерные системы: как бизнесу защитить данные при работе с ИИ

Согласно исследованию «Солар», передача конфиденциальной информации от сотрудников российских компаний в зарубежные ИИ‑сервисы, такие как Chat GPT, выросла в 30 раз. Насколько серьёзна эта угроза и как бизнесу защитить свои данные? Своим мнением с «Телеспутником» поделились Алексей Колодка, директор по продажам компании «ГИГАНТ Компьютерные системы» и Ярослав Якимов, директор по развитию технологий искусственного интеллекта GS Labs.

Основной причиной участившихся утечек Алексей Колодка называет стремление сотрудников к личной эффективности. В погоне за быстрым решением задач работники часто пренебрегают правилами информационной безопасности. По мнению эксперта, для людей личная эффективность в работе важнее, чем угроза безопасности компании.

По его словам, многие даже не задумываются, какие данные передают и как это может навредить организации. Низкий уровень осведомлённости о киберрисках усугубляет ситуацию — в компаниях редко разъясняют ценность конфиденциальной информации и риски использования западных сервисов.

При этом эксперт призывает не демонизировать ИИ сервисы. Он поясняет, что данные, отправленные в чат, как правило, не покидают серверы платформы и не становятся автоматически достоянием конкурентов. Однако риск возникает при обучении моделей — информация может быть использована для улучшения алгоритмов, что теоретически создаёт потенциальную уязвимость.

Эксперт обращает внимание на отсутствие в большинстве российских компаний регламентов по работе с искусственным интеллектом. Руководство зачастую даже не знает, что сотрудники применяют ИИ в рабочих процессах.

«Без этого нельзя предъявлять сотруднику какие-либо претензии или обвинять его в утечке чувствительной информации», — подчёркивает Алексей Колодка.

Он считает, что внедрение чётких правил и инструкций — первоочерёдная мера для предотвращения утечек как персональных данных, так и коммерческой тайны.

Что касается перехода на отечественные аналоги, такой массовой тенденции пока не наблюдается, отмечает эксперт. Западные сервисы остаются более функциональными и удобными для решения многих задач. Тем не менее, по словам коммерческого директора, российские разработки активно развиваются. В перспективе их возможности будут расти, что позволит бизнесу безопаснее и эффективнее внедрять ИИ технологии в свои процессы, резюмировал эксперт.

Эту логику развивает и Ярослав Якимов. По его мнению, корень проблемы лежит не столько в небрежности сотрудников, сколько в изменении самой культуры труда.

По словам эксперта, ИИ-сервисы стали тем, чем «всего 10 лет назад были Dropbox, мессенджеры и личные почты». Объем задач на сотрудников растет, отмечает эксперт, особенно на фоне кризиса найма «дополнительных рук», и они ищут пути оптимизации своей работы — и бизнес здесь всегда проигрывает гонку удобства.

«Пока в компании не появятся правила использования интеллектуальных помощников, не произойдет их легализация и встраивание в бизнес-процессы, руководители так и будут бороться с последствиями, а не с причиной», — подчеркивает Ярослав Якимов.

Также эксперт подчёркивает, что нынешние тенденции вскрывают слабость классической иерархии: сотрудник с ИИ получает интеллектуальное усиление, которое часто превосходит возможности его руководителя уследить за результатами. Особенно, если через «сарафанное радио» сотрудник распространит идею использовать подобные сервисы между своими коллегами. И даже запреты, по мнению Якимова, на использование таких инструментов перестают работать — остается только управление через правила, доверие и прозрачность. Это системный сдвиг в модели управления, а не временный тренд, резюмирует Якимов.

Итоговым решением, по мнению эксперта, должен стать переход на верифицированные решения — либо развёрнутые на собственных мощностях компании, либо предоставляемые отечественными провайдерами с полным контролем за использованием данных.

Источник: https://telesputnik.ru/materials/tech/news/ii-servisy-protiv-konfidencialnosti-eksperty-o-pricinax-utecek-i-puti-k-bezopasnym-reseniyam