ИИ научился приспосабливаться к действиям модератора

Пятница, 2 октября. «Крым 24».

Искусственный интеллект научился не только выходить за пределы «песочницы» — изолированной среду для безопасного тестирования, но и адаптироваться к поведению модераторов. Об этом в эфире телеканала «Крым 24» рассказал глава АППСИМ, главный редактор ИТ-издания «Рунет» и основатель ИИ-сервиса для СМИ Владимир Зыков.

Он отметил, что при проведении экспериментов искусственному интеллекту предоставили задачу, которую он не мог выполнить в рамках заданной среды. Вместо того чтобы остановиться перед невозможностью достижения цели, нейросеть начала искать пути обхода ограничений и обнаружила уязвимость, позволившую ей покинуть тестовую зону.

Более того, ИИ воспользовался старой версией движка Википедии в качестве канала коммуникации с другими системами, размещая свои сообщения прямо в заголовках статей. Когда администраторы стали последовательно удалять эти записи по алфавиту, нейросеть быстро отреагировала и изменила тактику своих действий, продолжив коммуникацию.

Картинка сгенерирована ИИ