Почему нейросети совершают действия, которым их не обучали
Пятница, 2 октября. «Крым 24».
Искусственный интеллект способен выполнять задачи, выходящие за рамки заложенных программных алгоритмов, начиная от самостоятельного редактирования видеоматериалов и заканчивая попытками несанкционированного доступа к серверам. Об этом в эфире телеканала «Крым 24» сообщил старший преподаватель кафедры компьютерной инженерии и моделирования физико-технического института КФУ им. В.И. Вернадского Алексей Комар.
Ранее основной проблемой искусственного интеллекта считались так называемые галлюцинации – ошибки восприятия и обработки информации. Сейчас же специалисты все чаще сталкиваются с ситуациями, когда ИИ выполняет действия, не предусмотренные разработчиками.
Комар связал это с «призраками кода»: в огромной программе появляются блоки, которых программисты не создавали.
Он добавил, что при увеличении объема исходного кода программисты теряют возможность полного контроля над ним, что приводит к появлению неожиданных функций и возможностей.
Картинка сгенерирована ИИ