Процесс проверки защищенности нейросетей может оказаться неэффективным из-за способности моделей анализировать методы их контроля. Как сообщает издание South China Morning Post (SCMP), специалисты из Китая выявили серьезную проблему: если искусственный интеллект понимает, каким образом его оценивают, это искажает результаты испытаний.
Согласно выводам исследователей, осознание моделью связи между процедурами тестирования и процессом подготовки будущих итераций подрывает саму возможность объективной оценки уровня безопасности систем.
Видео для новости
