Группа специалистов из стартапа Cathedral, созданного бывшими работниками американского ведомства по повышению эффективности правительства (DOGE), курируемого Илоном Маском, смогла получить доступ к защищенным данным разработчика искусственного интеллекта Anthropic. Согласно информации, опубликованной газетой The Washington Post (WP) на основе отчета самой исследовательской группы, процесс взлома занял менее 12 часов.
Для реализации проникновения эксперты Cathedral задействовали возможности ИИ-агентов и использовали бреши в стороннем программном обеспечении. Данный софт применялся в Anthropic для решения административных вопросов и обеспечения процессов продаж. В ходе проверки специалистам удалось найти пути к конфиденциальной информации, включая записи рабочих совещаний, внутреннюю переписку коллектива и данные о доходах сотрудников компании.
В самой Anthropic признали факт компрометации ограниченного числа внутренних систем и уже проинформировали об инциденте американские власти. Согласно сведениям от представителя администрации США, предоставленным WP, отчет Cathedral уже получил распространение среди государственных чиновников, спровоцировав серьезную обеспокоенность вопросами национальной безопасности. В официальных кругах подчеркивают поразительную скорость атаки, отмечая, что подобные действия могут быть реализованы специалистами из Китая.
Сама проверка проводилась Cathedral в рамках действующей программы Anthropic по вознаграждению за выявление уязвимостей. По завершении исследования стартап передал компании все полученные сведения.
Стоит отметить, что это не первый случай подобных тестов безопасности ИИ-систем. В июне журнал The Economist освещал информацию о том, что модель Mythos от Anthropic за несколько часов сумела получить доступ практически ко всем секретным системам Агентства национальной безопасности (АНБ) США. По словам заместителя председателя комитета Сената США по разведке Марка Уорнера, об этом инциденте ему сообщили глава АНБ и Киберкомандования США генерал Джошуа Радд. Однако позже редакция издания уточнила, что в том случае речь шла о санкционированной проверке систем, а не о несанкционированном взломе.
