В сообществе исследователей искусственного интеллекта нарастает обеспокоенность из-за ужесточения политики ведущих разработчиков. Пользователи нейросетей Claude от компании Anthropic и Codex от OpenAI столкнулись с тем, что системы отказываются выполнять задачи, связанные с реверс-инжинирингом — процессом изучения архитектуры программ и прошивок. Об этих инцидентах стало известно благодаря публикациям на платформе «Хабр» и в социальной сети X.
Один из участников дискуссии, известный под ником log4j, сообщил о принудительной блокировке своего аккаунта в OpenAI. По утверждению пользователя, поводом для санкций послужила работа над обратной разработкой, при этом он подчеркнул, что проводил исследования программ исключительно локально. log4j настаивает, что не использовал инструменты компании для поиска уязвимостей или проведения кибератак. В результате инцидента специалист потерял доступ к сервису, лишился накопленных бонусов для восстановления лимитов и понес финансовые убытки в размере 500 долларов.
Параллельно с этим исследователь под аккаунтом @0x0SojalSec отметил специфическое поведение модели Claude. По его наблюдениям, алгоритмы Anthropic могут прерывать генерацию ответа в самый разгар процесса, если система безопасности распознает в запросе попытку реверс-инжиниринга. Пользователь предположил, что это может быть связано с анализом прошивок телевизоров Samsung, однако компания Anthropic не давала никаких официальных комментариев по поводу данной гипотезы.
На текущий момент ни OpenAI, ни Anthropic не публиковали заявлений о введении глобального запрета на исследования методом обратной разработки или на создание бесплатных альтернатив коммерческому софту. На основании разрозненных жалоб пока невозможно определить, являются ли данные ограничения системной политикой или случайными срабатываниями фильтров.
Метод реверс-инжиниринга предполагает детальный разбор готового продукта для понимания принципов его функционирования без исходного кода. Анализируя команды и реакции программ, специалисты могут выявлять ошибки безопасности, изучать механизмы работы вирусов или добиваться совместимости систем. В некоторых случаях этот процесс используется для создания открытых аналогов дорогостоящего ПО. Например, разработчик Брэндон Томас в рамках проекта ArtCraft использует Claude для написания бесплатных приложений с открытым кодом, которые воспроизводят функции продуктов Microsoft и Adobe, включая инструменты Word, Excel и PowerPoint. Тем не менее, прямая связь между подобными проектами и текущими ограничениями ИИ-моделей документально не подтверждена.
