В распоряжении издания Politico оказался конфиденциальный документ, раскрывающий детали непубличной инициативы компании Anthropic. Разработчик нейросетевых моделей Claude подготовил проект закона, регулирующего безопасность передовых систем искусственного интеллекта, и представил его американским законодателям.
Суть предложенных правок заключается в установлении жестких критериев для вмешательства властей в работу ИИ-технологий. Согласно документу, блокировка выпуска или эксплуатации модели государством станет возможной лишь при наличии доказанного и прямого риска. Под такие условия подпадают сценарии, способные нанести ущерб свыше 1 миллиарда долларов либо привести к смерти или серьезным увечьям более чем 50 человек. При этом угроза должна иметь конкретный характер: например, использование ИИ для создания биологического оружия, неконтролируемый выход системы из-под надзора создателей или проведение масштабных кибератак.
Подобные юридические формулировки не являются уникальными — как сообщает Politico, они перекликаются с положениями калифорнийского закона SB 53, принятого в прошлом году.
Предложенная схема распределяет полномочия между ведомствами следующим образом. Министерство торговли США получит право инициировать судебные иски для приостановки релизов моделей, если обнаружит признаки вышеуказанных угроз. Окончательный вердикт о запрете будет выносить федеральный судья окружного суда округа Колумбия. При этом законопроект накладывает прямой запрет на любые попытки других американских чиновников или государственных структур останавливать процесс разработки, внедрения или использования технологий внутри компаний.
