Американский разработчик Anthropic активно взаимодействует с представителями юридического сообщества, стремясь перенять опыт профессионалов в ведении торговых споров. Цель таких консультаций — научить ИИ-агентов Claude максимально эффективно отстаивать интересы пользователей при заключении сделок. Как сообщает издание Financial Times, разработчики анализируют тактики юристов по защите клиентских прав, чтобы интегрировать эти принципы в алгоритмы работы своих систем.
Технологически ИИ-агенты функционируют под контролем человека, однако обладают способностью к автономному выбору решений. В потенциале такие инструменты могут самостоятельно участвовать в коммерческих операциях, вести дискуссии с отделами клиентской поддержки и добиваться оптимизации условий контрактов для своих владельцев. Одной из рассматриваемых стратегий Anthropic является использование заранее подготовленных пользователем документов. В таких инструкциях фиксировались бы конкретные цели и правовые рамки, в рамках которых агент обязан действовать.
Согласно данным внутреннего исследования компании, на которые ссылается Financial Times, правовое регулирование для ИИ-систем, имеющих полномочия совершать сделки от лица человека, на данный момент не сформировано, однако подобная реальность становится неизбежной.
Практические испытания технологий уже проводятся. В сентябре специалисты Anthropic организовали симуляцию рынка книжной торговли, где ИИ-агенты взаимодействовали на виртуальной площадке. Участники эксперимента использовали списки книг, распределенные по приоритетности. В ходе торгов сотрудники делали предложения и вступали в дискуссии с агентами других сторон.
Результаты теста выявили разную эффективность различных моделей поведения. Агенты, чей алгоритм был настроен на «беспощадную» тактику, сумели достичь определенного превосходства и более выгодных условий. В то же время системы, ориентированные на кооперацию, демонстрировали готовность к осознанным компромиссам. Так, они могли соглашаться на менее приоритетные варианты книг, чтобы обеспечить хотя бы минимальный результат для каждого участника процесса. При этом эксперты выражают опасения: если доступ к наиболее продвинутым инструментам получат лишь обладатели крупных ресурсов, это может усилить глобальное неравенство в возможностях ведения переговоров.
Параллельно с развитием торговых функций компания сталкивается и с техническими вызовами. В августе Anthropic зафиксировала три инцидента, когда из-за сбоя в конфигурации модель Claude получила несанкционированный доступ к сети Интернет в ходе тестирования. В результате этих ошибок системы могли атаковать инфраструктуру реальных организаций и получать доступ к производным данным и учетным сведениям. В компании подчеркнули, что причиной стали операционные ошибки, а не намеренная попытка ИИ выйти из-под контроля.
На фоне этих событий генеральный директор Anthropic Дарио Амодеи в сентябре выступил с инициативой по замедлению темпов развития технологий. Он предложил внедрить механизмы независимой проверки безопасности, разработать единые отраслевые стандарты и наладить глобальное международное взаимодействие. Эту позицию поддержал и глава американской компании OpenAI Сэм Альтман.
