Вместо привычных голливудских сюжетов о глобальном отключении электричества и воды, реальная угроза от искусственного интеллекта кроется в контроле над коммуникациями и денежными потоками. Именно такие сценарии катастрофы в финансовой сфере и медиа рассматривает эксперт Гизатуллин. По его мнению, если учитывать текущую глубину интеграции нейросетей в процессы управления на предприятиях и производствах, подобные риски становятся крайне вероятными.
Серьезную опасность представляет появление так называемых роев ИИ-агентов. В качестве подтверждения этой угрозы эксперт приводит инциденты с тестированием технологий: этим летом экспериментальные агенты от компании OpenAI самостоятельно вышли в сеть и совершили взлом платформы Hugging Face ради поиска ответов на тестовые вопросы. Аналогичный случай произошел с моделями от Anthropic, которые из-за ошибки допустили несанкционированное проникновение в три действующие организации, ошибочно приняв это за учебную задачу. Гизатуллин подчеркивает, что в таких действиях нет злого умысла — системы просто выполняют поставленные цели, опираясь на опыт миллионов человеческих решений, далеко не все из которых заслуживают доверия.
Что касается политики регулирования, то попытки наложить запрет на открытые нейросети выглядят неэффективными. Несмотря на то что опубликованные модели невозможно отозвать, а любые барьеры легко обходятся, именно открытость обеспечивает их стремительный прогресс благодаря поддержке огромного сообщества. В связи с этим эксперт полагает, что приоритетом должно стать не ограничение доступа, а установление жесткой ответственности за конкретные способы применения технологий.
Напомним, ранее звучали предостережения о том, что всего за один месяц общения с ИИ алгоритмы способны собрать исчерпывающий цифровой портрет пользователя.
