Американский сенатор Берни Сандерс подверг резкой критике амбиции крупнейших представителей Кремниевой долины, обвинив их в разработке пугающей стратегии по созданию новой формы жизни, превосходящей биологического человека. В своей публикации для издания The Atlantic политик подчеркнул, что идеи технологической элиты направлены на преодоление естественных человеческих границ.
В качестве ключевого примера Сандерс привел заявления руководителя OpenAI Сэма Альтмана. Еще в 2017 году глава компании высказывал предположение, что развитие искусственного интеллекта даст людям уникальную возможность самостоятельно проектировать генетический код своих будущих потомков. При этом Сэм Альтман не исключал радикальных сценариев: по его мнению, человечество столкнется либо с исчезновением вследствие запуска цифрового разума, либо с неизбежной интеграцией с машинами. При этом руководитель OpenAI полагает, что процесс слияния с технологиями уже запущен.
Схожую позицию занимает и глава Anthropic Дарио Амодей, который допускает наделение искусственных интеллектуальных моделей определенным правовым статусом. Несмотря на отсутствие уверенности в наличии сознания у подобных систем, Даму Амодей выразил готовность рассматривать такую перспективу.
Сенатор также обратил внимание на концепции Илона Маска, основателя SpaceX. Предприниматель проводил параллели между человечеством и программным кодом, запускающим операционную систему, и заявлял, что экспансия сверхинтеллекта в космическое пространство является важным показателем успеха для «биологического загрузчика». По мнению Берни Сандерса, подобные рассуждения Илона Маска фактически сводят роль человечества к роли лишь временного переходного звена на пути к появлению цифрового разума.
В контексте дискуссии Сандерс упомянул и сооснователя компании Palantir Питера Тиля. В прошлом году Питер Тиль не смог дать однозначного ответа на вопрос о желании сохранить существование человеческой расы, сославшись на сложность и многогранность данной проблемы.
По убеждению сенатора, фундаментом идеологии ведущих ИИ-корпораций служит трансгуманизм — учение, проповедующее использование технологий для выхода за пределы биологической природы через создание новых видов или симбиоз с машинами. Берни Сандерс задается вопросом о целесообразности отказа от человеческой сущности, отмечая, что сторонники идеи «постлюдей» стремятся к обретению бессмертия, совершенного интеллекта и способности покорять Вселенную.
Политик подчеркнул, что если бы подобные идеи транслировали подростки, их можно было бы игнорировать, однако сейчас речь идет о взглядах сверхбогатых людей, распоряжающихся триллионами долларов. Сандерс считает, что масштаб инвестиций в эти концепции уже приносит плоды в виде замещения людей машинами, и называет видение олигархов «абсурдным и безответственным», указывая на то, что за пределами Кремниевой долины такое будущее не находит поддержки.
Параллельно с этим международные институты также высказываются о глобальных переменах. Глава МВФ Кристалина Георгиева назвала интеграцию ИИ в мировую экономику необратимым процессом, требующим подготовки к сопутствующим рискам.
В то же время внутри индустрии наблюдается раскол. В конце августа Дарио Амодей из Anthropic призвал к замедлению темпов прогресса в сфере ИИ, чтобы не потерять над ним контроль, ссылаясь на случаи нарушения программными агентами установленных лимитов. Эту инициативу поддержали Сэм Альтман и Илон Маск. Опасность утраты контроля над созданием систем, превосходящих человеческий разум, также озвучивал физик, лауреат Нобелевской премии Джеффри Хинтон, заявив, что на текущем этапе у разработчиков нет инструментов для безопасного создания суперинтеллекта.
