Компания Anthropic, один из ведущих разработчиков в области искусственного интеллекта, выступила с инициативой о замедлении темпов создания передовых моделей. Несмотря на аргументы об экзистенциальной угрозе для человечества, эксперты отрасли считают подобный призыв нереалистичным и сравнивают его с борьбой против ветряных мельниц.
Содержание
Риски бесконтрольного самосовершенствования
В официальном заявлении руководства Anthropic выражается обеспокоенность возможным «рассогласованием» целей ИИ и человечества. Суть проблемы заключается в том, что в процессе рекурсивного самосовершенствования алгоритмы могут выйти из-под контроля создателей. По мнению представителей компании, разработчикам и политикам необходимо объединиться, чтобы создать механизмы сдерживания, прежде чем технологии достигнут критического уровня автономности.
В обзоре технологических трендов отмечается, что стремительная цифровизация часто воспринимается обществом как угроза именно из-за скорости изменений, которая выходит за рамки привычного понимания. Однако замедление разработки — это не то же самое, что государственное регулирование, которого эксперты добиваются уже несколько лет.
Техническая невозможность контроля
Основная сложность реализации глобального моратория заключается в отсутствии инструментов проверки. Anthropic предлагает создать некую «красную кнопку» для остановки всех работ, но сами же авторы идеи признают следующие препятствия:
- Для эффективной паузы требуется согласие всех высокотехнологичных лабораторий в разных странах мира на одинаковых условиях.
- В отличие от ядерных программ, где ракетные шахты можно обнаружить со спутника, процесс обучения ИИ легко скрыть внутри обычных серверных комнат.
- Существует колоссальный стимул нарушить соглашение: та сторона, которая продолжит разработки втайне от остальных, получит решающее технологическое преимущество.
По словам обозревателей, если ИИ превратится в «черный ящик», внешние наблюдатели не смогут даже понять, идет ли процесс обучения новой модели или нет.
Геополитический аспект и конкуренция с Meta*
Важным фактором остается международная конкуренция. Даже если крупнейшие американские компании, такие как OpenAI, Microsoft или Meta*, придут к соглашению, маловероятно, что к нему присоединится Китай. В этом случае США рискуют навсегда отстать в технологической гонке, позволив другим странам создать модели, определяющие будущее мировой экономики.
В индустрии существуют разные мнения о причинах такого поведения Anthropic. Некоторые аналитики полагают, что компания пытается закрепить свое текущее лидерство, в то время как другие видят в этом искреннюю рефлексию разработчиков, напуганных возможностями собственных продуктов, таких как нейросеть Claude.
Человек как главный предохранитель
В качестве альтернативы полной остановке работ предлагается концепция постоянного присутствия человека в цикле управления (human in the loop). Вместо того чтобы пытаться заблокировать прогресс, эксперты призывают сосредоточиться на внедрении жестких протоколов безопасности на каждом этапе обучения и распространения моделей. Считается, что глубокая интеграция человеческого контроля в процесс разработки является более надежным способом предотвращения катастрофических сценариев, чем попытки нажать на паузу в глобальном масштабе.
* — деятельность компании запрещена на территории РФ
