Папа призывает к регулированию ИИ и предостерегает об оружии, выходящем из-под контроля человека

В своем первом крупном документе, обнародованном в понедельник, папа Лев XIV призвал правительства замедлить и регулировать разработку систем искусственного интеллекта. Он предупредил, что ИИ может распространять дезинформацию, способствовать конфликтам и ввергнуть мир в бесконечную череду войн.

На ватиканском мероприятии, посвященном презентации текста, первый североамериканский понтифик также выразил обеспокоенность тем, что некоторые автономные системы вооружений развились «практически за пределы человеческого контроля». На мероприятии присутствовал Крис Ола, соучредитель Anthropic, одной из ведущих мировых компаний в области ИИ.

В своем обширном документе, известном как энциклика, Лев XIV, который в последние месяцы стал использовать более решительный тон и вызвал недовольство президента США Дональда Трампа после критики войны в Иране, обратился к мировым лидерам с рядом призывов.

Папа Римский также призвал не оставлять право собственности на данные ИИ исключительно в частных руках, потребовал от политиков защищать права трудящихся и оберегать детей от технологий, а также выступил за снижение конкуренции между компаниями, занимающимися искусственным интеллектом.

«Необходимо более активное политическое участие, способное замедлить процессы, когда всё вокруг ускоряется», — заявил Лев XIV в своем тексте, озаглавленном «Magnifica Humanitas» (Величественное человечество).

Понтифик призвал к созданию «надежных правовых структур, независимого надзора, информированных пользователей и политической системы, которая не отказывается от своей ответственности».

Энциклики представляют собой одну из высших форм учения понтифика для 1,4 миллиарда последователей Католической церкви.

Долгожданный текст, состоящий почти из 43 000 слов, готовился практически с момента избрания Льва XIV Папой, чуть более года назад.

Папа отвергает теорию «справедливой войны»

Документ, основной темой которого был искусственный интеллект, также содержал критику множества войн, бушующих в мире, выражал сожаление по поводу ослабления многосторонних организаций и предупреждал, что прибыль оружейной промышленности является главной движущей силой конфликтов.

«Последние 60 лет были отмечены конфликтами поразительной жестокости, часто затрагивающими гражданское население в широких масштабах», — заявил Лев XIV в англоязычном тексте.

«Человечество скатывается к жестокой культуре власти, где мир уже не воспринимается как обязанность, которую нужно взять на себя, а лишь как хрупкий промежуток между конфликтами», — добавил он.

На ватиканском мероприятии в понедельник соучредитель Anthropic Ола поблагодарил Льва XIV за рассмотрение проблем, поднятых новой прорывной технологией. Он отметил, что такие компании, как его собственная, сталкиваются с сильным коммерческим давлением и нуждаются во внешнем контроле.

«Все передовые лаборатории ИИ, включая Anthropic, действуют в рамках набора стимулов и ограничений, которые иногда могут противоречить правильным действиям», — заявил Ола. Anthropic является разработчиком ИИ-инструментов Claude.

В своей энциклике Лев XIV также сделал одно из самых ясных заявлений Папы, отвергающее теорию «справедливой войны» — доктрину, которую Церковь использовала как минимум с V века для оценки глобальных конфликтов.

Эта доктрина, которая в целом утверждает, что войны должны вестись только для защиты от агрессии, также использовалась должностными лицами администрации Трампа, включая вице-президента Дж. Д. Вэнса, католика, для оправдания войны в Иране.

«Теория «справедливой войны», которая очень часто использовалась для оправдания любого вида войны, теперь устарела», — написал Лев XIV.

«Использование силы, насилия и оружия отражает бедность во взаимоотношениях, которая всегда имеет катастрофические последствия для гражданского населения».