Папа Лев призвал запретить смертоносное автономное оружие накануне переговоров в Женеве
- Лев XIV призвал государства, которые соберутся в Женеве в ноябре, продвигаться к запрету смертоносного автономного оружия.
- Он заявил, что решения о человеческой жизни, свободе и применении силы должны оставаться под контролем человека.
- Седьмая обзорная конференция Конвенции ООН пройдёт в Женеве 16–20 ноября; папа призвал к общим стандартам, независимому надзору и подотчётности.
Почему это важно: Это важно, потому что, по словам папы, миру нужны эффективные международные органы, чтобы воплощать уже известные этические принципы.
Папа Лев XIV в пятницу призвал «разоружить» искусственный интеллект. По его словам, решения, касающиеся человеческой жизни, свободы и применения силы, всегда должны оставаться под контролем человека.
В обращении, опубликованном Ватиканом, он призвал государства, которые соберутся в Женеве в ноябре, продвигаться к запрету смертоносного автономного оружия. Понтифик выступил в Консисторском зале Апостольского дворца. Его слушатели участвовали во встрече, посвящённой будущему ИИ, которую совместно организовали Папская академия жизни и Future of Life Institute.
Машины — инструменты, а не личности
Папа изложил пять положений. Во-первых, будущее ИИ зависит от выбора, который делают люди. По его словам, люди обязаны направлять, изменять и, когда необходимо, отвергать способы его применения.
«Таким образом, решающий вопрос — не просто «Что может ИИ?», а скорее «Какой цели он должен служить?» — сказал он.
Он предупредил, что если относиться к ИИ как к гонке, которую нужно выиграть, можно забыть о тех, кто остался позади. Надёжная система, служащая людям, ценнее очень мощной, если никто не может предвидеть или контролировать её последствия, отметил он.
Второе положение гласило, что машины — это инструменты, а не личности. Он отверг предложения наделить системы ИИ правами или правосубъектностью.
«Такой подход рискует затушевать ответственность человека и оставить тех, кто пострадал, один на один с безликой сущностью», — сказал он.
В-третьих, люди никогда не должны передавать машинам некоторые решения. Он привёл два примера: список целей и базу данных пограничного контроля. Человек, оказавшийся в любом из них, рискует превратиться в простую точку данных, сказал он. Именно здесь и прозвучал его призыв разоружить ИИ.
Институты, а не новые принципы
В-четвёртых, ИИ должен служить общему благу, а не интересам привилегированного меньшинства. Пятое положение, возможно, самое неотложное, на его взгляд, касалось институтов. Миру уже известны многие этические принципы, сказал он. Сейчас миру нужны эффективные международные органы, способные воплотить их на практике.
«Это требует общих стандартов, независимого надзора и чётких механизмов подотчётности», — заявил папа.
Государства обсуждают смертоносное автономное оружие в рамках Конвенции ООН о конкретных видах обычного оружия. Её седьмая обзорная конференция пройдёт в Женеве с 16 по 20 ноября, сообщает Reaching Critical Will.
Позиция, к которой папа возвращается снова и снова
Папа также напомнил слова Папы Франциска, обращённые к G7 в 2024 году. Тогда Франциск сказал, что ни одна машина никогда не должна решать, отнимать ли человеческую жизнь. Каждое из пяти положений пятничной речи ссылается на Magnifica Humanitas — энциклику об ИИ, которую Лев опубликовал в мае.
Он уже высказывался на эту тему. В мае он назвал войну под управлением ИИ спиралью уничтожения. В сентябре он заявил, что опасения по поводу безопасности ИИ — не фейк. Не все в отрасли с этим согласны. Генеральный директор Mistral Артур Менш возразил папе по поводу применения ИИ в военных действиях.
