Франциск – первый понтифик, принявший участие в саммите «великих мира сего», и рассказал о проблемах, порождаемых «двойственностью» развивающихся технологических систем
«Очаровательный и ужасный инструмент одновременно». Именно так Папа Франциск определил искусственный интеллект во время своего выступления на Большой семерке.
Размышления Понтифика начинаются с наблюдения о том, что мы говорим о чрезвычайно мощном инструменте, который уже сегодня используется во многих различных приложениях и который будет все больше влиять на наш образ жизни, наши социальные отношения и «в будущем даже на то, как мы осознаем нашу идентичность как людей».
Амбивалентная тема, которая, с одной стороны, «воодушевляет возможностями, которые она предлагает, с другой, порождает страх перед последствиями, которые она предлагает. (…) Более того, мы не можем сомневаться в том, что появление искусственного интеллекта представляет собой настоящую когнитивно-индустриальную революцию». Таким образом, искусственный интеллект мог бы обеспечить более демократичный доступ к знаниям, невообразимый прогресс в научных исследованиях. возможность «культуры встречи» в пользу «культуры одноразового использования», – пояснил Папа.
В конечном итоге «Искусственный интеллект – это прежде всего инструмент. И вполне естественно сказать, что польза или вред, которые оно принесет, будут зависеть от его использования».
Затем предупреждение о его использовании на войне: «В такой драме, как драма вооруженных конфликтов, необходимо срочно переосмыслить разработку и использование таких устройств, как так называемое «летальное автономное оружие», чтобы запретить его использование, начиная с активного принятия конкретных обязательств, чтобы ввести еще больший и значительный человеческий контроль. Ни одна машина никогда не должна выбирать, отнять ли жизнь у человека».
Что касается генеративного искусственного интеллекта, Франциск заметил: «По правде говоря, он ищет информацию в больших данных и упаковывает ее в требуемом стиле. Он не разрабатывает новые концепции или анализ. Он повторяет найденные, придавая им привлекательную форму. И чем больше повторяется идея или гипотеза, тем более законной и обоснованной она считается. Таким образом, оно является более чем «генеративным», оно является «укрепляющим» в том смысле, что оно изменяет порядок существующего содержания, помогая его консолидировать, часто без проверки, содержат ли оно ошибки или предубеждения. Таким образом, мы рискуем не только узаконить фейковые новости и усилить преимущество доминирующей культуры, но и подорвать образовательный процесс, находящийся в зачаточном состоянии».
Существует необходимость в политике, которая умеет поставить человека и его достоинство в центр: в этот исторический период «происходит утрата или, по крайней мере, затмение чувства человеческого и кажущаяся незначительность понятия человеческого достоинства. Кажется, теряется ценность и глубокий смысл одной из фундаментальных категорий Запада: категории человеческой личности. Таким образом, в эту эпоху, когда программы искусственного интеллекта ставят под сомнение человека и его действия, сама слабость этоса, связанного с восприятием ценности и достоинства человеческой личности, рискует стать величайшей уязвимостью в реализации и развитии этих систем. Чтобы (программы искусственного интеллекта, ред.) стали инструментами построения добра и лучшего будущего, их всегда необходимо направлять на благо каждого человека. У них должно быть этическое вдохновение».
