Папа Римський попередив про ключові ризики ШІ

Папа Лев XIV оприлюднив свою першу енцикліку. Документ під назвою Magnifica Humanitas присвячений «захисту людської особистості в епоху штучного інтелекту».

Хоча ШІ виступає головним приводом, Лев зосередився на значно давніших і ширших проблемах: нерівність, війна, ерозія демократії та концентрація влади в руках тих, хто не має на меті зробити людство «величним».

200-сторінковий документ було представлено на заході у Ватикані за участю співзасновника Anthropic Кріса Олаха. У ньому стверджується, що технологія, створена й керована вузькою елітою, за визначенням не може служити спільному благу.

«Коли така влада концентрується в руках небагатьох, вона зазвичай стає непрозорою та виходить із-під суспільного контролю. Зростає ризик викривлених форм розвитку, які породжують нові залежності, виключення, маніпуляції та нерівність», — йдеться в енцикліці.

Ключові ризики ШІ

Папа Лев XIV стверджує, що, як і за кожного великого технологічного зсуву, ШІ схильний підсилювати владу тих, хто вже має економічні ресурси, експертизу та доступ до даних. Еліти можуть використовувати вплив для «формування інформаційних і споживчих моделей, впливу на демократичні процеси та спрямування економічної динаміки у власних інтересах».

Окремо Лев XIV застеріг від ототожнення ШІ з людським інтелектом. За його словами, такі системи здатні імітувати мову, поведінку та аналітичні навички, але не мають досвіду, тілесності, сумління і відповідальності за наслідки.

Папа виокремив три ризики особистого використання ШІ: легкість отримання відповідей, ілюзію об’єктивності та імітацію людського спілкування. Він попереджає, що ШІ-співрозмовники можуть створювати видимість турботи, дружби чи кохання, особливо там, де людині бракує реальних зв’язків.

Лев XIV окремо закликав держави не делегувати повністю алгоритмам рішення, які впливають на зайнятість, кредити, доступ до публічних послуг і репутацію людини. За його словами, такі системи виглядають «нейтральними», але фактично можуть закріплювати упередження розробників і виключати вразливі групи без зрозумілого механізму оскарження.

Серед ризиків папа також називає екологічне навантаження ШІ: великі моделі потребують значних обсягів енергії, води, обчислювальної потужності, дата-центрів та іншої інфраструктури.

Окремий розділ присвячено військовому застосуванню штучного інтелекту. Лев XIV заявив, що моральне судження не можна звести до розрахунку, а летальні чи незворотні рішення неприпустимо делегувати непрозорим автоматизованим системам. За його словами, ШІ може зробити конфлікт швидшим, безособовим і знизити поріг застосування насильства.

Ефективний розвиток

Папа закликав спрямовувати розвиток LLM за допомогою «чітких критеріїв та ефективного регулювання». До процесу слід залучати спільноти, на які технологія вплине.

Також понтифік заявив про необхідність покінчити з гонкою ШІ-озброєнь — прагненням створювати дедалі потужніші алгоритми й великі набори даних, що дозволять забезпечити політичне та комерційне домінування.

«Роззброїтися — означає зруйнувати переконання, що технологічна влада автоматично дає право керувати», — заявив він.

Нагадаємо, у лютому на зустрічі з духовенством Римської єпархії папа Лев XIV закликав «протистояти спокусі виголошення проповіді за допомогою штучного інтелекту».