• Головна
  • Аналітика
  • «Совість» для штучного інтелекту Або як Ватикан присутній у світовій гонці ШІ

«Совість» для штучного інтелекту Або як Ватикан присутній у світовій гонці ШІ

«Совість» для штучного інтелекту Або як Ватикан присутній у світовій гонці ШІ

25 травня Папа Римський Лев XIV презентував свою першу енцикліку – Magnifica Humanitas (Величне людство). У нас ця подія пройшла майже не поміченою, ну бо що цікавого можна побачити в черговому зверненні чергового понтифіка. Коли надворі ХХІ століття, війна в розпалі, комп’ютерні технології на марші, Путін бряцає ядерною зброєю, нафта дорожчає через війну в Перській затоці… Але все насправді набагато цікавіше.

Виявляється, Ватикан не лише «глибоко стурбований» розвитком штучного інтелекту, що логічно для церкви. Святий Престол ще й активно задіяний в розробці так званої «совісті для ШІ». Тому на презентації енцикліки поруч із Папою був присутній Крістофер Олах – співзасновник компанії Anthropic. Раніше для розробки мовної моделі Claude тієї ж компанії атеїст Крістофер Олах запросив католицького священика (і колишнього науковця та бізнесмена з Кремнієвої долини) Брендана Макгвайра – аби він допоміг написати «моральний кодекс» для ШІ. Так у січні 2026 року з’явилася «конституція Claude» – набір правил для визначення базових цінностей цього штучного інтелекту.

Українцям компанія Anthropic може бути знайомою теж з початку 2026 року. Тоді стало відомо, що Пентагон провів свою блискучу операцію з викрадення венесуельського диктатора Мадуро, яка стала успішною в тому числі завдяки тій-таки моделі Claude від Anthropic. В компанії заявили, що стурбовані використанням своєї розробки для наведення зброї на живі цілі. Пентагон же вимагав зняти «зайві обмеження» та «надмірні етичні блокування». Зрештою, компанія принципами не поступилася, втратила контракт і перейшла в розряд «ризиків для ланцюгів постачання» - тобто наразі може забути (принаймні, офіційно) про співпрацю з оборонною сферою США.

Знаючи це, а тепер і розуміючи глибину співпраці Anthropic із Ватиканом увесь цей час, «епічна» медіаатака Дональда Трампа на папу Лева XIV у квітні вже виглядає як частина більшого протистояння. Нагадаю, Трамп писав, що Папа «слабкий у питаннях злочинності» та «жахливий у зовнішній політиці». Дійшовши далі до тексту енцикліки, ми зрозуміємо, чому він так заявив.

Сама енцикліка від 25 травня є продовженням традиції, згідно якої Римські Папи регулярно висловлюються стосовно найбільш актуальних соціальних питань. Започаткував цю традицію Папа Лев ХІІІ у 1891 році, коли видав свою Rerum Novarum (Про нові речі). «Новими речами» на той час вважалися «дикий» капіталізм та соціалізм, індустріалізацію і появу масового прошарку низькооплачуваних промислових робітників – пролетаріату. Тоді, наприкінці ХІХ століття, Ватикан захищав ідею приватної власності, права робітників (через створення профспілок) та наголошував на принципі «справедливої оплати праці» – загалом все те, що зараз прийнято вважати соціал-демократією.

Сьогоднішні виклики дуже схожі, а якщо «продертися» крізь певні стилістичні особливості енцикліки, то і відповіді Святого Престолу на них виглядають не менш ґрунтовними, зваженими та глибокими. Після перебування в українському інформаційному середовищі навіть якось незвично читати подібну полеміку з ідеями, наприклад, Ілона Маска. А питання направду дуже серйозні. Наприклад, що несе людству перехід фактичної влади від держав до корпорацій, які не мають зобов’язань перед громадянами? Або як не перетворити людську особистість на ресурс для баз даних? Як не знищити соціальну функцію приватної власності, яка насправді і є гарантом особистої свободи? Зрештою, як людям об’єднуватися для захисту своїх прав та інтересів від технологічних гігантів? «Маленьким українцям», які звикли покладатися на державу, такі речі слухати незвично і навіть неприємно.

Не варто сприймати цей текст як щось високе, відірване від «простого життя», тому що для кожної «звичайної людини» ці проблеми є актуальними. Що буде з журналістом, який просто «подає новини», якщо ШІ може подати їх краще? З касирами, бухгалтерами, вчителями, юристами, чия ефективність вже зовсім скоро буде незрівнянно нижчою за ефективність машин? Не всі ж зможуть зайнятися творчістю чи роботою з людьми, не всі керуватимуть роботами й алгоритмами. Що означатиме «волевиявлення народу» і загалом «рішення виборців», якщо це рішення можна запрограмувати наперед, як і рішення самих політиків? За які, знову ж таки, ніхто не нестиме персональної відповідальності. Чим гарантувати суб’єктність людини, якщо все, що формує її цінність (а сьогодні це інформація) належатиме не їй?

Папа Лев XIV пише, що зміни, пов’язані із розвитком ШІ, є невідворотними, але такого в історії церкви, а тим більше людства, було багато. Це не причина відмовлятися від своєї соціальної ролі, від діалогу з суспільством і навіть від впливу на політику. Колись досягненням церкви була заборона для християн продавати в рабство інших християн, зараз Ватикан застерігає від «цифрового рабства». Така позиція, оперта на дві тисячі років інституційної традиції, очевидно, приваблює до Ватикану частину техномагнатів. Більш того, Католицька церква бере на озброєння такі поняття, як свобода особистості, гідність людини, кенселінг, знецінювання тощо – а це вже заявка на «контрреформацію ХХІ століття», коли ідеологічна зброя сучасних лівих може бути використана проти них самих. Дуже важливою є теза про те, що ШІ не може бути абсолютно об’єктивним чи нейтральним, адже вбирає в себе ідеї та принципи тих, хто його створив. Тому, якщо не сформувати рамки для такого «ідеологічного наповнення» мовних моделей вже на старті, то згодом «об’єктивність» стане власністю тих, хто володіє цими моделями.

В цьому, здається, і полягає проблема актуального моменту: китайські комуністи над такими проблемами не задумуються, це притаманно для Заходу з його антропоцентричністю. В Пекіні навряд чи розвиток ШІ спіткнеться на дилемі про те, чи є людина лише засобом, чи найвищою цінністю. Чи не позбавлять алгоритми людину свободи вибору, якщо з’явиться можливість м’яко нав’язати суспільству поняття про «істинне».

І тут уже можна говорити про розходження в самому західному середовищі між умовно «типовим американським» підходом та підходом радше «католицько-європейським». Для останнього, який формує в тому числі Папа Римський, важливо сформувати систему стримувань і противаг, громадського контролю над алгоритмами та технологічними компаніями. Праця людини вимірюється не лише ефективністю, а є неодмінною умовою для людської гідності. Безробіття, відповідно, є складною соціальною проблемою, яка не може вирішитися «роздаванням грошей» за рецептом Ілона Маска, адже суть людини не лише в споживанні, суть у творенні. Для «типових американців» проблема виглядає геть по-іншому: вони бояться програти Китаю. Ця загроза відсуває на задній план і «антропологічний регрес на тлі технологічного прогресу», і проблему надмірної концентрації влади (технологій, грошей та впливу), що робить ідею про «невидиму руку ринку» неактуальною. І тим більше, побоювання на предмет нової, цифрової, форми колоніалізму. Те, проти чого виступає Папа: швидкість прийняття рішення про удар, «культура сили», автономність ШІ, відсутність відповідальності – в Пентагоні вважають перевагою.

На енцикліку, очевидно, відреагували у Вашингтоні, але вже не так феєрично, якщо оцінювати за суспільною реакцією. Були закиди в роботі на користь Китаю, в спробі обмежити ефективність американської армії. Були і персональні, хоч і м’які випади Трампа проти Джей Ді Венса (католика), який наважився підтримати Папу у гуманітарних питаннях. Треба визнати, вплив Католицької церкви на адміністрацію є, і чим більше влади втрачатиме персонально Трамп, тим сильнішим ставатиме цей ідеологічний вплив, особливо в середовищі католиків, а також тих, хто їм симпатизує. А це, в тому числі, ключові американські техномагнати. Питання лише в тому, наскільки вдалим буде їхній вибір, якщо потрібно буде вибирати в умовах відставання від комуністичного Китаю, а можливо, і прямого зіткнення.

Українцям (якби хтось задав таке питання) ймовірно, хотілося б підтримати Папу – усе-таки його ідеї є ближчими нашій культурі. Але, підозрюю, поки що доведеться «дружити» з його опонентами, аби вижити. Зараз не дуже вдалий час думати про те, наскільки відсторонено та аморально приймається рішення про донаведення боєголовки за допомогою ШІ, головне – щоб ефективно. А далі видно буде, якщо поживемо - побачимо.

За великим рахунком, якщо навіть Богу не вдалося зробити всіх людей добрими, то звідки має взятися наївна віра в те, що добрими вийдуть цифрові творіння тих самих людей?

 

Автор – Назар Кісь, IQ-аналітика

Підготовано спеціально для LVIV.MEDIA

Пов’язані публікації

Останні новини
Переглядаючи сайт LVIV.MEDIA ви погоджуєтеся з нашою Політикою конфіденційності