Релігія хоче впливати на розобку ШІ: позиція Anthropic та OpenAI

Церква готова до конструктивного діалогу з технологічними стартапами?

Стрімкий розвиток генеративного ШІ змусив топів Кремнієвої долини переглянути своє традиційно скептичне ставлення до релігійних інституцій. Провідні розробники нейромереж опинилися перед серйозним викликом: державне регулювання технологій катастрофічно не встигає за інноваціями, а потреба у закладенні моральних та етичних обмежень у базові алгоритми стає критичною.

Про це пише РБК-Україна з посиланням на Associated Press.

Більше цікавого: ШІ від Google перевершив людей у створенні наукового софту: що відомо про систему ERA

У Нью-Йорку відбувся перший історичний круглий стіл Faith-AI Covenant (Пакт релігії та ШІ), який зібрав за одним столом топ-менеджерів Anthropic, OpenAI та лідерів найбільших світових конфесій.

Організатором зустрічі виступив міжрелігійний альянс із Женеви, що спеціалізується на боротьбі з екстремізмом та торгівлею людьми.

Метою несподіваної колаборації стало створення єдиного переліку загальнолюдських принципів, якими керуватимуться ШІ-агенти майбутнього. За першим раундом переговорів у США мають відбутися аналогічні зустрічі у Пекіні, Найробі та Абу-Дабі.

Чи потрібні ШІ духовні пастирі?

Ініціаторка проєкту баронеса Джоанна Шилдс, яка раніше будувала кар'єру у Google та Facebook, наголосила, що розробники технологій чітко усвідомлюють масштаб влади та небезпеки, яку вони випустили у світ. На її думку, саме світові релігії, які мають мільярди послідовників, володіють унікальною експертизою формування етичних орієнтирів.

Цікаво, що деякі конфесії почали діяти на випередження ще до офіційного запрошення від техногігантів:

Церква Ісуса Христа Святих Останніх Днів (мормони): вже внесла ШІ до свого офіційного довідника, зазначивши, що технологія не може замінити божественне натхнення, але є корисним інструментом для навчання.

Південна баптистська конвенція: ухвалила спеціальну резолюцію з вимогою проактивно формувати етичні рамки для нових технологій, а не просто реагувати на наслідки їхнього впливу на громади.

Найактивнішу позицію у залученні релігійних діячів наразі демонструє стартап Anthropic. Творці популярного чат-бота Claude відкрито заявляють, що їхня внутрішня "Конституція ШІ" створювалася за безпосередньої участі експертів з етики та теології.

Цікаво, що для Anthropic це також важливий крок для відновлення репутації після публічного конфлікту з Пентагоном щодо заборони використання їхніх моделей для створення автономної зброї масового ураження.

Конфлікт цінностей та скепсис експертів

Попри благі наміри учасників пакту, ініціатива стикається з жорсткою критикою як з боку релігієзнавців, так і з боку незалежних дослідників ШІ.

Головна внутрішня проблема полягає у тому, що навіть попри наявність спільних базових цінностей, пріоритети різних релігійних громад суттєво відрізняються. Створити єдиний універсальний моральний код регулювання високих технологій, який однаково задовольнить християн, сикхів, юдеїв та буддистів, практично неможливо.

З іншого боку, частина наукової спільноти вважає таке загравання з релігією звичайним піаром.

Експерти нагадують про старе гасло Кремнієвої долини - "Рухайся швидко і руйнуй все навколо". Компанії зруйнували занадто багато соціальних інститутів і тепер намагаються знайти виправдання своїм діям.

Колишня профільна представниця адміністрації США Румман Чоудхурі називає релігійні круглі столи спробою втекти від реального розв'язання юридичних проблем та регулювання, намагаючись перекласти відповідальність за неоднозначні "сірі" етичні зони у розробці ШІ на плечі духовних лідерів.

Ще більше цікавого:

• ChatGPT допоміг спланувати масове вбивство? У США розпочато розслідування проти OpenAI
• Вчені наблизили повернення вимерлих видів: чим дивує нова технологія