ШІ почав навчатися швидше за людей: Anthropic назвала ключові загрози

Провідні розробники попереджають про появу технологій, які здатні створювати собі подібних

Штучний інтелект нового покоління демонструє перші ознаки ймовірного виходу з-під контролю людини. Як наслідок - американська компанія Anthropic виступила з ініціативою оголосити тимчасову паузу на створення найпотужніших LLM (великих мовних моделей).

Про це повідомляє РБК-Україна з посиланням на TechXplore.

Більше цікавого: ШІ може пришвидшити створення біологічної зброї: техногіганти попереджають про ризики Чому розробники просять зупинити стрімкий розвиток ШІ?

У спеціальному звіті компанії Anthropic зазначається, що глобальне сповільнення розробки передових технологій пішло б на користь суспільству. Це дозволило б державним інституціям і науковцям встигати за стрімким прогресом нейромереж.

Проте фахівці попереджають про головні труднощі на цьому шляху:

Одноосібна зупинка неможлива. Якщо лише одна компанія припинить дослідження, конкуренти відразу вирвуться вперед.

Необхідність міжнародної згоди. Справжня пауза потребує одночасного рішення провідних фірм у різних країнах, перш за все у США та Китаї.

Важкість контролю. ШІ-тренування значно простіше приховати, ніж будівництво військових об'єктів чи ракетних шахт, тому спокуса таємно продовжити роботу залишатиметься.

Особливе занепокоєння викликає внутрішня статистика компанії. Дані свідчать, що ШІ уже починає суттєво прискорювати відтворення самого себе.

Це запускає процес безперервного самовдосконалення, за якого система зможе навчатися без людського втручання. Вже зараз роль людини на кожному етапі створення ШІ поступово зменшується.

Геополітичний конфлікт та фактор Ілона Маска: хто виступає проти паузи

Ідея заморожування досліджень викликає серйозний спротив як у Кремнієвій долині, так і у Вашингтоні.

Американські урядовці та керівники великих корпорацій неодноразово наголошували, що будь-яке сповільнення з боку США дасть Китаю вирішальну стратегічну перевагу у головній технологічній гонці століття.

Крім того, ініціатива Anthropic суперечить комерційним інтересам інших гравців ринку. Зокрема, вихід компанії SpaceX Ілона Маска на фондовий ринок, до структури якої входить його ШІ-проєкт xAI, може офіційно зробити підприємця першим трильйонером у світі.

Представники індустрії та деякі посадовці з Білого дому також відкрито критикують позицію Anthropic. Вони зазначають, що компанія фокусується виключно на найгірших сценаріях і перебільшує ризики, щоб під приводом безпеки заблокувати розвиток своїх прямих конкурентів.

Читайте більше цікавого:

• ШІ вперше отримав "безмежну" пам’ять: що стоїть за новою технологією
• "Апокаліпсису не буде": топи OpenAI та Anthropic різко змінили риторику щодо ШІ