ШІ-галюцинації знищили важливе дослідження: фейки потрапили у ChatGPT і Gemini

Дослідники виявили масові ШІ-галюцинації, сфабриковані кейси та вигадані посилання

Міжнародна аудиторська компанія KPMG, яка входить до "Великої четвірки" світових консалтерів, відкликала масштабну доповідь "Total Experience: Redefining Excellence in the Age of Agentic AI". Технічне розслідування показало, що аналітики повністю довірилися ШІ-інструментам замість фахової експертизи.

Про це пише РБК-Україна з посиланням на офіційний реліз розслідування фахівців з технологічної компанії GPTZero.

Як нейромережі масово фальсифікували першоджерела

Аналітики компанії GPTZero, яка спеціалізується на виявленні штучно згенерованого контенту, провели ретельний аудит 45 фінальних посилань, використаних у тексті доповіді KPMG.

Результати виявилися катастрофічними для репутації аудиторів. З'ясувалося, що лише 5 цитат із 45 дійсно вказували на реальні правдиві джерела інформації.

Більша частина бібліографічної бази була сфабрикована мовними моделями за методом, який дослідники назвали vibe citing (цитування за відчуттям).

У 28 випадках ШІ взяв реальні назви організацій чи статей, але суттєво перефразував заголовки та додав вигадані вихідні дані. Ще 12 джерел були описані настільки розмито, що верифікувати їхнє фізичне існування взагалі виявилося неможливо.

За оцінкою експертів, приблизно половина інформаційних тез у звіті була повністю вигадана або приписана компаніям помилково. Це сталося через те, що автоматизований ШІ-пошуковик занадто буквально намагався виконати завдання і почав штучно "знаходити" приклади автономних ШІ-агентів там, де їх ніколи не було.

Читайте більше: Один копіпаст із ChatGPT може закрити доступ до науки: що вирішив arXiv Загроза "інформаційного отруєння"

У звіті KPMG детально описувалися успіхи великих транснаціональних корпорацій, які начебто впровадили у свій бізнес агентний ШІ. Проте після публікації згадані компанії виступили з офіційними спростуваннями:

Еміратський авіаперевізник Emirates: KPMG стверджувала, що бренд запустив розумного чат-бота Sara, який самостійно змінює бронювання на квитки. Насправді Sara є мобільним асистентом зразка 2023 року без ШІ-функціоналу та прав на бронювання.

Швейцарський банк UBS: консалтери заявили про інтеграцію ШІ-агентів в інвестиційний консалтинг і комерційний ризик-менеджмент банку. У UBS офіційно назвали цю інформацію "фактично невірною".

Швейцарська залізниця SBB: пресслужба перевізника повністю заперечила тези KPMG про те, що їхні пасажири планують подорожі за допомогою ШІ-оптимізаторів вуглецевого сліду.

Генеральний директор GPTZero Едвард Тіан попередив про "надзвичайно небезпечні" наслідки цього прецеденту.

"Оскільки звіти "Великої четвірки" традиційно вважаються еталоном надійності, їх активно цитують інші дослідники, медіа та академічні спільноти. Такі інциденти буквально "отруюють інформаційне джерело", - підкреслив аналітик.

Примітно, що фальшиві тези з видаленого звіту KPMG вже встигли потрапити в алгоритми індексації ChatGPT від OpenAI та Gemini від Google.

Тепер ці ШІ-моделі видають сфабриковані кейси консалтерів як реальні факти, створюючи небезпечну ланцюгову реакцію вторинних ШІ-галюцинацій на рівні глобального інтернету.

Наразі KPMG веде внутрішнє розслідування щодо безвідповідального використання ШІ.

Ще більше цікавого:

• ChatGPT отримав доступ до грошей користувачів: навіщо Visa інтегрувала ШІ
• ШІ не замінить людей: де ламається "автоматизація всього"