Свідомість ШІ під питанням: вчені заявили про фундаментальні помилки

Чому дослідники вкотре вимагають жорстких стандартів оцінок нейромереж?

Міжнародна група дослідників під керівництвом Інституту базових наук (IBS) поставила під сумнів сучасні методи оцінки свідомості ШІ та інших "нелюдських об'єктів". Науковці стверджують, що популярні нейробіологічні тести часто плутають звичайну обробку інформації із суб'єктивним життєвим досвідом.

Про це пише РБК-Україна з посиланням на результати аналізу, опублікованого у науковому журналі Neuron.

Більше цікавого: ChatGPT, Gemini і Claude зливають персональні дані користувачів: хто опинився під загрозою Проблематика і дискурс

Стрімкий розвиток нейромереж змусив науковців і суспільство замислитися над питаннями, які раніше належали лише до царини філософії.

• Чи може ШІ мати свідомість?
• Чи здатні тварини, вирощені у лабораторії органоїди мозку або людські ембріони мати суб'єктивний досвід?

Команда вчених з IBS, Монреальського та Нью-Йоркського університетів поставила інше базове питання: чи здатні наші технології взагалі це виміряти?

"Більшість сучасних експериментів фіксують лише загальну здатність системи аналізувати дані, а не саму свідомість", - пояснює директор Центру нейровізуалізаційних досліджень Хакван Лау.

"Популярні методи, наприклад, перевірка зорового маскування або виявлення сенсорних порогів, змінюють не лише свідомий досвід, а й загальну когнітивну здатність мозку чи ШІ. Через це розробники несвідомо приписують машинам людські якості", - додає вчений.

Уроки історії - загроза для науки?

Дослідники нагадують, що схожа криза вже виникала у психології на межі XIX та XX століть. Тоді гучні, проте погано обґрунтовані заяви про природу свідомості призвели до жорсткої критики з боку наукової спільноти. Це породило біхевіоризм і на десятиліття заморозило будь-які серйозні дослідження у галузі.

Щоб не повторювати помилок минулого, науковці пропонують вивчати особливі нейропсихологічні стани. Наприклад, "сліпий зір" (blindsight) або просторове ігнорування, коли людина реагує на подразники, але не усвідомлює їх.

Такі аномалії доводять, що обробка інформації та суб'єктивне сприйняття - це різні процеси, які потрібно досліджувати окремо.

Етичні та соціальні наслідки

Створення точних методів ізоляції суб'єктивного досвіду є критично важливим для майбутнього. Твердження про наявність або відсутність свідомості безпосередньо впливають на глобальні дискусії.

Сьогодні від цих висновків залежать:

• правила захисту тварин та ветеринарна етика;
• норми регулювання штучного інтелекту та права роботів;
• питання біоетики та статус медичних досліджень.

"Якщо наукові заяви про свідомість збираються впливати на етику ШІ чи біоетику, то науковий фундамент цих заяв має бути максимально суворим", - наголошують автори дослідження.

Вчені сподіваються, що їхня робота змусить колег дотримуватися "концептуальної чіткості у царині штучного розуму".

Ще більше цікавого:

• ШІ бачить ваші страхи та слабкості: вчені попередили про нову небезпеку
• Один копіпаст із ChatGPT може закрити доступ до науки: що вирішив arXiv