Три провідні дослідники свідомості – Аніл Сет, Нед Блок і Джуліо Тоніоні – у спільній статті для Nature заявили, що сучасні системи штучного інтелекту (ШІ) не володіють свідомістю і, ймовірно, не зможуть її набути, працюючи на кремнієвому обладнанні. Вони критикують поширену ідею, що достатньо запускати правильні обчислення, щоб виникла свідомість, називаючи цю позицію фатальною помилкою.
Чому сучасні AI не є свідомими
Дослідники посилаються на звіт групи експертів, серед яких є і відомі фахівці зі штучного інтелекту, що розробили перелік із 14 індикаторів свідомості на основі нейронаукових теорій. Аналізуючи великі мовні моделі, такі як GPT-4, вони дійшли висновку, що жодна з існуючих систем не відповідає цим критеріям у достатній мірі, щоб вважатися свідомою. При цьому в звіті не виключають можливість створення у майбутньому AI, який відповідатиме більшій кількості індикаторів, але чи буде він справді свідомим – залишається відкритим питанням.
Відмінність між інтелектом і свідомістю
Автори підкреслюють, що інтелект і свідомість – це різні явища. Інтелект означає виконання функцій, тоді як свідомість – це суб’єктивний досвід, який «має певне відчуття». Вони наводять приклад мозочка людини, який містить більшість нейронів мозку і відповідає за точне планування рухів, але не пов’язаний зі свідомим досвідом. Це свідчить про те, що складність і ефективність обробки інформації не гарантують наявність свідомості.
Критика комп’ютерної метафори мозку
Дослідники критикують ідею, що мозок – це просто комп’ютер, а свідомість – результат обчислень. Вони вважають цю метафору надмірною і проблематичною, оскільки в біологічних мозках неможливо відокремити функції від матеріальної основи. Свідомість, на їхню думку, пов’язана з фізичними властивостями живих тканин, які неможливо відтворити на цифровому обладнанні. Зокрема, теорія інтегрованої інформації (IIT) вказує, що свідомість потребує специфічної фізичної організації, якої немає у сучасних комп’ютерних систем.
Етичні наслідки та ризики хибного приписування свідомості AI
Автори попереджають, що помилкове приписування свідомості штучним системам може відволікати ресурси від реальних живих істот, які здатні відчувати. Вони виступають проти надання прав AI-системам, які лише імітують свідомість. Такий підхід ускладнить контроль над технологіями і відверне увагу від важливих питань регулювання. Вони закликають дослідницьку спільноту за замовчуванням вважати AI об’єктами, а не суб’єктами.
Ця позиція також пояснює випадки, коли люди помилково вважали чатботів свідомими, що призводило до емоційних і психологічних проблем користувачів. Компанії, що розробляють AI, визнають відсутність консенсусу щодо свідомості у машин і застосовують обережні заходи, не прирівнюючи це до реального досвіду.
Джерело: the-decoder.com
