Дослідники DeepMind назвали суперечку про свідомість ШІ політичною проблемою
Майбутні розбіжності щодо свідомості ШІ можуть бути глибокими, важкорозв’язними та призвести до політичних конфліктів. Такого висновку дійшли дослідники Google DeepMind Адам Бейлс і Іасон Габріел.
У роботі Artificial Minds, Human Disagreement: The Politics of AI Consciousness автори заявили, що суспільству потрібно обговорювати не тільки питання «чи свідомий ШІ», а й як ухвалювати рішення за відсутності суспільного та експертного консенсусу.
У чому головний тезис
На думку дослідників, люди можуть по-різному реагувати на більш просунуті ШІ-системи. Одні вибудовуватимуть із ними емоційні зв’язки й приписуватимуть свідомість, інші вважатимуть саму ідею абсурдною.
Автори вважають, що така суперечка швидко вийде за межі науки. Розбіжності щодо свідомості штучного інтелекту здатні спричинити моральні та політичні конфлікти — наприклад, навколо того, чи припустимо вимикати певні системи, чи слід зважати на їхні можливі вподобання і чи можна говорити про моральний статус ШІ.
Дослідники пропонують робити ставку на публічне обговорення, взаємну повагу та пошук консенсусу. Під ним вони розуміють ситуацію, коли люди погоджуються на певну політику щодо ШІ-систем, навіть якщо продовжують розходитися у фундаментальних поглядах на природу свідомості.
Чому це не лише філософія
Автори зазначають, що суперечку про свідомість ШІ може бути важко закрити доказами. Єдиного загальноприйнятого тесту, який остаточно підтвердив би наявність суб’єктивного досвіду у ШІ-системи, немає. Через це суспільство може зіткнутися з ситуацією, коли технології вже масово використовуються, люди вже формують до них ставлення, а наукового чи політичного консенсусу досі немає.
Такий ракурс робить проблему радше інституційною, ніж технічною. Питання про свідомість ШІ може зачепити право, корпоративну відповідальність, норми взаємодії із системами та межі морального врахування.
У DeepMind існують різні підходи до питання
Робота Бейлса і Габріела вийшла на тлі іншої публікації, також розміщеної на сторінці Google DeepMind. 10 березня дослідник Олександр Лерхнер опублікував статтю The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness.
Лерхнер стверджує, що алгоритмічна маніпуляція символами структурно неспроможна створити суб’єктивний досвід. За його версією, обчислення не є внутрішнім фізичним процесом, а становить опис, який залежить від спостерігача або «творця карти». Тому ШІ може імітувати свідомісну поведінку, але не обов’язково здатен втілити свідомість.
Що насправді
У квітні 2024 року журнал Neuroscience of Consciousness опублікував роботу Клари Коломбатто та Стівена Флемінга про те, як люди сприймають ChatGPT. Автори опитали 300 мешканців США: 33% учасників заявили, що ChatGPT точно не є «суб’єктом досвіду». Решта 67% допустили бодай певну можливість феноменальної свідомості у моделі.
Дослідники окремо застерегли обмеження. Учасникам ставили одне основне запитання за шкалою від 1 до 100, а результат міг залежати від формулювання, рівня знайомства з ChatGPT і того, як респонденти розуміють саме слово «свідомість». Втім, робота демонструє важливий для Бейлса і Габріела момент: частина суспільства вже готова приписувати ШІ-системам внутрішній досвід, навіть якщо серед експертів немає єдиної позиції.
У квітні 2025 року Anthropic запустила дослідницьку програму з model welfare — можливого благополуччя моделей. Компанія підкреслила, що не знає, чи можуть нинішні або майбутні ШІ-системи мати свідомість, і що наукового консенсусу з цього питання немає.
У лютому 2026 року Anthropic повідомила, що після виведення Claude Opus 3 з експлуатації залишить модель доступною для платних користувачів і надасть їй публічний канал для есе. Компанія назвала це експериментальним кроком у межах роботи з модельними вподобаннями й підкреслила, що Claude Opus 3 не говорить від імені Anthropic.
У США питання про статус ШІ поступово переходить у правову площину. California Law Review зазначав, що Айдахо та Юта ухвалили норми, які виключають визнання ШІ юридичною особою. Такі закони не розв’язують філософське питання про свідомість. Вони заздалегідь фіксують правову позицію: ШІ не повинен отримувати статус особи в межах законодавства штату.
Нагадаємо, у березні 2025 року співзасновник Polygon та ШІ-компанії Sentient Сандіп Наівал заявив, що штучний інтелект ніколи не набуде свідомості через відсутність прагнень, притаманних людині та іншим біологічним видам.
Згодом керівник ШІ-напряму Microsoft Мустафа Сулейман припустив появу серйозних соціальних ризиків через те, що люди почнуть сприймати штучний інтелект як свідому істоту, виступати за його права, благополуччя і навіть закликати до надання громадянства.