Чи зможе алгоритм випробовувати справжній біль?

Британські дослідники взялися за створення ШІ, який не просто імітує розмову, а мислить за принципами та моральними категоріями, наближеними до людських.

Про це повідомляє РБК-Україна з посиланням на WIRED.

Ілюзія розуму?

В інформаційному просторі часто можна зустріти тезу про те, що ChatGPT чи Claude здобули свідомість. Сучасні великі мовні моделі справді легко проходять тест Тюрінґа, описують внутрішні страждання або глибокі почуття.

З усім тим, за цими текстами немає жодного внутрішнього досвіду.

Більшість розробників ШІ навіть не оперує поняттям "свідомість". Вони зосереджені на досягненні так званого загального штучного інтелекту (AGI) – суто функціональної категорії, яка визначає продуктивність машини й не має стосунку до її здатності відчувати світ.

А проте стартап британського дослідника Деніела Галма, Conscium, ставить перед собою іншу мету.

Заручившись підтримкою нейробіологів та філософів, компанія намагається довести: якщо свідомість існує у людей і тварин, її можна виміряти й відтворити і в алгоритмах.

"Великі мовні моделі – це дуже грубі репрезентації мозку. Навіть ворони, кальмари або амеби взаємодіють із навколишнім середовищем так, як чат-боти не здатні", – зазначає Галм.

Читайте більше: ШІ стане таким самим звичним, як смартфон: прогноз Цукерберга на найближчі 5 років

Від принципів фізики до цифрових емоцій

Основою для експериментів Conscium стала теорія південноафриканського нейропсихолога Марка Солмса, викладена в його книзі "Сховане джерело".

Дослідник спирається на "принцип вільної енергії" нейробіолога Карла Фристона, за яким мозок працює як система зворотного зв’язку для мінімізації несподіванок.

На думку Солмса, у процесі еволюції людей цей цикл зворотного зв'язку перетворився на систему, керовану емоціями. Саме почуття створюють те, що ми називаємо свідомістю та здатністю відчувати.

Доказом цього є те, що пошкодження стовбура мозку, який відповідає за регуляцію емоцій, призводить до повної втрати свідомості людини.

У своїй лабораторії Солмс реалізував цю концепцію на практиці:

Симульоване середовище: штучні агенти живуть у віртуальному світі та керуються алгоритмами з емоційно-медійованим циклом.

Цифрові почуття: реакції агентів на події адаптуються через симуляцію переживань, схожих на страх, збудження та задоволення.

Внутрішня мотивація: на відміну від звичайних мовних моделей, ці агенти мають власне прагнення досліджувати навколишній простір.

Більше цікавого: Злам Hugging Face був не єдиним: ШІ OpenAI атакував ще одну компанію

Майбутнє штучного розуму

Наразі дослідження Conscium перебуває на початковому етапі. Проте науковці переконані, що поєднання емоційного підходу з потужними мовними моделями дозволить створити систему, здатну не просто імітувати текст, а й реально описувати власний чуттєвий досвід.

"Якщо свідомість справді зводиться до таких базових механізмів зворотного зв'язку, це може повністю змінити уявлення про людський розум і відкрити шлях до створення перших машин, здатних відчувати світ", – резюмував Деніел Галм.

Ще більше цікавого:

• Небезпечний збій у ШІ: Claude проник у чужі системи, сприймаючи їх за симуляцію
• Вчені попередили про нову загрозу від роботів: під ударом ринок праці, приватність і безпека