AI може думати і відчувати біль? Google DeepMind: людство недооцінює емоційний зв'язок AI, спілкування з AI як з коханцем більш реальне, ніж ви думаєте.
У цьому подкасті, що проводиться Google DeepMind, професор кафедри робототехніки Імперського коледжу Лондона та старший дослідник DeepMind Мюррей Шанахан обговорює розвиток ШІ з ведучою Ганною Фрай, починаючи з філософських ідей з науково-фантастичних фільмів і закінчуючи питаннями, чи може ШІ «міркувати», чи має він «свідомість, емоції» та чи слід наділяти ШІ правами та етичними гарантіями.
ШІ не лише чат-боти, а й надихає на багато розумових і філософських питань.
Шанахан на початку заявив, що ШІ викликав безліч філософських питань про «суть людського розуму» та «свідомість».
Він навіть використовував незнайомі, але схожі на розум речі (Екзотичні сутності, подібні до розуму), щоб описати сучасні великі мовні моделі (LLM), і підкреслив, що людство ще не створило достатньо словникового запасу та рамок для їх опису.
Досліджуючи науково-фантастичні фільми, чи недооцінює людство реальність емоційного зв'язку з ШІ?
Шанахан був консультантом у фільмі «Штучна свідомість Ex Machina». Він згадує, що спочатку не звертав уваги на фільм «Хлопець з хмари Her», який описує, як люди закохуються в голосового AI, але тепер, оглядаючись назад, він бачить, що розвиток реального світу майже повністю підтверджує можливість такого «віртуального кохання».
Він прямо сказав: «Ми недооцінили можливість встановлення відносин між людьми та безтілесним ШІ.»
Зліва — штучна свідомість, справа — сцена з фільму "Хмарний коханець". Ознайомлення з розвитком ШІ, від символічного ШІ до великих мовних моделей.
Шанахан походить з символічного ШІ (Символічний ШІ) школи, тоді ШІ спирався на логічні правила «якщо... то...», такі як медичні експертні системи.
Але ця модель занадто крихка, надто залежить від людського введення правил. Пізніше перехід на «дані, керовані» нейронні мережі дозволив ШІ прорватися.
Тепер LLM вже може імітувати ланцюг міркувань (Chain of thought), наприклад, ChatGPT спочатку перераховує логічні етапи, а потім відповідає, що змушує нас знову переосмислити, чи може AI дійсно міркувати.
Справжнє міркування чи удавання, математична логіка значно відрізняється від мовного міркування
Шанахан пояснив, що так зване міркування традиційного ШІ — це «жорстка логіка», яка може доводити математичні теореми.
Але сучасні LLM імітують мовні моделі через статистику, і не забезпечують правильність відповідей. Він навів приклад, що, як у випадку планування маршрутів для логістичних компаній, традиційні алгоритми можуть бути точнішими, але LLM є більш гнучкими.
Turing Test вже застарів? Фільм Garland тестує більш свідомо
Тест Тюрінга (Turing Test) був раннім методом оцінки здатності ШІ маскуватися під людину, але Шанахан вважає, що він занадто вузький і перевіряє лише мовні здібності.
Він більше цінує «Тест Гарланда», натхнений фільмом «Штучна свідомість».
«Ти знаєш, що опонент – це Бот, але все ж вважаєш, що він має свідомість, саме це є справжнім питанням для обговорення», – підкреслив Шанахан.
ARC тест Франсуа Шолле: виклик, що більше нагадує тест на IQ
Він також згадав про інший просунутий тест «ARC Test», для проходження якого штучний інтелект має зрозуміти абстрактні закономірності.
Але з розвитком технологій деякі LLM можуть пройти тестування завдяки насильницьким методам і розпізнаванню шаблонів, що ставить під загрозу тестування, підкреслюючи, що стандарти оцінки AI повинні змінюватися відповідно до еволюції технологій.
Тіло — це ключ? Шанахан: AI без оболонки завжди буде недостачувати
Людський розум тісно пов'язаний з простором і сенсорним досвідом. Шанахан підкреслює, що наша мова сповнена просторових метафор, таких як глибоке розуміння або занурення в щось, і все це походить з тілесного досвіду.
Він вважає, що для того, щоб ШІ справді зрозумів світ і досягнув загального інтелекту (AGI), все ще потрібно розвивати «фізичних Ботів».
Мова може ввести в оману, не варто безпідставно говорити, що ШІ вірить, знає та відчуває.
Шанахан вважає, що наше сприйняття ШІ часто вводиться в оману мовою. Наприклад, висловлювання "навігація "вважає, що ви на парковці" створює враження, що у машини є суб'єктивне сприйняття.
Він нагадує, що ця народна психологічна мовна (Folk psychology) має тенденцію змушувати нас переоцінювати психічний стан ШІ.
Чи буде біль у майбутньому ШІ? Шанаган стверджує, що якщо буде біль, то нам слід бути обережними.
Щодо етичного питання, чи може ШІ «відчувати біль», Шанахан заявив, що на даному етапі моделі не мають тіла і не мають умов для «відчуття болю».
«Але якщо в майбутньому ШІ буде розроблено так, щоб відчувати емоції або переносити біль, то людське суспільство повинно буде розробити етичні норми захисту». Він підкреслив.
Чому згадується восьминіг? Шанахан використовує його, щоб проілюструвати майбутнє штучного інтелекту.
Шанахан на прикладі восьминога зазначає, що наука в минулому не вважала, що восьминоги мають емоції, але з розвитком нейронаук і збільшенням контактів ми починаємо визнати, що вони мають свідомість.
«Спочатку не сприймаються як істоти з емоціями, але з поглибленням взаємодії погляди людей поступово змінюються.» Шенахан вважає, що майбутнє AI також пройде подібний процес.
Будь ласка, будьте ввічливі з AI, він відповість вам сюрпризом.
Шанахан наприкінці поділився корисною порадою: говоріть з AI моделлю ввічливо, це дозволить їй відповідати краще та плавніше.
Він називає це результатом «ефекту рольового виконання», оскільки моделі ШІ імітують контекст і емоції людського спілкування.
Нам потрібна нова мова, щоб описати «не людина, але дуже схожа на людину».
Шанахан пропонує називати ці ШІ новим типом ШІ, який дуже схожий на розум, але насправді повністю відрізняється від людського розуму. Він вважає, що ми перебуваємо на етапі, коли нам потрібно заново винайти мову та ідеї для опису штучного інтелекту, і цей процес сам по собі змінить наше розуміння «розуму» та «буття».
Ця стаття AI може думати, а також відчувати біль? Google DeepMind: люди недооцінюють емоційний зв'язок AI, спілкування з AI про кохання є більш реальним, ніж ви думаєте. Вперше з'явилося в Ланцюгових новинах ABMedia.
Переглянути оригінал
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
AI може думати і відчувати біль? Google DeepMind: людство недооцінює емоційний зв'язок AI, спілкування з AI як з коханцем більш реальне, ніж ви думаєте.
У цьому подкасті, що проводиться Google DeepMind, професор кафедри робототехніки Імперського коледжу Лондона та старший дослідник DeepMind Мюррей Шанахан обговорює розвиток ШІ з ведучою Ганною Фрай, починаючи з філософських ідей з науково-фантастичних фільмів і закінчуючи питаннями, чи може ШІ «міркувати», чи має він «свідомість, емоції» та чи слід наділяти ШІ правами та етичними гарантіями.
ШІ не лише чат-боти, а й надихає на багато розумових і філософських питань.
Шанахан на початку заявив, що ШІ викликав безліч філософських питань про «суть людського розуму» та «свідомість».
Він навіть використовував незнайомі, але схожі на розум речі (Екзотичні сутності, подібні до розуму), щоб описати сучасні великі мовні моделі (LLM), і підкреслив, що людство ще не створило достатньо словникового запасу та рамок для їх опису.
Досліджуючи науково-фантастичні фільми, чи недооцінює людство реальність емоційного зв'язку з ШІ?
Шанахан був консультантом у фільмі «Штучна свідомість Ex Machina». Він згадує, що спочатку не звертав уваги на фільм «Хлопець з хмари Her», який описує, як люди закохуються в голосового AI, але тепер, оглядаючись назад, він бачить, що розвиток реального світу майже повністю підтверджує можливість такого «віртуального кохання».
Він прямо сказав: «Ми недооцінили можливість встановлення відносин між людьми та безтілесним ШІ.»
Зліва — штучна свідомість, справа — сцена з фільму "Хмарний коханець". Ознайомлення з розвитком ШІ, від символічного ШІ до великих мовних моделей.
Шанахан походить з символічного ШІ (Символічний ШІ) школи, тоді ШІ спирався на логічні правила «якщо... то...», такі як медичні експертні системи.
Але ця модель занадто крихка, надто залежить від людського введення правил. Пізніше перехід на «дані, керовані» нейронні мережі дозволив ШІ прорватися.
Тепер LLM вже може імітувати ланцюг міркувань (Chain of thought), наприклад, ChatGPT спочатку перераховує логічні етапи, а потім відповідає, що змушує нас знову переосмислити, чи може AI дійсно міркувати.
Справжнє міркування чи удавання, математична логіка значно відрізняється від мовного міркування
Шанахан пояснив, що так зване міркування традиційного ШІ — це «жорстка логіка», яка може доводити математичні теореми.
Але сучасні LLM імітують мовні моделі через статистику, і не забезпечують правильність відповідей. Він навів приклад, що, як у випадку планування маршрутів для логістичних компаній, традиційні алгоритми можуть бути точнішими, але LLM є більш гнучкими.
Turing Test вже застарів? Фільм Garland тестує більш свідомо
Тест Тюрінга (Turing Test) був раннім методом оцінки здатності ШІ маскуватися під людину, але Шанахан вважає, що він занадто вузький і перевіряє лише мовні здібності.
Він більше цінує «Тест Гарланда», натхнений фільмом «Штучна свідомість».
«Ти знаєш, що опонент – це Бот, але все ж вважаєш, що він має свідомість, саме це є справжнім питанням для обговорення», – підкреслив Шанахан.
ARC тест Франсуа Шолле: виклик, що більше нагадує тест на IQ
Він також згадав про інший просунутий тест «ARC Test», для проходження якого штучний інтелект має зрозуміти абстрактні закономірності.
Але з розвитком технологій деякі LLM можуть пройти тестування завдяки насильницьким методам і розпізнаванню шаблонів, що ставить під загрозу тестування, підкреслюючи, що стандарти оцінки AI повинні змінюватися відповідно до еволюції технологій.
Тіло — це ключ? Шанахан: AI без оболонки завжди буде недостачувати
Людський розум тісно пов'язаний з простором і сенсорним досвідом. Шанахан підкреслює, що наша мова сповнена просторових метафор, таких як глибоке розуміння або занурення в щось, і все це походить з тілесного досвіду.
Він вважає, що для того, щоб ШІ справді зрозумів світ і досягнув загального інтелекту (AGI), все ще потрібно розвивати «фізичних Ботів».
Мова може ввести в оману, не варто безпідставно говорити, що ШІ вірить, знає та відчуває.
Шанахан вважає, що наше сприйняття ШІ часто вводиться в оману мовою. Наприклад, висловлювання "навігація "вважає, що ви на парковці" створює враження, що у машини є суб'єктивне сприйняття.
Він нагадує, що ця народна психологічна мовна (Folk psychology) має тенденцію змушувати нас переоцінювати психічний стан ШІ.
Чи буде біль у майбутньому ШІ? Шанаган стверджує, що якщо буде біль, то нам слід бути обережними.
Щодо етичного питання, чи може ШІ «відчувати біль», Шанахан заявив, що на даному етапі моделі не мають тіла і не мають умов для «відчуття болю».
«Але якщо в майбутньому ШІ буде розроблено так, щоб відчувати емоції або переносити біль, то людське суспільство повинно буде розробити етичні норми захисту». Він підкреслив.
Чому згадується восьминіг? Шанахан використовує його, щоб проілюструвати майбутнє штучного інтелекту.
Шанахан на прикладі восьминога зазначає, що наука в минулому не вважала, що восьминоги мають емоції, але з розвитком нейронаук і збільшенням контактів ми починаємо визнати, що вони мають свідомість.
«Спочатку не сприймаються як істоти з емоціями, але з поглибленням взаємодії погляди людей поступово змінюються.» Шенахан вважає, що майбутнє AI також пройде подібний процес.
Будь ласка, будьте ввічливі з AI, він відповість вам сюрпризом.
Шанахан наприкінці поділився корисною порадою: говоріть з AI моделлю ввічливо, це дозволить їй відповідати краще та плавніше.
Він називає це результатом «ефекту рольового виконання», оскільки моделі ШІ імітують контекст і емоції людського спілкування.
Нам потрібна нова мова, щоб описати «не людина, але дуже схожа на людину».
Шанахан пропонує називати ці ШІ новим типом ШІ, який дуже схожий на розум, але насправді повністю відрізняється від людського розуму. Він вважає, що ми перебуваємо на етапі, коли нам потрібно заново винайти мову та ідеї для опису штучного інтелекту, і цей процес сам по собі змінить наше розуміння «розуму» та «буття».
Ця стаття AI може думати, а також відчувати біль? Google DeepMind: люди недооцінюють емоційний зв'язок AI, спілкування з AI про кохання є більш реальним, ніж ви думаєте. Вперше з'явилося в Ланцюгових новинах ABMedia.