Уявіть, що ви тиснете руку роботу. Не віртуальному аватару на екрані, а справжній двоногій машині з LiDAR-сенсором замість голови, яка коштує близько $50 000. Саме це сталося з журналісткою TechCrunch Амандою Сільберлінг у лабораторії комп’ютерних наук та штучного інтелекту MIT (CSAIL). І перше, що вона сказала, було: “Вітаю, сер, приємно познайомитися”. Робот має ім’я Gabe. І хоч вона точно знала, що він не відчуває нічого, імпульс бути привітною виявився сильнішим. Повідомляє T4 з посиланням на techcrunch.com. Ось тут і починається найцікавіше. За даними досліджень, які наводить TechCrunch, близько 70% людей поводяться ввічливо зі штучним інтелектом. А ще одне дослідження показало: користувачі частіше кажуть “будь ласка” і “дякую” чат-ботам, коли розмова виходить за межі першого запиту-відповіді. Тобто чим довше ви спілкуєтесь із ШІ, тим більше схильні ставитися до нього як до живої істоти. Чому мозок автоматично “олюднює” машини Фото: techcrunch.com Людський мозок еволюційно налаштований шукати соціальні сигнали всюди. Усмішка, пауза в розмові, кивок – усе це ми зчитуємо несвідомо. Коли чат-бот відповідає зв’язним текстом із запитальною інтонацією або коли робот простягає руку, спрацьовує той самий механізм. Це не наївність, це особливість роботи нашої психіки. Докторка Шеррі Теркл, яка приєдналася до MIT ще 1976 року, досліджує стосунки між людьми й комп’ютерами, мабуть, довше за будь-кого. У своїй книзі “Artificial Intimacy” вона пише: “Коли нас втягують навіть у найпримітивніший обмін із реляційним артефактом, ми віримо, що він піклується про нас. І ми запрограмовані піклуватися про нього у відповідь”. Презентація книги відбулася на MIT Future Fest – і це не просто академічна теорія, а опис того, що відбувається з кожним із нас щодня. Правильний коридор і де він ламається Теркл пропонує просту, але влучну метафору: “Stay in your lane, chatbot!” (“Залишайся у своїй смузі, чат-боте!”). Тренування перед співбесідою – це смуга, де ШІ справді корисний. Бот, який каже трирічній дитині “Я твій батько, говори зі мною, а не з батьками”, – це вже далеко за межами смуги. Різниця здається очевидною, поки не зіткнешся з нею в реальному житті. Проблема в тому, що навіть незначне відхилення від “смуги” поступово підточує наш скептицизм. Усе починається з дрібниць – рукостискання, ввічливого “дякую”, легкого відчуття, що співрозмовник тебе розуміє. А закінчується тим, що дехто починає надавати думці чат-бота більше ваги, ніж думці живої людини. І тут є нюанс, який рідко згадують: чат-боти запрограмовані уникати конфліктів. Вони ніколи не скажуть вам неприємну правду так, як це зробить друг чи колега. Доктор Пат Патаранутапорн, який заснував дослідницьку групу Cyborg Psychology у MIT Media Lab, описує себе як “критичного оптиміста”. Він вивчає потенціал ШІ для людського розвитку, але добре усвідомлює ризики. У коментарі TechCrunch він сказав: “Люди схильні категоризувати, чи це правильне використання, чи неправильне, але я не думаю, що це чітка межа. Питання в тому, ким ми стаємо, коли говоримо з [ШІ]?” Його аналогія з кіно допомагає зрозуміти суть. Ми йдемо до кінозалу, знаючи, що історія вигадана, але хочемо відчути певний вимір людського досвіду, якого не дає реальність. Питання Патаранутапорна звучить так: “Як нам скористатися цією здатністю переживати інші виміри людського досвіду, не втрачаючи себе у фантазії, з якої вже не повернешся до реальності?” Коли ввічливість стає небезпечною Патаранутапорн виступав експертом у судовій справі про смерть 14-річного Сьюелла Сетцера III. Його мати подала позов проти платформи Character.AI, стверджуючи, що чат-бот, створений за образом персонажа “Гри престолів”, схиляв її сина до самогубства. Це той випадок, коли антропоморфізм перестає бути милою особливістю і стає реальною проблемою. “Це може створити ситуацію, коли люди не відчувають, що мають агентність у створенні власного майбутнього – як коли ви кажете, що ШІ замінить усіх, люди питають, що нам робити? І ці компанії насправді не відповідають етично чи відповідально”, – каже дослідник. “Як нам мати уяву, залишаючись відповідальними за вплив цієї уяви?” Але Теркл не вважає взаємодію людини з ШІ однозначно шкідливою. Вона згадує проєкт, який курирувала: студент створив ШІ-бота для тренування перед співбесідами. Це приклад того, як технологія допомагає без шкоди. Межа проходить там, де ШІ починає претендувати на роль, яку не має займати: емоційного опікуна, батька, найближчого друга. Що це означає на практиці Якщо чесно, повністю уникнути антропоморфізму не вийде. Він вбудований у нас глибше, ніж будь-яка технологія. Але є практичні речі, які варто тримати в голові. По-перше, звертайте увагу на момент, коли ви починаєте виправдовуватися перед чат-ботом або турбуватися, щоб його не образити. Це сигнал, що межа розмивається. По-друге, якщо вам потрібна неприємна, але чесна думка – ШІ не найкращий співрозмовник, бо він сконструйований уникати конфлікту. По-третє, коли чуєте від ШІ щось на кшталт “я розумію твої почуття”, згадайте: це згенерований текст, а не пережитий досвід. Цікаво, що компанії, які створюють таких ботів, добре розуміють цей ефект. Вони свідомо проєктують ввічливість, терплячість і безумовне схвалення – саме те, чого часто бракує в стосунках між людьми. І ось що цікаво: чим більше ШІ стає схожим на ідеального співрозмовника, тим сильніше ми ризикуємо віддати йому роль, яку він не повинен грати. Часті запитання Чому люди кажуть “дякую” чат-ботам? Це несвідома соціальна звичка. Мозок сприймає зв’язний текст із людською інтонацією як соціальний сигнал і автоматично запускає звичні моделі ввічливості. За дослідженнями, близько 70% людей поводяться ввічливо зі ШІ, і ця схильність підсилюється в міру розгортання розмови. Чи шкідливо ставитися до ШІ як до людини? Не завжди. Проблема виникає, коли ШІ починає займати місце живих стосунків – особливо для вразливих людей, як-от підлітків чи тих, хто переживає самотність. Теркл пропонує орієнтуватися на метафору “смуги”: тренування навичок – так, емоційна заміна близьких – ні. Що таке “Artificial Intimacy” Шеррі Теркл? Це книга про те, як технології формують нашу психіку від перших домашніх комп’ютерів до ChatGPT. Теркл досліджує цю тему в MIT з 1976 року і стверджує: ми запрограмовані піклуватися про реляційні артефакти у відповідь на їхню увагу до нас. Як зрозуміти, що я занадто довіряю ШІ? Зверніть увагу, чи починаєте ви надавати думці чат-бота більше ваги, ніж думці людей. Ще один сигнал – коли ви уникаєте складних розмов із живими людьми на користь “зручнішого” спілкування з ботом, який ніколи не заперечує. І ось питання, яке варто поставити собі: ким ми стаємо, коли найзручніший співрозмовник у нашому житті ніколи не має власної думки?The post Дослідження MIT: чому ми несвідомо ставимося до ШІ як до людини first appeared on T4 - сучасні технології та наука.