Мільйони людей звертаються до чат-ботів на базі штучного інтелекту (ШІ) за порадами з різних питань, включаючи здоров'я. Проте, як нещодавно попередив головний медичний радник Великобританії, покладатися на них у медичних рішеннях може бути небезпечно.

Людина тримає смартфон, дивлячись на нього

У недавньому дослідженні ми перевірили, наскільки добре чат-боти допомагають людям справлятися з поширеними медичними проблемами. Результати виявилися вражаючими. Чат-боти, які ми тестували, не були готові виконувати роль лікарів. Учасники, які використовували чат-ботів, менш ймовірно правильно ідентифікували симптоми, ніж ті, хто не користувався ними.

Коли ми надали учасникам короткі описи медичних ситуацій, вони були випадковим чином розподілені на групи, які використовували один з трьох доступних чат-ботів або покладалися на звичайні джерела інформації. Після взаємодії з чат-ботом ми запитали, яке захворювання могло б пояснити симптоми, і куди слід звернутися за допомогою.

Слабкі результати при сильних знаннях

Це не означає, що моделі не мають медичних знань, адже чат-боти можуть успішно проходити медичні іспити. Однак, коли ми прибрали людський елемент і надали ті ж сценарії безпосередньо чат-ботам, їхня продуктивність значно покращилася.

Без людської участі моделі в більшості випадків правильно ідентифікували відповідні захворювання та часто пропонували адекватні рівні медичної допомоги. Проте, коли люди почали взаємодіяти з системами, результати погіршилися. Чат-боти часто згадували про відповідний діагноз, але учасники не завжди помічали або запам'ятовували цю інформацію.

Дослідження показує, що політики повинні отримувати інформацію про реальну продуктивність технологій перед їх впровадженням у критично важливі сфери, такі як охорона здоров'я. Наші висновки підкреслюють важливу обмеженість багатьох сучасних оцінок ШІ в медицині.

Штучний інтелект може бути корисним у медицині, але його роль, ймовірно, буде більше підтримуючою, ніж революційною в найближчій перспективі. Чат-боти не готові діагностувати захворювання або направляти пацієнтів до відповідного рівня медичної допомоги.