Штучний інтелект може досить точно відтворювати реакції окремих нейронів мозку, але це не означає, що він обробляє візуальну інформацію так само, як людина. Дослідники з Йоркського університету виявили суттєву відмінність між роботою штучних нейронних мереж і біологічної зорової системи. Їхні результати ставлять під сумнів поширене уявлення про те, що сучасні моделі ШІ справді функціонують за принципами людського мозку. Протягом останнього десятиліття штучні нейронні мережі (ANN) стали важливим інструментом нейронауки. Ці комп’ютерні системи навчаються розпізнавати об’єкти на зображеннях, а їхні реакції нерідко нагадують активність нейронів у мозку. Завдяки цьому науковці використовують їх для вивчення того, як людина бачить і розпізнає навколишній світ. Однак команда під керівництвом доцента Йоркського університету Кохітія Кара вирішила перевірити, чи справді ця схожість є двосторонньою. Новий тест перевірив ШІ у зворотному напрямку Зазвичай дослідники оцінювали, наскільки добре штучна нейромережа може передбачити активність мозкових клітин у відповідь на певне зображення. Команда Кара запропонувала перевернути цей підхід: перевірити, чи можна за записами активності реальних нейронів передбачити внутрішні реакції самої моделі ШІ. Для цього науковці розробили метод reverse predictivity testing — тестування зворотної передбачуваності. Він дає змогу виявляти відмінності, які можуть залишатися непомітними під час традиційного порівняння. У дослідженні використали 1320 фотографій природних сцен і реалістичних синтетичних зображень із десятьма знайомими об’єктами: ведмедем, слоном, обличчям, яблуком, автомобілем, собакою, стільцем, літаком, птахом і зеброю. Також дослідники додали 300 зображень тих самих об’єктів в інших стилях — від контурних малюнків до спрощених і художніх інтерпретацій. Мозок не зміг так само точно передбачити роботу ШІ Результати виявили помітну асиметрію. Штучні нейромережі досить добре передбачали реакції записаних нейронів. Проте самі нейронні сигнали виявилися значно менш ефективними для передбачення багатьох внутрішніх характеристик моделей. Водночас такої проблеми не спостерігали, коли порівнювали активність нейронів у різних мозках. Це свідчить, що в біологічних зорових системах простежується більш узгоджений зв’язок, ніж між мозком і штучними моделями. За словами Кара, ШІ може відтворювати певні результати роботи мозку, використовуючи внутрішні механізми, яких біологічна система, ймовірно, не застосовує. Тобто схожі відповіді ще не доводять, що процеси, які до них призводять, також однакові. Чому це важливо для дослідження мозку Проблема виходить за межі розпізнавання зображень. Штучні нейронні мережі використовують для вивчення поведінки людей, розроблення експериментів і дослідження неврологічних та психологічних станів. Якщо моделі неправильно відображають біологічні механізми, їхнє застосування може призводити до хибних висновків. Зокрема, команда планує використовувати новий підхід у дослідженнях аутизму, де моделі типового розвитку мозку можуть слугувати базою для порівняння особливостей сприйняття та обробки інформації. Науковці не пропонують відмовлятися від штучних нейромереж. Натомість вони хочуть точніше визначати, які компоненти моделей справді відповідають активності мозку, а які лише імітують її зовнішні прояви. Для цього команда оприлюднила інструментарій, за допомогою якого інші дослідники зможуть перевіряти власні моделі. Роботу опубліковано в журналі Nature Machine Intelligence. Відкриття нагадує: для науки важливо не лише те, наскільки добре штучний інтелект виконує завдання, а й те, чи справді його внутрішні механізми допомагають зрозуміти роботу людського мозку.