Генеративний штучний інтелект (ШІ) може допомогти вченим виявити нові ліки, але також може переконати їх у тому, що біологічний ефект існує, коли насправді його немає.

Генеративний ШІ створює новий контент, вивчаючи загальні риси та зв'язки з існуючих прикладів.

Хоча ця технологія найкраще відома завдяки створенню тексту та зображень, дослідники вивчають її використання для дизайну білків, моделювання клітин, заповнення прогалин в експериментальних результатах та генерації синтетичних біологічних даних.

Але ці системи можуть мати галюцинації. У біологічних дослідженнях це може означати створення правдоподібно виглядаючого молекулярного шаблону або висновку, який не відображає справжню біологію.

Такі помилки можуть мати реальні наслідки. ШІ може відкинути кандидат на ліки, який міг би спрацювати, направити дослідників до неефективного лікування, приховати справжній біологічний ефект або змусити виглядати так, ніби було зроблено відкриття, яке насправді не існує.

Комп'ютерний біолог Томас Бургер з Університету Гренобль Альпи у Франції досліджує цю проблему в статті, опублікованій в Patterns.

Експерименти в галузі оміксів можуть генерувати величезні набори даних, що містять вимірювання генів, білків та інших молекул. ШІ може допомогти дослідникам зрозуміти цю величезну кількість інформації, але тонкі зміни, внесені в такі складні дані, можуть бути важко виявити.

Бургер пропонує, що ці застосування не несуть однакового рівня ризику. Ключова різниця полягає в тому, чи є вихідні дані ШІ ідеєю, яка буде перевірена в реальному експерименті, чи синтетичними даними, які використовуються безпосередньо як доказ.

"Я ніколи не думав про це раніше, але, мабуть, можливо, що галюцинації можуть призвести до справжніх відкриттів." – комп'ютерний біолог Томас Бургер

Скринінг потенційних ліків або білків є одним з порівняно менш ризикованих застосувань. Модель може швидко оцінити велику кількість кандидатів і вибрати меншу групу для лабораторних випробувань.

Якщо ШІ помиляється, дослідники можуть відкинути кандидата, який міг би спрацювати, або витратити час і гроші на дослідження того, що врешті-решт виявиться невдалим. Але обраний кандидат все ще повинен продемонструвати свої ефекти в реальному експерименті, перш ніж його приймуть як відкриття.

Небезпека зростає, коли дані, згенеровані ШІ, починають замінювати експериментальні вимірювання.

Синтетичні біологічні дані можуть допомогти заповнити відсутні вимірювання, захистити конфіденційність пацієнтів, створити групи для порівняння, знизити витрати на дослідження або зменшити кількість тварин, які використовуються в експериментах.

Але якщо ШІ вставляє ознаку, якої ніколи не було, вчені можуть повірити, що вони виявили біологічний ефект, який ніколи не відбувався. Система більше не просто робитиме неправильне передбачення про експеримент. Її вигадка увійде в докази, що підтримують наукову заяву.

"Часто проблема не в порівнянні галюцинації та справжнього біологічного відкриття пліч-о-пліч," – сказав Бургер.

"Це більше про те, що реальні дані були спотворені галюцинацією в процесі складного обчислювального (за допомогою генШІ) робочого процесу, що робить можливим перетворення сирих сигналів, отриманих за допомогою складних біотехнологій, на біологічно дійсні описи молекулярних механізмів."

Іншими словами, під час обробки справжніх даних ШІ може змінити сигнал так, що його важко виявити. Зміна може вплинути на висновки дослідників, не створюючи окремого, очевидно вигаданого відкриття.

Реальний приклад з'явився з AlphaFold 3. У статті 2024 року в Nature розробники AlphaFold 3 повідомили, що модель може генерувати "галюциновані структури" в неупорядкованих регіонах білків, хоча низькі оцінки впевненості можуть попередити дослідників про цю проблему.

Помилки ШІ можуть не завжди робити неіснуючий ефект реальним. Модель може, навпаки, додати настільки багато спотворень до даних, що дослідники не помітять справжнього ефекту, потенційно пропустивши докази того, що лікування насправді працює.

Бургер раніше не розглядав, чи може галюцинація ШІ призвести до справжнього відкриття.

"Я ніколи не думав про це раніше, але, мабуть, можливо, що галюцинації можуть призвести до справжніх відкриттів."

Він порівняв цю можливість з несподіваними відкриттями, що виникають внаслідок лабораторних помилок.

"Серендепітет давно визнано; чи походить він від галюцинації генШІ або будь-якої іншої помилки в лабораторії, не повинно мати значення в кінцевому підсумку, як з моральної точки зору, так і з очікуваного рівня перевірки."

Головне – це те, як дослідники використовують вихідні дані. Якщо їх сприймають як ідею для тестування, галюцинація може залишитися лише невдалою гіпотезою. Якщо їх сприймають як справжнє спостереження, переконлива вигадка може увійти в докази і бути помилково прийнята за біологічну реальність.

Навіть найцікавіший результат, запропонований ШІ, не є відкриттям, поки не буде незалежно перевірений у реальному експерименті.

Стаття була опублікована в Patterns.