Літературні редактори та рецензенти стикаються з величезною кількістю статей, створених штучним інтелектом, які важко виявити. Це викликає серйозні проблеми в науковій спільноті. Минулого літа науковий керівник Пітера Дегена звернувся до нього з незвичайною проблемою: одна з його статей отримувала занадто багато цитувань. Хоча стаття, опублікована в 2017 році, отримала кілька десятків цитувань за роки, тепер її почали цитувати кожні кілька днів, що поставило її серед найбільш цитованих робіт у кар’єрі Дегена. Деген, постдокторант у Центрі відтворювальної науки та синтезу досліджень в Цюріху, виявив, що статті, які цитували його роботу, мали схожий шаблон. Вони аналізували дані з дослідження Global Burden of Disease, але використовували ці дані для створення безкінечної кількості прогнозів. Дослідження, які аналізували дані про головний біль, виявили, що вони містять безліч помилок і спотворень. Проте вони не були настільки очевидно неправильними, як статті, створені штучним інтелектом у минулому, що ускладнювало їх фільтрацію. «Це величезне навантаження на систему рецензування, яка вже на межі», – сказав Деген. «Занадто багато статей публікується, а рецензентів недостатньо, і якщо LLM (великі мовні моделі) значно спростять масове виробництво статей, це призведе до критичної ситуації». Оптимісти вважають, що генеративний ШІ може прискорити наукові відкриття, але наразі ця технологія підриває один з основних стовпів наукових досліджень, затоплюючи редакторів і рецензентів безкінечною кількістю статей. Парадоксально, чим краще технологія, тим гірше стає криза. Протягом останнього десятиліття академічні видання борються з так званими «паперовими фабриками», які масово виробляють статті та продають авторські права. Це гра в кішки-мишки, де видавці закривають одну вразливість, а фабрики знаходять нову. Генеративний ШІ став благом для фабрик, допомагаючи їм обходити детектори плагіату, створюючи абсолютно нові тексти. Але тепер ШІ покращився до такої міри, що може виробляти переконливі статті майже оптом, що дозволяє відчайдушним академікам, які потребують публікацій, створювати свої власні статті. Результат – це потік наукового непотребу, який загрожує затопити публікації, рецензування, надання грантів та існуючу систему досліджень. Цікавий факт Дослідження показали, що вчені, які використовують ШІ, публікують в три рази більше статей і отримують майже в п’ять разів більше цитувань, ніж ті, хто не використовує ШІ.