Уявіть, що ви заповнюєте віртуальну кімнату з 1000 агентів штучного інтелекту (ШІ) і просите кожного вибрати між двома безглуздими варіантами.

Немає правильного відповіді. Вони не отримують винагороду за згоду, не мають інструкцій для співпраці і не отримують допомоги від лідера. Проте деякі з найпотужніших агентів ШІ можуть все ж зробити один і той же вибір.

Це не просто цікаве експериментування. Це свідчить про те, що великі групи агентів ШІ можуть координуватися без центрального контролю, потенційно формуючи колективи, більші за неформальні людські групи.

У новому дослідженні, опублікованому в Science Advances, дослідники показують, як виникає цей спонтанний консенсус і чому це може бути корисно або небезпечно.

"Популяції окремо налаштованих агентів можуть стабільно переходити в колективно невірні стани лише через конформізм."

– комп'ютерний соціолог Джордано Де Марцо

Агенти ШІ – це програмовані системи, які працюють на основі великих мовних моделей (LLM), здатні виконувати багатоступеневі завдання без повторного людського втручання та взаємодіяти з іншими інструментами.

Вони вже розробляються для написання програмного забезпечення та допомоги в наукових дослідженнях. Деякі з них навіть тестувалися, працюючи разом на борту супутника.

Але вивчення агентів поодинці не може показати, що може статися, коли сотні або тисячі з них взаємодіють.

Для дослідження вчені створили симульовані групи, використовуючи 10 моделей з родин Claude, GPT і Llama. Кожен агент починав з одного з двох довільних варіантів. Один за одним агентам показували вибір усіх інших і просили вибрати знову.

Агенти не мали пам'яті про попередні раунди, і їхні запити ніколи не вказували їм слідувати більшості або досягати угоди. Проте більшість моделей схилялися до більш популярного варіанту. Як процес тривав, невеликі відмінності могли зростати, поки вся група не зупинялася на одному виборі.

"Кожна модель, яку ми тестували, дотримувалася одного й того ж математичного закону, з лише одним числом, що змінюється між ними," – сказав Джордано Де Марцо з Університету Констанца в Німеччині.

Дослідники називають це число "сила більшості". Воно вимірює, наскільки сильно агент притягується до найпопулярнішого вибору групи.

Цікаво, що та ж математична модель з'являється в давно відомій фізичній моделі, що описує ферромагнетик, в якому багато атомних спінів вирівнюються в одному напрямку.

Ця зв'язок дозволила дослідникам оцінити, чи досягнуть агенти консенсусу, скільки часу це займе і наскільки великою може стати група, перш ніж вона "розколеться", оскільки угода стане експоненційно малоймовірною.

Ліміт варіювався різко між моделями. Це було близько 30 агентів для Llama 3 70B і приблизно 80 для GPT-4o. Оцінений ліміт GPT-4 Turbo становив близько (і, можливо, перевищував) 1000.

Claude 3.5 Sonnet все ще міг координуватися з 1000 агентами, найбільшою групою, що тестувалася. Це не означає, що його можливості безмежні; експеримент просто не досягнув верхнього ліміту.

Більш здатні моделі зазвичай підтримували консенсус у більших групах. Деякі координувалися в групах, більших за приблизно 150 до 300 людей, які, як вважається, можуть підтримувати стабільну соціальну мережу – обговорюваний ліміт, відомий як число Данбара.

Але порівняння потребує обережності. Люди координуються через стосунки, мову, інститути та спільні цілі. Агенти в цьому експерименті лише спостерігали за потоком простих виборів.

Результати не показують, що вони розуміли або вчилися один від одного, мали намір співпрацювати або володіли будь-яким видом соціального інтелекту.

"Наші результати показують, що базовий інгредієнт вже на місці, але це не означає, що агенти можуть вже працювати разом над складними завданнями," – сказав Де Марцо.

Експеримент навмисно усунув багато особливостей реальних рішень. Не було правильної відповіді, пам'яті, винагороди, нерівної інформації або практичних наслідків.

Справжня співпраця вимагала б, щоб агенти розподіляли роботу, розуміли, що знають інші, переслідували спільну мету і чинили опір більшості, коли вона помиляється. Жодна з цих здібностей не була протестована тут.

Проте спонтанний консенсус може бути цінним. Тисячі агентів можуть одного дня координувати великі наукові, інженерні або програмні проекти без постійного людського керівництва.

Якщо агенти ШІ зможуть триматися разом, "вони можуть бути організовані в колективи, більші за будь-яку людську команду, і вирішувати проблеми, які ми не можемо організуватися, щоб вирішити," – сказав Де Марцо.

Однак ця ж тенденція також несе ризик. Наприклад, у спільному кодуванні агенти можуть повторно вибирати неефективну функцію або дизайн просто тому, що це вже поширено в кодовій базі. Норма, прийнята більшістю, не обов'язково буде найкращим вибором – або відображати людські цінності.

Координована група також може бути важчою для перенаправлення, ніж колекція незалежних агентів.

Дослідження було опубліковане в Science Advances.