Люди розповідають один одному історії вже тисячоліттями. Від казок до усних переказів, ці історії допомагають зрозуміти світ, попереджати про небезпеки, передавати традиції, навчати моралі та просто розважати.

Останнім часом розвиток генеративних моделей ШІ, які можуть створювати історії на основі запитів користувачів, виявив сліпі плями та упередження в тому, як деякі історії розповідаються.

Дослідники з Університету Вашингтона виявили, що ШІ не лише відтворює гендерні упередження в дитячих історіях про розмовляючих тварин, а й насправді погіршує ці упередження.

Дослідження показало, що жіночі персонажі тварин були "практично відсутні" в 2% історій, створених ШІ. Персонажі або описувалися як чоловічі (41% історій), або модель уникала визначення статі (57%).

Ці моделі, як правило, відображають дані, на яких вони були навчены, але в даному випадку упередження, здається, посилилися. Аналіз 300 популярних дитячих книг показав, що чоловічі персонажі тварин з'являлися вдвічі частіше, ніж жіночі.

Дослідники також помітили, що моделі ШІ використовують нейтральні займенники, щоб уникнути гендерних упереджень, але в результаті це призводить до фактичного зникнення жіночих персонажів.

Цікавий факт

Дослідження показало, що моделі ШІ створюють менш різноманітні та повторювані історії, що може вплинути на формування гендерних стереотипів у дітей.