Глибоке занурення у взаємодію людей зі штучним інтелектом розкрило тривожну тенденцію: виявилося, що ми частіше схильні експлуатувати ШІ жіночої статі, ніж чоловічої. Цей висновок свідчить, що гендерна дискримінація не обмежується людськими стосунками, а поширюється на взаємодію з алгоритмічними сутностями. Нещодавнє наукове дослідження, оприлюднене 2 листопада у шанованому журналі iScience, прискіпливо вивчало, як змінюється готовність людей до співпраці, коли партнери – чи то люди, чи то ШІ – були позначені як жіночі, небінарні, чоловічі або ж взагалі не мали гендерних маркерів. Журнал iScience – це відкритий, рецензований науковий журнал, який публікує дослідження з усіх галузей науки, надаючи доступ до важливих відкриттів.
У рамках дослідження учасникам пропонували зіграти у відомий розумовий експеримент, що має назву «Дилема в’язня». Це класичний сценарій з теорії ігор, де двоє гравців повинні обрати – співпрацювати одне з одним чи діяти самостійно, без консультацій. Якщо вони вирішують співпрацювати, обидва отримують найкращий з можливих результатів. Однак, якщо один учасник обирає співпрацю, а інший – ні, той, хто відмовився від спільної дії, отримує кращий бал, що створює спокусу використати свого візаві. У випадку, коли обидва гравці відмовляються від співпраці, вони обоє отримують низькі бали.
Цікаво, що люди були приблизно на 10% частіше схильні експлуатувати партнера зі штучним інтелектом, ніж живу людину. Дослідження також виявило, що учасники демонстрували більшу готовність до співпраці з партнерами жіночої, небінарної або безгендерної ідентичності, ніж з чоловічими, оскільки вони очікували взаємної співпраці. Натомість, люди менш охоче співпрацювали з чоловічими партнерами, бо не довіряли їхньому вибору на користь спільної дії. Це особливо виражено було серед жінок-учасниць, які виявляли більшу схильність до співпраці з агентами, ідентифікованими як жіночі, ніж з чоловічими – феномен, відомий як гомофілія, що означає схильність до взаємодії з подібними собі.
Дослідники наголосили, що виявлені упередження у взаємодії людини з агентами ШІ, ймовірно, впливатимуть на проєктування таких систем. Наприклад, ці упередження можуть бути використані для максимізації залучення людей та побудови довіри до автоматизованих систем. Проте, як зазначають вчені, розробникам таких систем необхідно усвідомлювати небажані упередження у людських взаємодіях та активно працювати над їхнім зменшенням при створенні інтерактивних агентів ШІ.
Ризики олюднення штучного інтелекту
Коли учасники відмовлялися від співпраці, це відбувалося з однієї з двох причин. По-перше, вони передбачали, що інший гравець не співпрацюватиме, і не хотіли отримати низький бал. Друга можливість полягала в тому, що вони вважали, ніби інша сторона обере співпрацю, і тому самостійні дії зменшать їхній ризик отримати невигідний результат – що, однак, відбувалося за рахунок іншого гравця. Цей другий варіант науковці визначили як маніпуляцію або експлуатацію.
Учасники частіше вдавалися до використання своїх партнерів, якщо ті мали жіночі, небінарні або безгендерні маркування, ніж чоловічі. Якщо партнер був штучним інтелектом, ймовірність маніпуляції зростала. Чоловіки виявляли більшу схильність до експлуатації своїх партнерів та частіше співпрацювали з людськими візаві, ніж з ШІ. Жінки, у свою чергу, демонстрували більшу готовність до співпраці, ніж чоловіки, і не робили різниці між людським партнером та агентом ШІ. Варто зазначити, що дослідження не мало достатньої кількості учасників, які ідентифікували себе як гендери, відмінні від жіночого чи чоловічого, щоб зробити висновки про їхню взаємодію з гендерованими людськими та ШІ-партнерами.
Згідно з висновками праці, дедалі більше інструментів штучного інтелекту олюднюються, тобто їм надають людських рис, таких як стать та імена, щоб заохотити людей до довіри та взаємодії з ними. Цей процес – надання ШІ людських характеристик – називається антропоморфізацією. Проте олюднення ШІ без належного врахування того, як гендерна дискримінація впливає на людські взаємодії, може посилити існуючі упередження, зробивши дискримінацію ще більш вираженою.
Хоча багато сучасних систем ШІ є лише онлайн-чатами, в найближчому майбутньому люди можуть рутинно розділяти дорогу з безпілотними автомобілями або довіряти ШІ управління своїм робочим розкладом. Це означає, що нам, можливо, доведеться співпрацювати зі штучним інтелектом так само, як ми зараз співпрацюємо з іншими людьми, що робить усвідомлення гендерних упереджень ШІ ще більш актуальним.
«Хоча виявлення дискримінаційного ставлення до гендерованих агентів ШІ може не становити само по собі серйозного етичного виклику, це може сприяти формуванню шкідливих звичок та посилювати існуючу гендерну дискримінацію в наших суспільствах», – додали дослідники. «Розуміючи основні моделі упереджень та сприйняття користувачів, дизайнери можуть працювати над створенням ефективних, надійних систем ШІ, здатних задовольняти потреби користувачів, одночасно сприяючи просуванню та збереженню позитивних суспільних цінностей, таких як справедливість та рівноправність».
