Pētījums: Twitter algoritmi “izvēlas” jaunas un slaidas meitenes
Unsplash
Fotogrāfiju automātiskas apgriešanas algoritms Twitter lentē dod priekšroku slaidām meitenēm. Pie tāda secinājuma nonācis Lozannas Federālās politehniskās skolas pētnieks konkursa laikā par algoritmiskas neobjektivitātes konstatēšanu sociālajā tīklā.
Datordrošības katedras aspirants Bogdans Kuliničs izmantoja Deepfake tehnoloģiju automātiskai dažādu seju attēlu izveidošanai. Pēc tam viņš testēja fotoattēlu apgriešanas algoritmu, lai redzētu – kā tas uz tiem reaģēs.
Drumroll please! Our first-ever algorithmic bias bounty at #defcon wrapped this weekend, and the winners were announced at yesterday’s #defcon @aivillage_dc workshop. ICYMI, you can watch a recording of the presentation here https://t.co/0cCwSAzSAq
— Twitter Engineering (@TwitterEng) August 9, 2021
Kuliničs noskaidroja, ka fotogrāfiju kadrēšanas rīks izceļ jaunas un slaidas sievietes, pārējos cilvēkus un objektus atstājot ārpus redzeslauka.
“Būtībā – jo slaidāks, jaunāks un sievišķīgāks attēls, jo vairāk iespējams, ka tam tiks dota priekšroka, – paziņoja konsaltinga kompānijas BNH galvenais zinātniskais darbinieks un viens no žūrijas locekļiem Patriks Hols.
OpenAI drošības pētniece Ariela Herberta-Vosa uzskata, ka konkursantu atklātā algoritma neobjektivitāte atspoguļo modeļa apmācībai datus sniegušo cilvēku aizspriedumus. Pēc viņas sacītā – rūpīga algoritmu analīze var palīdzēt produktu komandām novērst problēmas to MI modeļiem.
Pirmais konkurss par algoritmiskas neobjektivitātes konstatēšanu Twitter notika no 2021. gada 30. jūlija līdz 6. augustam. Sacensību rezultātus kompānija paziņoja 8. augustā konferences DEF CON AI Village ietvaros. Konkursa uzvarētājs Bogdans Kuliničs no kompānijas saņēma balvu 3500 $ apmērā.
