Obličej plný akné, vrásek a chybějící úsměv. Kazí nám AI smysl pro krásu a v čem nás diskriminuje?
Nedávno jsem potřebovala pro pracovní účely získat obrázek „krásné ženy“, ale s výsledky, kterých se mi dostávalo, jsem spokojená nebyla. Generativní modely, které vyrábějí obrazové výstupy, jsou relativně nové, ale těší se širokému zájmu a popularitě. Co umělé inteligenci připadá krásné a je to skutečně jiné oproti tomu, co připadá krásné lidem? A v čem je umělá inteligence stále diskriminační?
Vizuální zaujatosti umělé inteligence jsou dobře zdokumentovány. Na jeden takový narazila při ve svém projektu počítačová vědkyně, aktivistka a zakladatelka Algorithmic Justice League Joy Buolamwini. Už v roce 2018 zveřejnila výzkum nazvaný Gender Shades, který popisoval bias některých systémů na rozpoznávání obličeje. Systém nedokázal popsat tmavší odstíny pleti, rozeznat u takových obličejů pohlaví nebo je ani nepovažoval za obličej.
Výzkum pracoval s více než tisícem tváří a testoval tři systémy od společností IBM, Microsoft a Faceᐩᐩ. Z výzkumu vyplynulo, že největší potíže měly systémy především s jedním typem objektu – se ženami s tmavší pletí.
Průměr, do kterého se nezamilujete
