Kiderült az egyik népszerű képszerkesztőről, hogy rasszista

Sokan használják a FaceApp nevű alkalmazást, mely mint kiderült, nem teljesen lojális az afroamerikai egyénekkel szemben. A készítők mentségére szolgáljon, hogy az applikáció neurális hálózatra épülő szűrőkkel dolgozik, tehát a képszerkesztéshez mesterséges intelligenciát használ. A hibáért a fejlesztő természetesen elnézést kért.

A FaceApp nem egy velejéig megkülönböztető alkalmazás, csupán az egyik szűrő bizonyult annak. A “Hotness” nevű filter a képen szereplő egyént teszi vonzóbbá. Fekete bőrű embereknél azzal a mellékhatással találkoztak többen is, hogy az arcukat kifehérítette, amin néhányan felháborodtak.

A fejlesztő bocsánatkérésében eképpen reagált:

Mélységesen sajnáljuk ezt a megkérdőjelezhetetlenül komoly problémát. Az alkalmazás mögött futó neurális hálózat sajnálatos mellékhatásáról van szó. Amit az algoritmus tréningezéséhez használt adatbázis okozott, nem szándékolt cselekedet.

A magyarázatában az állt, hogy az algoritmusokat – többek között a szóban forgót is – többnyire fehér bőrű embereken tesztelték, így nem volt tudomásuk a hibáról. A hibát természetesen megígérte, hogy kijavítják. A szűrő nevét azonnali hatállyal át is nevezték, amíg meg nem érkezik a végleges megoldás.

Forrás: Index

Szólj hozzá