Facebook excuseert zich voor zijn racistische artificiële intelligentie

Toen op 27 juni de Britse Daily Mail op Facebook een video plaatste waarbij zwarte burgers woordenwisselingen hadden met bijvoorbeeld de politie, kregen de gebruikers van het platform een wel zeer aparte boodschap te lezen. Ze kregen namelijk de vraag of ze interesse hadden in “keep seeing videos about Primates,”.

Voor alle duidelijkheid, er was geen enkele primaat te zien in de video, maar de artificiële intelligentie maakte weinig onderscheid. De tool die deze fout maakte, is ondertussen uitgezet en in de NY Times verontschuldigt het bedrijf zich: “As we have said, while we have made improvements to our A.I., we know it’s not perfect, and we have more progress to make. We apologize to anyone who may have seen these offensive recommendations.”

Het is het zoveelste voorbeeld van foute en vaak racistische biases in artificiële software. De NY Times geven in hun artikel een overzicht van toepassingen van oa Google Photos. Zelf moest ik spontaan ook terugdenken aan de bot van Microsoft die op een korte tijd zeer racistisch werd.

Het is een belangrijke waarschuwing nu we steeds meer AI in onderwijs (willen) gebruiken…

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google photo

Je reageert onder je Google account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s

Deze site gebruikt Akismet om spam te bestrijden. Ontdek hoe de data van je reactie verwerkt wordt.