Toen op 27 juni de Britse Daily Mail op Facebook een video plaatste waarbij zwarte burgers woordenwisselingen hadden met bijvoorbeeld de politie, kregen de gebruikers van het platform een wel zeer aparte boodschap te lezen. Ze kregen namelijk de vraag of ze interesse hadden in “keep seeing videos about Primates,”.

Voor alle duidelijkheid, er was geen enkele primaat te zien in de video, maar de artificiële intelligentie maakte weinig onderscheid. De tool die deze fout maakte, is ondertussen uitgezet en in de NY Times verontschuldigt het bedrijf zich: “As we have said, while we have made improvements to our A.I., we know it’s not perfect, and we have more progress to make. We apologize to anyone who may have seen these offensive recommendations.”

Het is het zoveelste voorbeeld van foute en vaak racistische biases in artificiële software. De NY Times geven in hun artikel een overzicht van toepassingen van oa Google Photos. Zelf moest ik spontaan ook terugdenken aan de bot van Microsoft die op een korte tijd zeer racistisch werd.

Het is een belangrijke waarschuwing nu we steeds meer AI in onderwijs (willen) gebruiken…