In een wereld vol schaduwprofielen kan een individu zijn privacy niet beschermen (Linda Duits)

Deze post verscheen eerst op dieponderzoek.nl. Joepie, Linda blogt weer!

Een verstandige internetgebruikers is voorzichtig online. Je zet je browser op privé of incognito, je laat geen gevoelige gegevens achter en je hebt al helemaal geen Facebook. Dat was ooit allemaal goed advies, maar is inmiddels achterhaald. Omdat andere mensen wél hun gegevens online ten grabbel gooien, kunnen algoritmes en netwerken ook informatie over jou achterhalen. “There is no longer such a thing as individually ‘opting out’ of our privacy-compromised world” betoogt socioloog Zeynep Tufekci in een opinieartikel voor The New York Times.

Zelfs als je nooit een statement hebt gepost als ik ‘ik voel een beetje down’, kan een algoritme voorspellen welke gebruikers van – bijvoorbeeld – Instagram depri zijn. Dat doen ze op basis van enorme datasets. Dat betekent dat gegevens over geestelijke gezondheid beschikbaar zijn “to anyone with the right computational power”, schrijft Tufekci.

“Such tools are already being marketed for use in hiring employees, for detecting shoppers’ moods and predicting criminal behavior. Unless they are properly regulated, in the near future we could be hired, fired, granted or denied insurance, accepted to or rejected from college, rented housing and extended or denied credit based on facts that are inferred about us.”

Het angstige daarbij is niet alleen dat deze data en profielen er zijn, maar ook dat algoritmen het niet altijd juist hebben. Waar kan je terecht als je een baan niet krijgt op basis van onjuiste gevolgtrekkingen van een machine?

Ook als je van sociale netwerken wegblijft, word je door ze gevolgd. Je telefoonnummer is bijvoorbeeld een uniek cijfer waarmee jij te herkennen bent. Als je vrienden toestemming geven aan een sociaal netwerk om hun contacten uit te lezen, heeft Facebook je nummer. Over schaduwprofielen:

“Once your number surfaces in a few uploads, Facebook can place you in a social network, which helps it infer things about you since we tend to resemble the people in our social set. (Facebook even keeps ‘shadow’ profiles of nonusers and deploys ‘tracking pixels’ situated all over the web — not just on Facebook — that transmit information about your behavior to the company.)”

Een Amerikaanse parlementaire commissie ontdekte vorig jaar dat telefoonaanbieders realtime locatiedata van hun gebruikers verkochten. Ook allerlei apps doen dat, zoals de Weather Channel. Locatiedata vertellen veel over een persoon en kunnen tegen je gebruikt worden. Tufekci geeft hier het voorbeeld van een kankerkliniek.

Als individu kun je hier weinig aan doen. Het is zaak dat er wetten komen:

“Designing phones and other devices to be more privacy-protected would be start, and government regulation of the collection and flow of data would help slow things down. But this is not the complete solution. We also need to start passing laws that directly regulate the use of computational inference: What will we allow to be inferred, and under what conditions, and subject to what kinds of accountability, disclosure, controls and penalties for misuse?”

Waar is de evidentie? Over getuigenissen en autoriteit.

Onlangs zag ik een lezing van een buitenlandse professor die een uur lang pleitte voor meer gebruik van evidentie in onderwijs, maar er was een opvallende manco in haar presentatie. Ze beweerde zeer veel zaken, waarvoor ze echt zelf… geen enkele evidentie aanvoerde.

De presentatie deed me denken aan het boek ‘When can you trust the experts’ van Daniel Willingham dat ik hertaalde naar het Nederlands. Daarin schuift Willingham onder andere de volgende twee belangrijke tips naar voor:

  • Autoriteit is een zwak argument. Het kan je misschien verbazen, maar wetenschappers zijn ook maar mensen, die soms ook gewoon een mening hebben die niet noodzakelijk onderbouwd is. In Juffen zijn Toffer dan Meesters hebben we zo een hele case beschreven (met bronnen) van een Britse professor die ook herhaaldelijk claims deed, wat bij andere wetenschappers leidde tot de vraag ‘where is the evidence’. Zelfs een uitspraak als ‘John Hattie zegt…’ mag je niet ontslaan van kritisch denken.
  • Je negeert beter getuigenissen als deze als aanbeveling gebruikt worden. In de presentatie die ik bijwoonde, zat dan wel geen enkele referentie, er waren wel getuigenissen: mensen die hun mening gaven over een bepaald product. Je mag mijn inziens het vergelijken met dit:

Het is misschien een beetje te straf gesteld, maar als bijvoorbeeld Bill Clinton een bepaald persoonlijkheidsmodel aanprijst, dan is dat evenveel waard als je buurman die dat model zou aanprijzen, gesteld dat die man net zoals Bill geen psycholoog is.

Voor de evidentie achter de voorbeelden, verwijs ik graag naar het meest recente mytheboek waarin we onder andere het model dat Bill Clinton aanprees uitgespit hebben, net als de case van prof. Greenfield en in het laatste hoofdstuk uitleggen waarom ‘Hattie zegt dat…’ soms ook fout kan lopen.