Deze post verscheen eerst op dieponderzoek.nl.

Weet je nog, dat mensen een verschil zagen tussen cyberspace en ‘de echte wereld’? Tegenwoordig zijn on- en offline zo met elkaar verweven dat het nauwelijks meer mogelijk is aan te geven hoeveel tijd je online doorbrengt. Dat overlopen van die twee werelden wordt ook bespoedigd door technologieën als augmented en virtual reality (VR), en door de toenemende inzet van spraakcomputers. Het Rathenau Instituut, dat onderzoek doet naar de impact van wetenschap, innovatie en technologie op de samenleving, stelde daarom een manifest op met tien “ontwerpeisen aan de digitale samenleving van morgen”.

AR, VR en spraak zijn zogeheten ‘immersieve technologieën’: ze dompelen ons onder in de digitale wereld. Het Rathenau in het manifest:

“Zo transporteert virtual reality ons naar een volledig kunstmatige wereld, waarin alle geluiden en beelden gecreëerd worden door computers. We kunnen nu soldaten trainen op een virtueel slagveld. Augmented reality voegt juist digitale lagen aan onze ervaring toe. Met een slimme bril ziet een automonteur handige informatie terwijl hij naar de motor kijkt. En via spraaktechnologie kunnen we met computers praten, en luisteren vele apparaten, zoals onze smartphones en slimme speakers, op steeds meer plekken met ons mee.”

Door het vervagen van die grenzen zijn volgens het Rathenau publieke waarden in het geding, zoals privacy, autonomie, waarachtigheid en gezondheid. Dat vraagt om waakzaamheid en een agenda. De ontwerpeisen zijn opgesteld op basis van diverse onderzoeken.

1. We willen de baas blijven over ons digitale lijf
Onze stem, onze gebaren en ons gezicht leveren data op, die intiem en gevoelig zijn. De bescherming daarvan dient juridisch beter geregeld te zijn.

2. We willen anoniem kunnen blijven
Onze identiteiten kunnen van afstand achterhaald worden door gezichts-, loopgedrag- of stemherkenning. Hierdoor kun je je niet meer anoniem door de publieke ruimte begeven. Toepassingen waarbij burgers in de publieke ruimte zijn te identificeren, moeten daarom worden verboden.

3. We willen controle over onze virtuele identiteit
Zoals je met kleding kunt laten zien wie je bent, kun je met avatars een digitale identiteit opbouwen. Dat kan ook misbruikt worden: het naakte lichaam van anderen kan digitaal getoond worden (DeepNudes) of veranderd. Burgers moeten beschermd worden tegen ongewenste digitale ingrepen op hun lichaam.

4. We willen duidelijkheid over nieuwe digitale eigendomskwesties
Van wie zijn data? En profielen? “Is ons eigendom geschonden als iemand in AR een scheldwoord op onze muur schildert?” Juridische kaders moeten verhelderd en geüpdatet worden, zodat offline regels ook online gelden.

5. We willen leven in een inclusieve digitale wereld
Stereotypes en uitsluiting worden uit de offline-wereld mee online genomen. Bij de ontwikkeling van nieuwe toepassingen moeten bedrijven inclusie centraal stellen.

6. We willen kunnen weten dat iets nep is
Immersieve technologieën kunnen verwarrend zijn. Ontwikkelaars moeten gebruikers vooraf informeren dat iets nep is.

7. We willen bescherming tegen manipulatie en beïnvloeding
Deze technologieën maken manipulatie en beïnvloeding makkelijker, omdat bedrijven zoals Google en Facebook allerlei informatie hebben over persoonlijkheid, gedrag en voorkeuren van hun gebruikers. Dat vraagt om “een samenlevingsbrede inzet nodig, met bijdragen van onafhankelijke journalistiek, investeringen in de mediavaardigheid van burgers en heldere afspraken over hoever beïnvloeding mag gaan”.

8. We willen dat onze gezondheid niet geschaad wordt
We moeten inzicht krijgen in mogelijk negatieve effecten van immersieve technologieën, bijvoorbeeld op ons gedrag (verslaving) en onze gezondheid (denk aan verkeersongelukken bij het spelen van Pokémon GO).

9. We willen een digitale markt met eerlijke machtsverhoudingen
Een klein aantal technologiebedrijven domineert de interneteconomie. Het is voor consumenten lastig om hen tot de orde te roepen. Hun marktmacht vertaalt zich in politieke macht. De overheid moet meer tegenwicht bieden en consumenten beter beschermen.

10. We willen dat publieke ruimtes publiek blijven
Met AR kan je de publieke ruimte anders bekijken (er bestaan apps die daklozen uit het straatbeeld halen). Bovendien kunnen apps de publieke ruimte kapen doordat gebruikers massaal naar één plek samenstromen. Dat vraagt om “een nieuwe sociale etiquette”.

Implicaties
Deze nieuwe technologieën vragen om discussie en dialoog, en uiteindelijk om duidelijke actie. Daarvoor is betrokkenheid van burgers nodig: kennis over en reflectie op deze ontwikkelingen. Het Rathenau doet daarom een oproep aan de burger: “laat je horen en spreek uit wat jij nodig hebt in de digitale wereld van morgen”. Ik zou daaraan toe willen voegen dat dit niet kan zonder hulp van journalisten en andere mediamakers om deze thematiek onder de aandacht te brengen. Ook het onderwijs en andere opvoeders zijn hierbij nodig. De tien eisen zijn uitstekende input voor discussie.