De professionele gangsters die zich voordoen als Nigeriaanse prinsen (Linda Duits)

Deze post verscheen eerst op dieponderzoek.nl.

We doen vaak een beetje lacherig over de Nigeriaanse ‘prinsen’ die zo actief via e-mail zoeken naar iemand die ze met hun fortuin kunnen vertrouwen. Het is echter een lucratieve business, die moeilijk te bestrijden is en wiens winnaars zich gedragen als Amerikaanse gangsters – inclusief rapvideo’s met champagne, zo leert een artikel op Wired.

De truc is om onwetende westerlingen te scammen in het verzenden van geld. Eerder waren zulke mailtjes makkelijk te herkennen, bijvoorbeeld aan de spelfouten, maar phishing e-mails zijn de laatste jaren veel professioneler geworden. Als slachtoffers klikt op een link in de e-mail, wordt er malware op hun computer geïnstalleerd. De daders nemen hun tijd: ze verkennen de computers (accounts, wachtwoorden) soms wekenlang. Daarbij richten ze zich niet alleen op particulieren, maar ook op bedrijven. Ze kunnen e-mail doorsturen, legitieme facturen maken etc.

Een onderzoeker van Secureworks, die de scammers al jarenlang volgt, zegt tegen Wired:

“It’s malware and phishing combined with clever social engineering and account takeovers … They’re not very technically sophisticated, they can’t code, they don’t do a lot of automation, but their strengths are social engineering and creating agile scams. They spend months sifting through inboxes. They’re quiet and methodical.”

Hoewel de VS succesvol uitwisselingen heeft gedaan met Nigeria, is het moeilijk de scammers te bestrijden. Zij laten het ondertussen goed hangen. De scammers hebben de bijnaam Yahoo Boys omdat ze veel slachtoffers via Yahoo vinden. Die naam hebben ze omhelsd: zo spreekt zanger Olu Maintain zijn bewondering voor deze ‘levensstijl’ uit in het nummer ‘Yahooze’, met een clip waarin hij zich presenteert als een gangsta rapper.

Een andere veiligheidsdeskundige:

“These guys are more like a crew from the mafia back in the day … Once you’re in an organization and are initiated, then you have a new name that’s assigned to you. They’ve got their own music, their own language even. And there are pictures on social media where they’re flaunting what they’re doing. The whole idea is why invest hundreds of thousands of dollars to build your own malware when you can just convince someone to do something stupid?”

https://youtu.be/0Jh8tCns-Bg

Bericht uit de toekomst: Je kindertijd herbeleven omdat je moeder een early VR-adopter was (Linda Duits)

Deze post verscheen eerst op dieponderzoek.nl.

De beelden van mijn kindertijd zijn beperkt tot een paar filmpjes van mij als peuter en wat fotoalbums vol verslagen van vakanties en feesten. Voor jongeren geboren in de jaren ’90 is dat anders: hun ouders hebben dankzij de komst van digitale camera’s veel grote hoeveelheden materiaal, die ook nog eens alledaags is. Aan fotograferen en filmen zaten immers minder kosten verbonden. Kinderen die vanaf nu geboren kunnen mogelijk later hun kindertijd in virtual reality herbeleven.

Op Technology Review beschrijft redacteur Rachel Metz haar ervaringen met de Mirage Camera van Lenovo, een VR-camera van $300. De resultaten bekeek ze met de Lenovo Mirage Solo VR headset van $400. Daarmee is het betaalbare technologie voor ouders die net als Metz geobsedeerd zijn met het vastleggen van alle dingen die hun kroost doen. Ze schrijft:

“Looking at the images and videos I took was a blast, though. Seeing my daughter run up to her dad and hug him in my parents’ sunny backyard, with a 3-D effect and from the same vantage point at which I shot the video, felt almost like being there. Ditto for photos and videos of my niece and nephew horsing around, and some stills I got of my parents.”

Apparaten aangesloten op het internet der dingen zijn binnen 30 minuten te hacken (Linda Duits)

Deze post verscheen eerder op dieponderzoek.nl.

Slimme apparaten die je van afstand kan bedienen, zoals babymonitors, deurbellen en thermostaten zijn verbonden met het internet. Dit internet der dingen zorgt voor zorgen over veiligheid bij deskundigen. Ze blijken namelijk bijzonder makkelijk te hacken, zo laat bijvoorbeeld onderzoek van Israëlische informatici zien. Op TechRepublic verscheen een interview met de hoofdonderzoeker.

Ze onderzochten zestien apparaten en slaagden erin van veertien het wachtwoord te vinden. Dat ging zo

“What we did is we took these cameras apart in our lab and we looked for what is called a debug port. This is a connector, which developers and engineers use when they are building this camera to make sure it’s built properly. And because it’s very expensive to print out a new circuit board once you’re finished developing, all of these cameras actually had these debug ports still in the hardware. Once you connect to there, you have backstage access to the camera. Sometimes, there is a password you need to crack, so we had to do that.”

Het kraken van zulke wachtwoorden kost doorgaans een uurtje. Zodra je een apparaat hebt gekraakt, heb je toegang tot al zijn ‘broers en zussen’ overal ter wereld.

Een probleem is dat zulke apparaten vaak aangeschaft en geïnstalleerd worden en dat er daarna niet meer naar omgekeken wordt:

“And this means that you might be still using these devices after their manufacturer has gone out of business and nobody will ever issue firmware updates. You compare this to phones, where you find a vulnerability and the next week later, your phone restarts and voila, it’s patched. So, these devices are going to be here to stay and this means that probably consumers or network providers or something are going to be responsible for keeping these devices secure. This is very concerning based on what consumers have been able to demonstrate so far.”

Onderzoeksoverzicht nepnieuws: we weten en kunnen weinig (Linda Duits)

Deze post verscheen eerst op dieponderzoek.nl.

Op het beleidsforum van Science verscheen een artikel waarin beschikbare wetenschappelijke kennis over nepnieuws samen wordt gevat. Er wordt een definitie gegeven, ingegaan op de geschiedenis, op de prevalentie en op mogelijke interventies. Kanttekening is dat het stuk alleen over de VS gaat en dat dit zowel onbenoemd als ongeproblematiseerd blijft, zoals vaak het geval is met Amerikaanse sociale wetenschap.

Definitie:
De auteurs stellen het element van namaken centraal. Nepnieuws is verzonnen informatie die op nieuws moet lijken:

“[F]abricated information that mimics news media content in form but not in organizational process or intent. Fake-news outlets, in turn, lack the news media’s editorial norms and processes for ensuring the accuracy and credibility of information. Fake news overlaps with other information disorders, such as misinformation (false or misleading information) and disinformation (false information that is purposely spread to deceive people).”

Nepnieuws gedijt in de huidige politieke context van de VS, waarin er sprake is van polarisatie (toegenomen over de afgelopen veertig jaar) en homogene sociale netwerken.

Het lukt de onderzoekers niet om aan te geven hoe wijdverspreid nepnieuws is. Het is lastig te meten: volg je verhalen vanaf de aanbieder, vraag je mensen hoe vaak ze het tegenkomen of kijk je naar virale berichten op sociale netwerken? Wat vervolgens de politieke effect van blootstelling zijn, is ook lastig te zeggen.

Interventies
Interventies zijn in te delen in twee categorieën: gericht op het versterken van vaardigheden van individuen om nepnieuws te kunnen beoordelen en structurele veranderingen om blootstelling te voorkomen. Tot de eerste rekenen de auteurs factchecks. Die kunnen echter contraproductief zijn, vanwege mechanismen als confirmation bias. Ook zijn er aanwijzingen dat het herhalen van valse informatie, ook als dat in een factcheck gebeurt, ervoor kan zorgen dat de informatie als waar wordt aangenomen. Ook van onderwijs verwachten de auteurs weinig:

“There has been a proliferation of efforts to inject training of critical-information skills into primary and secondary schools … . However, it is uncertain whether such efforts improve assessments of information credibility or if any such effects will persist over time. An emphasis on fake news might also have the unintended consequence of reducing the perceived credibility of real-news outlets. There is a great need for rigorous program evaluation of different educational interventions.”

Tot de tweede categorie rekenen de auteurs algoritmen en bots. Zo kunnen bijvoorbeeld Facebook en Twitter zoeken naar verspreiders van nepnieuws en deze blokkeren, of een algoritme kan selecteren op ‘kwaliteit’. Netwerken hebben hier een ethische en sociale verantwoordelijkheid, zo stellen de auteurs, en overheidsregulatie of zelfregulatie is noodzakelijk. Directe regelgeving vanuit de overheid is onwenselijk want kan leiden tot censuur. Een mogelijk alternatief biedt de wet: zij die beschadigd worden met nepnieuws zouden verspreiders kunnen aanklagen voor smaad of laster.

We weten dus weinig over nepnieuws en we kunnen er nauwelijks iets aan doen. Bedankt Science!

YouTube’s aanbevelingsalgoritme is een radicaliseringsmachine (Linda Duits)

Deze post verscheen eerst op dieponderzoek.nl.

YouTube herbergt gigantisch veel informatie, en als je klaar bent met de video van keuze, krijg je allerlei gerelateerde video’s aanbevolen. Volgens techsocioloog Zeynep Tufekci werkt het algoritme dat die aanbevelingen voorschotelt als een “giant radicalizing engine“. Ze waarschuwt ervoor in The New York Times.

Van hardlopen naar ultramarathons
Tussen de aanbevolen video’s zit desinformatie, leugens en hoaxes. Als je autoplay aan hebt staan, krijg je de automatisch onder ogen. Het gaat vooral om extreemrechtse video’s, met veel racisme en veel seksisme. Een voorbeeld dat iemand op Twitter gaf:

“I just typed slavery into the youtube search and clicked on a video by an academic discussing the origins of plantation slavery in the New World.

The next video queued up to autoplay was a discussion of “white slavery” by two Holocaust deniers (Ernst Zündel & Michael Hoffman II).”

Het gaat echter niet alleen om politieke kwesties. Tufekci probeerde ook andere onderwerpen uit. Als je video’s kijkt over vegetarisme, krijg je daarna veganisme voorgeschoteld. Bekijk je iets over hardlopen, dan stelt YouTube daarna ultramarathons voor. Het probleem zit volgens haar in het verdienmodel:

“For all its lofty rhetoric, Google is an advertising broker, selling our attention to companies that will pay for it. The longer people stay on YouTube, the more money Google makes. What keeps people glued to YouTube? Its algorithm seems to have concluded that people are drawn to content that is more extreme than what they started with — or to incendiary content in general.”

Sensationalisme verkoopt
Het zelflerende systeem heeft dus ontdekt dat we langer blijven hangen als we steeds extremere dingen zien. Dit blijkt ook uit onderzoek van The Wall Street Journal, dat samen met een voormalig YouTube-medewerker aantoonde dat je na mainstream nieuws op YouTube vaak extreem-rechtse of extreem-linkse video’s aangeboden krijgt. Ook op dit platform geldt dus dat ophef regeert: het algoritme heeft een voorkeur voor opruiende content.

We zien dat de machine een eigenschap van mensen aanleert. Uitbuit, is het woord dat Tufekci kiest:

“What we are witnessing is the computational exploitation of a natural human desire: to look “behind the curtain,” to dig deeper into something that engages us. As we click and click, we are carried along by the exciting sensation of uncovering more secrets and deeper truths. YouTube leads viewers down a rabbit hole of extremism, while Google racks up the ad sales.”

Ze vergelijkt onze nieuwsgierigheid met onze zucht naar vet, zout en suiker. Beiden waren goed in tijden van schaarste, maar in tijden van overvloed zijn ze schadelijk. Als een restaurant ons steeds maar suiker en zout voorzet, wennen onze smaakpapillen eraan. We komen terug voor meer. Als we er dan achter komen dat het slecht voor ons was en we klagen bij de manager, zegt hij eenvoudig dat ons voorzette wat we wilden.

Oplossingen
Tufekci maakt zich grote zorgen. Ze haalt aan dat Google Chromebooks, waar uiteraard YouTube al op is geïnstalleerd, nu meer dan de helft van de “pre-college laptop education market” uitmaken. Ook in Nederland is YouTube vooral onder jongeren populair: 86 procent van de 15-19-jarigen gebruikt de site. Ze stelt dat het onacceptabel is wat het algoritme doet: Google verdient zo geld aan radicalisering waar de samenleving de prijs voor zal moeten betalen.

Concrete oplossingen draagt ze niet aan in dit opiniestuk. Op Twitter benadrukt ze nogmaals dat het probleem ligt bij het verdienmodel: Google gaat het algoritme echt niet zomaar aanpassen, omdat het zorgt voor geld in het laadje.

Het belang van het probleem dat Tufekci hier signaleert moet niet onderschat worden. YouTube is grotendeels ongereguleerd gebied, waar ontzettend veel duistere content dankzij dit algoritme een weg naar boven vindt. Het overlaten aan YouTube zelf levert niets op. Dat betekent dat we overheden om regels moeten vragen, die ze vervolgens ook zullen moeten handhaven – zie mijn bijdrage aan de Volkskrant voor een beter internet.

Wat doe je als hulpverlener/docent als je anoniem naaktfoto’s van pubers krijgt doorgestuurd? (Linda Duits)

Deze post verscheen eerst op dieponderzoek.nl.

Gisteren mocht ik een lezing geven tijdens de Sense Netwerkmiddag regio Utrecht. Het thema was ‘gepast of ongepast’ en in mijn lezing besteedde ik aandacht aan een aantal jongerenpraktijken die met seksualiteit te maken hebben: het delen van sexy selfies, sexting en sexy dansen. In de zaal zaten verschillende professionals die met jongeren werken, zoals jeugdwerkers en mensen die op scholen seksuele voorlichting geven.

Er ontstond een interessant gesprek over shame sexting, oftewel het ongewenst doorsturen van seksueel getint materiaal. Twee voorlichters gaven als voorbeeld uit de praktijk dat jongeren hen soms, maanden nadat ze op een bepaalde school zijn geweest, anoniem naaktfoto’s doorsturen. Het gaat dan om beelden die op een school gedeeld worden en waarvan de inzender wil dat dat stopt. Hij of zij wil echter niet aan de schoolleiding doorgeven dat het gebeurt, omdat de oorspronkelijke doorstuurder bijvoorbeeld een vriend is – en die ga je niet verraden.

De voorlichters vertelden dat jongeren hen vertrouwen. Ze weten in zulke situaties vaak niet wat ze moeten doen en vinden het moeilijk een docent aan te spreken. Dus zoeken ze maar contact met die aardige mensen die zo open over seks kwamen praten. Het laat dus zien dat er behoefte is aan een volwassene die ze vertrouwen.

Het bezit van naaktfoto’s van pubers is strafbaar. Dit brengt de geadresseerde dus in gevaar: het beeld dient direct verwijderd te worden. Tegelijkertijd is het noodzakelijk om het beeld te laten zien aan een docent of leidinggevende op de school, om zo te kunnen identificeren wie er op staat. De docent of leidinggevende mag het beeld uiteraard ook niet opslaan. De voorlichters gaven aan in gesprek te zijn met het Openbaar Ministerie hoe om te gaan met zulke zaken.

Het praktijkvoorbeeld laat zien hoe complex sexting is (zie ook dit stuk). Er is geen sprake van eenvoudige slachtoffer-dader-verhalen, waarbij de vrienden van de dader allemaal meegaande meelopers zijn. Het maakt ook duidelijk hoe lastig de positie van volwassenen is, en hoe de wet beperkend werkt. Hopelijk komen er in de toekomst vertrouwenspersonen bij scholen die hier goed mee om kunnen gaan, waar incidenten anoniem gemeld kunnen worden en waarbij er goede protocollen bestaan die de gevolgen van shame sexting kunnen beperken.

Over fairness, algoritmes en schoolinschrijvingen (gastblog van Jo Devriendt)

Door mijn post gisteren die ook op VRTNWS verscheen als opinie kreeg ik gisteren nog meer mails over het aanmeldingssysteem in Gent (en Antwerpen). Een van de mails was een zeer constructieve van Jo Devriendt, postdoctoraal onderzoeker aan de universiteit van Leuven. Ik vroeg hem of hij zijn mail en uitleg niet wou omvormen tot een gastpost. Bij deze:

De problematiek van de inschrijvingen in scholen is een moeilijke zaak. In Gent en Antwerpen probeert men momenteel een centraal inschrijvingssysteem uit te werken, waar (ouders van) kinderen hun favoriete scholen kunnen opgeven. Een computeralgoritme verdeelt dan op een faire manier de scholen, zodanig dat geen voordeel wordt gegeven aan rang, stand of bereidheid om voor de schoolpoort te kamperen. En idealiter is die verdeling optimaal: zoveel mogelijk mensen krijgen een eerste keuze school.

Bij dit laatste punt knelt helaas het schoentje: het huidig algoritme slaagt er niet in om voldoende mensen hun eerste keuze te geven. Bijvoorbeeld, momenteel is het mogelijk dat Sam school A als eerste keuze had, Saïd school B, maar Sam wordt toegewezen aan school B en Saïd aan school A. Sam en Saïd zouden natuurlijk graag wisselen, zodat ze beiden hun eerste keuze school krijgen.

In het vakjargon noemen we dit het “stabiel huwelijk”-principe*. Het feit dat het huidige algoritme niet aan het “stabiel huwelijk”-principe voldoet, wijst op een fundamentele tekortkoming. Er bestaan immers algoritmes die hier wel aan voldoen. Meer nog, er zijn jaren van onderzoek naar dit soort “toekenningsproblemen” gegaan, die krachtige computertechnieken hebben opgeleverd.

Natuurlijk, zelfs de beste algoritmes zullen niet iedereen tevreden kunnen stellen. Ook een onbevooroordeelde computer zal sommigen een eerste keuze toekennen en anderen niet, bijvoorbeeld wanneer teveel mensen dezelfde school als eerste keuze opgeven. De vraag die dan rijst is: hoe doe je dit fair?

Het antwoord in het huidige algoritme is loting. En dit is inderdaad een fair principe, dat daarenboven in bijna elk toekenningsalgoritme kan worden verwerkt. Immers, een toekenningsalgoritme loopt typisch in een bepaalde volgorde over de lange lijst van alle keuzes die door ouders ingegeven zijn. Die volgorde bepaalt of het nu Sophie of Jos is die de laatst overblijvende plaats voor een felbegeerde school krijgt. Door die volgorde te loten, of meer technisch, door een “random shuffle” op die volgorde toe te passen, worden de knopen op een faire manier doorgehakt.

Die loting mag wel niet op voorhand bekend zijn. Immers, dan kan iemand het algoritme analyseren, en -in theorie- op exact het juiste moment zijn keuzes aan de lijst toevoegen, zodat ze na de loting bovenaan komen te staan. Daarom baseert men de loting vaak op een afgesproken maar onbekende variabele, die men pas te weten kan komen na het opstellen van de keuzes. Bijvoorbeeld het winnend lottonummer van de week na de deadline voor het opgeven van de keuzes zou een goede onbekende variabele zijn. Op basis van dat lottonummer kan de volgorde van de lijst keuzes finaal geloot worden.

Technisch is het dus perfect mogelijk om een fair toekenningsalgoritme te bouwen dat meer mensen een eerste keuze geeft én nog steeds fair is. In het ideale geval wordt dit algoritme openbaar gemaakt zodat experts kunnen checken of er geen gaten in zitten, of zelfs verbeteringen kunnen voorstellen. Bij deze een warme oproep om die experts effectief te raadplegen. Als Leuven iets te ver ligt, dan zijn er ongetwijfeld ook academici in Gent die de handschoen willen opnemen 🙂

* en.wikipedia.org/wiki/Stable_marriage_problem

Drie bedenkingen bij nieuw sociaal netwerk Vero (Linda Duits)

Deze blogpost verscheen eerst op dieponderzoek.nl.

Vero is online voorpaginanieuws. ‘Uit het niets megapopulair’ (De Telegraaf) en ‘Instagram-alternatief bezwijkt onder stormloop’ (Bright.nl). Het sociale netwerk bestaat al een paar jaar, maar lijkt dus deze week door te breken dankzij aanbevelingen van een aantal celebs – niet alleen in Nederland maar wereldwijd.

Vero – zie het promofilmpje beneden – lijkt erg te hebben gekeken naar klachten over Facebook en Twitter. Daarom is je timeline gewoon chronologisch en niet het resultaat van een ondoorzichtig algoritme. Daarnaast deel je meteen bij het toevoegen van ieder contact mensen in als goede vriend, gewone vriend of kennis, waardoor je meer controle hebt over wie welke posts te zien krijgt. Dutch Cowboys somt nog een aantal voordelen op: het makkelijk delen van hoogwaardige content, nieuwe features zoals ‘collecties’ en geen advertenties.

Met dat laatste begonnen de meeste sociale netwerken, maar nadat ze groeiden verschenen er onvermijdelijk toch reclames. Vero wil uiteindelijk een betaalde dienst worden en zou zich dan aan hun belofte kunnen houden. Een slim idee, want ik betaal graag voor reclamevrije versies van de apps die ik dagelijks gebruik.

Het lijkt dus alsof Vero daadwerkelijk een antwoord is op de bezwaren die aan bestaande netwerken kleven. Toch bekroop me onmiddellijk de vraag welk probleem Vero nou oplost? Daarom drie bedenkingen:

1. De ellende van sociale netwerken zijn anonieme trollen en niet-anonieme eikels
Dit zit in de aard van het internet. Zo las ik vorige week een stuk over online pesten in 1999. Dat ging via gastboeken, de onbenoemde voorlopers van sociale netwerken. Uiteindelijk dringen de trollen en eikels overal door. Twitter is nu een brandhaard van online lastigvallen, terwijl dat aan het begin – ondanks de open structuur en de nadruk op contact met vreemden – niet zo was. Facebook is gestoeld op mensen die je al kent en posten onder eigen naam, maar dat weerhoudt mensen er niet van je berichten te sturen om je uit te schelden. Het ligt dus niet aan de infrastructuur, maar aan de aard van de mens. Vero gaat dat niet oplossen.

2. We gaan nieuwe netwerken gebruiken als ze nieuwe affordances bieden
Vero heeft eigenlijk geen mogelijkheden die bestaande sociale netwerken niet al hebben. Affordance is een concept dat we in de mediawetenschap gebruiken voor de perceptie van een functie van een app: wat kan je ermee. Zo brak Snapchat door dankzij de verdwijnende berichten en werd Instagram een hit dankzij filters. Vero heeft geen nieuwe affordances en daardoor laat het mij niets doen wat ik niet al doe. Nadat ik een profiel had aangemaakt, heb een kattenfilmpje gedeeld. Ik had namelijk geen idee wat anders te posten. Dit was ook het probleem van Mastodon, dat de rivaal van Twitter moest zijn. In plaats daarvan was er nauwelijks boeiende content en zaten we vooral op Twitter te praten over dat we niet wisten wat we op Mastodon moesten posten.

3. Centralisme is niet het antwoord
Wat Facebook zo irritant maakt is de alomtegenwoordigheid en de neiging alles te willen omvatten. Facebook wil het liefst dat je nergens anders bent. Dat megalomane vinden we vervelend. Vero wil ook dat je alles bij Vero doet: muziek delen, reistips uitwisselen, kletsen met je beste vrienden. Vero biedt dus geen nieuwe affordances, maar in plaats daarvan wil het combineren wat we elders doen. Maar waarom zouden we? Verhuizen is veel gedoe, en dat geldt ook online.

Onderzoek naar kunstmatige intelligentie kampt met zware replicatieproblemen (Linda Duits)

Deze post verscheen eerst op dieponderzoek.nl.

Het onderzoek naar kunstmatige intelligentie is booming. Onderzoekers willen graag laten zien wat ze machines allemaal kunnen leren, maar in hun haast sneuvelt een basiswaarde van wetenschappelijk onderzoek: herhaalbaarheid. Dat staat in een nieuwsbericht van Science. Sleutelresultaten uit eerdere studies kunnen niet gerepliceerd worden. Dat heeft verschillende, serieuze oorzaken die slecht onderkend worden. Bovendien is er sprake van perverse prikkels die replicatie in de weg staan.

Er is veel druk om snel te publiceren. Op arXiv, een site met voorpublicaties van artikelen in de exacte hoek, worden dagelijks papers gepubliceerd die nog niet gepeer-reviewed zijn. Er is wel een journal dat speciaal bedoeld is voor replicatiestudies binnen informatica, ReScience, maar alle replicaties die daar tot nu toe in zijn gepubliceerd waren positief. Herhaalstudies die niet lukken blijven dus onbekend, terwijl daar juist het probleem ligt.

Grootste obstakel in repliceren is het ontbreken van de broncode. Die wordt zelden meegepubliceerd. Daardoor is het bijvoorbeeld onduidelijk wat een algoritme nou precies doet. Er zijn verschillende redenen voor het ontbreken van zulke belangrijke details:

“The code might be a work in progress, owned by a company, or held tightly by a researcher eager to stay ahead of the competition. It might be dependent on other code, itself unpublished. Or it might be that the code is simply lost, on a crashed disk or stolen laptop—what Rougier calls the “my dog ate my program” problem.”

Zelfs als je wel de broncode kunt bemachtigen, betekent het niet dat je een kunstmatige intelligentie hetzelfde kunt laten doen als de oorspronkelijke onderzoekers. Het gaat immers om machines die leren, en leren is afhankelijk van wat je erin stopt. De ‘trainingsdata’ zijn dus relevant, niet alleen voor wat een machine precies kan leren maar ook voor hoe snel hij dat kan.

“[A computer scientist at McGill University] ran several of these “reinforcement learning” algorithms under different conditions and found wildly different results. For example, a virtual “half-cheetah”—a stick figure used in motion algorithms—could learn to sprint in one test but would flail around on the floor in another. Henderson says researchers should document more of these key details.”

Onderzoek is zelden ‘clean’: wat je ook bestudeert, je onderzoek is altijd het resultaat van bepaalde aannames en beslissingen waarvan de details zelden worden opgenomen in de onderzoeksverslagen. Oudere disciplines hebben vaak al een fase doorgemaakt waarin ze reflexief zijn geweest op methodes. Dat is noodzakelijk voor een discipline om serieus genomen te blijven worden. Juist omdat methode zo centraal staat in hoe machines leren leren, is het bizar dat onderzoekers hier niet het volle belang van inzien.

Hoe jongeren reageren op psychische nood van peers op sociale netwerken (Linda Duits)

Deze blogpost verscheen eerst op dieponderzoek.nl

De algemene gedachte is dat jongeren vooral positieve berichten op sociale netwerken zetten. Toch worden die sites ook gebruikt om aan te geven dat je het moeilijk hebt. Leeftijdsgenoten en vrienden zijn de eersten die zulke berichten over psychische nood zien, en voor interventiemethoden is het daarom zinnig om te weten hoe zij reageren op zulke berichten. Een recente studie [open access] stelt die vraag centraal.

De onderzoekers hielden diepte-interviews met 27 bachelorstudenten over berichten met psychische nood die ze zich herinnerden gezien te hebben. De interviewers werden vervolgens door twee onderzoekers thematisch geanalyseerd.

Het belangrijkste inzicht: mensen die een sterke band hebben met degene die zo’n bericht plaatst, reageren. Hoe goed je iemand kent was de belangrijkste overweging voor de respondenten. Die reactie stuurden ze via een privébericht of door te bellen.

Bij een minder sterke band, speelden verschillende voorwaarden een rol:

Waargenomen ernst
Als de nood zeer acuut lijkt, wordt er sneller hulp geboden. Het gaat dan bijvoorbeeld om een medisch noodgeval, zelfmoordoverwegingen, zelfverwonding en verkrachting. Een overweging daarbij is of ze spijt zouden hebben als ze dat niet zouden doen.

Consistentie in postingspatronen
De respondenten namen ook in overweging wat voor posts iemand verder plaatst. Als iemand vaak emotionele berichten online zet, wisten de respondenten niet hoe ze daarmee om moesten gaan. Dat werd vaker gezien als niet-serieus. Als iemand echter vaak negatieve berichten plaatst waarna er een stilte volgt, werd dat wel weer gezien als een teken van echte nood.

Doeltreffendheid 
Onzekerheid over het nut van reageren speelde ook een rol als de respondenten de persoon niet goed kenden. Als ze dachten dat reageren geen verschil zou maken, werd er minder snel actie ondernomen.

Wederkerigheid in het verleden
Als de persoon in nood de respondent vaak aandacht had gegeven op een sociaal netwerk, in de vorm van likes of comments, zou de respondent eerder reageren. Dit lijkt mij een afgeleide van nabijheid, maar de onderzoekers benoemen dit niet als zodanig.

Inleving in de poster of de geposte ervaring
Als de respondenten zich konden identificeren met het bericht, omdat ze zelf vergelijkbare dingen hadden meegemaakt of ze zich dat goed konden voorstellen, werd er sneller gereageerd.

Afkeer van aandachtszoekers
Als iemand gedacht wordt psychische nood te posten om aandacht te krijgen, was de kans kleiner dat er gereageerd werd.

Ideeën over andere omstanders
Als de respondenten het gevoel hadden dat er al andere mensen mee bezig waren, zouden ze minder snel reageren. Daarbij speelde ook een rol wat anderen van hen zouden denken. Ze wilden niet ongevoelig overkomen en dat weerhield hen soms van reageren.

Implicaties
Helaas bespreken de onderzoekers niet wat dit nu precies betekent voor hulpdiensten of andere instanties die werken aan interventiemethoden – ik denk daarbij ook aan scholen waarbij aan monitoring van sociale media wordt gedaan. Het artikel wordt besloten met een generieke conclusie (“[t]he results of this study can also serve as an important building block for future research into support seeking and providing on SNSs” – SNS staat voor Social Network Site). De vier aanbevelingen die worden gedaan zijn uitermate vaag:

“First, this research could help inform SNS policies and practices surrounding identifying, flagging, and moderating distressed posts, which are particularly difficult because certain posts calling for help may fall into the category of self-harm or other banned content. Second, research about the relevant factors motivating response could improve SNS algorithms for people’s personal feeds and ensure that people are seeing the posts in the proper context. Third, further parsing out response motivations could help SNSs design posting features that could facilitate help, as well as build in response features that could increase the likelihood of helping (e.g., separating distressed posts from the newsfeed, reminding responders of prior interactions and reciprocity, etc.). Lastly, while this study attempts to understand how people within the social media environment perceive their friends’ posts, identifying gaps in response and perception could prove helpful for others who are trying to successfully intervene, such as guidance counselors, teachers, and parents” (p. 9).

De opvallende afwezigen in dit lijstje zijn de peers waar het onderzoek om draaide. De taak voor praktijkprofessionals lijkt me het vertalen van deze inzichten naar een toolkit voor jongeren. Hoe bepaal je of iemand aandacht wil of echte nood heeft? Waarom ben je zo bang voor wat anderen van je reactie denken? Wat zou je zelf willen als je je rot voelde en je dat op sociale media zou aangeven? En niet te vergeten: wie kan een leerling of student inschakelen als hij/zij zelf niet durft of wil reageren, maar wel denkt dat er iets aan de hand is?

Wie met vragen zit over zelfdoding, kan terecht bij de Zelfmoordlijn op het gratis nummer 1813 en op de site www.zelfmoord1813.beIn Nederland is er ook een zelfmoordhulplijn 0900-0113 en bijbehorende website waar je ook terecht kan als je je zorgen maakt om iemand anders.