Een jaar geleden publiceerde klokkenluider Sjarrel de Charon zijn boek De achterkant van Facebook, over zijn tijd als contentmoderator. Een maandje voordat mijn debuutroman De bubbel – een roman die zich afspeelt achter gesloten deuren bij een techstart-up – bij dezelfde uitgever Prometheus zou uitkomen.
Sjarrel beschreef hoe hij dagelijks duizenden posts, foto’s en video’s van racisme rondom zwarte pieten, zelfmoordpogingen, kinderporno en executies moest beoordelen. Een verschrikkelijke klus, en na ernstige psychische klachten stopte hij ermee.
Facebook kondigde vorige week aan dat het een speciale raad, The Oversight Board, instelt om beslissingen van opvolgers van Sjarrel te kunnen herroepen. Dit internationale comité van rechters, journalisten en wetenschappers, allen van zwaar kaliber, zet de vrijheid van meningsuiting en advertentie-inkomsten af tegen een moreel kompas.
Een belangrijke stap, want Facebook heeft moeite om van sociaal netwerk te evolueren tot een mondiaal platform met complexe ethische dilemma’s.
De vraag is of de nieuwe raad – een uithangbord van de crème de la crème – het platform onder de loep neemt, en bevraagt hoe het berichten selecteert en voorrang geeft. Onder toeziend oog zal er wellicht een beter algoritme tot stand kunnen komen, want vreemde ogen dwingen.
‘We hebben de adviesraad, verdere controle is niet nodig’
Bravo Facebook, dacht ik. Totdat ik me realiseerde dat dit een uitermate slimme zet is om overheidsbemoeienis en eigen verantwoordelijkheid te pareren. ‘We hebben de adviesraad, verdere controle is niet nodig’, hoor ik Zuck al roepen.
De Europese Commissie die commentaar heeft op valse advertenties van Trump? Nepadvertenties met bekende Nederlanders die bitcoin aanprijzen? ‘Tja. dan moet je bij de raad zijn’, zal Facebook opperen.
Een goede investering van $120 mln — want dat kost de raad voor de komende drie jaar — om zo de spotlight van gevoelige issues bij de raad neer te leggen en zelf de schaduw op te zoeken. Een kleine jaarlijkse fooi ten opzichte van de omzet van $70 mrd in 2019, om dit zelfgecreëerde probleem aan te pakken.
Het echte probleem van desinformatie — die de democratie al ernstig beschadigde dankzij de hulp van Cambridge Analytica tijdens de Amerikaanse verkiezingen en het Brexit-referendum — zal dit niet oplossen. Het is een slimme schijnoplossing, die voorbijgaat aan het opsporen van gecoördineerde manipulatietechnieken en de subtiele technieken die ten grondslag liggen aan desinformatie, zoals polarisatie, manipulatie, impersonatie en het inzetten van trollenfabrieken.
Met de raad koopt Facebook volop tijd om zijn gang te kunnen gaan. Net op tijd voor de Amerikaanse verkiezingen in de herfst van dit jaar, zodat Mark straks weer rustig kan slapen en zijn raad de zwartepiet krijgt.
Gepubliceerd in het Financieele Dagblad op 16 mei 2020