Big Tech: ‘Doorgeven versus Uitgeven’

Al struinend door dilemma-land vonden we in de bladen NRC, FD, de Volkskrant en Vrij Nederland een groot aantal actuele artikelen over Big Tech.

• NRC 16 december 2020 De vijf redenen waarom Big Tech getemd wordt, Marc Hijink, Reinier Kist, Clara van de Wiel
• NRC 16 januari 2021, ‘Politiek moet eindelijk Big Tech mores leren’ door Marleen Stikker en Sander van der Waal (Waag Future lab technologie en samenleving).
• NRC 19 januari 2021, Zo worden Social Media weer van ons, door Wieland van Dijk en Wilfred Takken.
• FD, 21 januari 2021, ‘Biden moet partijen rondom Big Tech zien te verenigen’, door José van Dijk.
• FD, 21 januari 2021, ‘Koers Ali Baba springt weer omhoog na optreden Jack Ma’.
• NRC, 28 januari 2021, In Europa beschermen privacywetten tegen Big Tech, Ina Brouwer.
• FD, 30 januari 2021, Facebook legt toekomst Trump-accounts in handen toezichtsorgaan, Eva Schram.
• FD, 30 januari 2021, Wie bepaalt wat je mag zeggen?, Barbara Noordermeer.
• NRC 5 februari 2021, Baas omstreden platform Parler weg, Vincent Sondermeijer.
• FD, 6 februari 2021, Google gaat in Australië toch betalen voor nieuws.
• FD 6 februari 2021, TikTok -concurrent Kuaishou voor miljarden naar de beurs, Anouk Eigenraam, Lennart Zandbergen.
• FD 5 februari 2021, Facebook en Twitter doen niet aan factchecken bij verkiezingen, Hella Hueck, Stijn van Gils.
• FD 5 februari 2021, Vrijplaats Reddit voelt de druk van commercie en regulering, Pim Brasser.
• VK 6 februari 2021, WhatsInstaFace, Timo Nijssen.
• NRC 6 /7 februari 2021, Het kortwieken van Ant is begonnen, Eva Smal.
• Vrij Nederland 02, 2021, Francesca Bria: Data zijn politiek, Maaike Schoon.
• Vrij Nederland, 02,2021, Techreuzen en de toekomst van bankieren, Sjors Roeters.

Waarom is Big Tech ‘hot’?

1. Een aantal van bovenstaande publicaties zijn een reactie op de ‘de-activering of de-platformisering’ van Trump en extreemrechtse groeperingen: Donald Trump is de toegang ontzegd tot zijn Twitter en Facebook account. Platform Parler is uit de appstores van Google en Amazon verwijderd vanwege de filosofie van absolute vrijheid van meningsuiting. Daardoor werd het een toevluchtsoord voor uitingen van rechtsextremisten, haatzaaiers, racisten, en complotdenkers zoals de aanhangers van QAnon. Amazon heeft de hosting van Parler gestopt (veel Parler gebruikers zijn overgestapt naar Gab, een app vol neo-nazi’s en alt-right aanhanger; de baas van Parler, John Matze, is nu ontslagen). Ook Snapchat, Youtube, TikTok, en betalingsplatforms als Shopify hebben Trump verbannen.
2. De Chinese autoriteiten blokkeerden de miljardenbeursgang van fintechbedrijf Ant (onderdeel van Alibaba) en willen dit type bedrijven onderwerpen aan strengere kapitaalregels. Ook wil men afdwingen dat het bedrijf het monopolie op de data van klanten opgeeft (kredietgegevens van consumenten en winkeliers losknippen van de rest van het bedrijf en deze toegankelijk maken voor andere financiële instellingen). Dit zou dan gaan gelden voor alle fintechbedrijven.
3. Er zijn zorgen over beïnvloeding van de verkiezingen en over het feit dat de platforms weinig doen aan factchecken bij uitspraken van politici. En dat zij te weinig moderatoren hebben. (Bij Facebook zijn politieke uitspraken vrijgesteld van factchecks. Zuckerberg: ‘Zijn wij de scheidsrechters van de waarheid’?). In verschillende landen wordt bij verkiezingen gevreesd voor neppeilingen, nepprofielen die verbonden lijken aan een politieke partij, nepnieuws, valselijk online vertellen dat bepaalde stembureaus zijn gesloten, hackers die online stemmen onbetrouwbaar maken etc.
4. Filmpjesapp Kuaishou (gifjes maken, korte filmpjes en selfies die je kunt bewerken, aanbevelingen voor soortgelijke content als die van jezelf) ligt via de Chinese staatsomroep onder vuur vanwege illegale – en vulgaire en pornografisch getinte filmpjes. Trump probeerde TikTok vorig jaar in de VS te verbieden (tot nu toe zonder resultaat), bang dat gegevens van Amerikaanse gebruikers in handen komen van de Chinese autoriteiten.
5. Reddit, een digitale vrijplaats voor overwegend tieners en twintigers die zich stevig afzetten tegen commercie en regulering, was recent succesvol met rebellie. Leden van het Reddit-forum WallStreetBets kochten massaal aandelen GameStop, in een poging shortsellers, beleggers die speculeren op een koersdaling, te dwingen hun posities op te geven. Volgens de leden zijn de shortsellers, of zelfs heel Wallstreet, geldwolven. Door een koersstijging van ruim 400% moesten shortsellers hun posities van de hand doen tegen grote verliezen. Een balans vinden tussen strenger modereren (factchecken, tegengaan haatzaaien en discriminatie) en beperking van de vrijheid van meningsuiting is binnen de gebruikersgroep nog niet gevonden.

Wat speelt er?

1. Is de-platformisering om de Amerikaanse verkiezingsuitslag te beschermen een daad van corporate responsibility of een teken van corporate arrogance, een manier om te laten weten wie macht heeft over toelating van burgers of politici tot de publieke sfeer?
2. De samenleving heeft gefaald paal en perk te stellen aan de macht van platformbedrijven. Er is een democratisch tekort in het digitale domein. De samenleving heeft platformmarkten en monopolies laten ontstaan en hebben die niet ingeperkt met de juiste dosis regelgeving en handhaving. Zelfs China wil een nieuw beleid voor mededinging en maakt voorstellen gericht tegen de macht van de grote internetplatforms zoals Alibaba en tegen prijsmanipulatie.
3. De schaduwkanten van de social mediaplatforms voor de open samenleving zijn onder andere verkiezingsmanipulatie, polarisatie en radicalisering, smartphoneverslaving en surveillance (zie ook de Netflix-documentaire The Social Dilemma).
4. Sociale platforms brengen schade toe aan het publieke debat: er is steeds minder gedeelde realiteit waardoor het debat steeds moeilijker wordt. Omdat het businessmodel gebaseerd is op schaalgrootte is het voor Big Tech haast onmogelijk om effectief te modereren.
5. Sociale mediaplatforms, zoekmachines en browsers hebben belang bij de inhoudelijke boodschappen. Door sorteringsalgoritmen, advertenties en geautomatiseerde aanbevelingen bepalen de platforms in grote mate wat hun bezoekers en gebruikers te zien krijgen. Tevens treden zij sturend op door een limiet te stellen aan hoe vaak een bericht kan worden doorgestuurd of door aanpassen van de snelheid van verspreiding. Er ligt te veel macht bij Big Tech in hun (morele) oordelen over de inhoud van de boodschappen en de wijze en snelheid van opleggen van beperkingen (bijvoorbeeld instellen van een automatische filters voor hate-speech). Zij bepalen nu zelf of en wanneer een grens wordt overschreden. Het beschaafd houden van conversaties op platforms kan niet worden overgelaten aan technologie/AI en enkele multimiljardairs. Nuances tussen ironie, aanzetten tot geweld en aantonen van hate-speech vraagt om interpretatie van context en begrijpen van nuances.
6. Sociale media profiteren van sensationele content. Dat houdt mensen langer online, waardoor bedrijven meer advertentiegeld ophalen. Daarom geven algoritmes de voorkeur aan emotionerende berichten en maken mensen verslaafd aan ‘wat ze lekker vinden’. Er is sprake van een ‘rabbithole’ of ‘fabeltjesfuik’ vanwege het ontstaan van informatie-bubbels waar gebruikers moeilijk uitkomen. Daarnaast worden nepnieuws en complottheorieën te snel en te massaal verspreid.
7. Protocollen die dicteren hoe de (wereldwijd ruim 4,9 miljard) gebruikers zich online dienen te gedragen zijn er niet. Bedrijven die online actief zijn geven hun eigen interpretatie aan de vrijheid van meningsuiting. Big Tech kan zich tegenover bedrijven en burgers als politieagent gedragen. Onze maatschappij is afhankelijk geworden van grote bedrijven wier belangen niet altijd gelijk opgaan met die van het publiek. Daarnaast hebben we niet veel zicht op wat deze bedrijven achter de schermen doen en op basis waarvan ze bijvoorbeeld besluiten iemand van hun platform te verwijderen. Ook kan Big Tech andere concurrerende partijen zonder duidelijke opgave van redenen van hun platform verwijderen. Of informatie over hen verzamelen en zo mogelijk schade toebrengen.
8. De Amerikaanse handelscommissie FTC klaagde Facebook in december 2020 aan vanwege machtsmisbruik en stelt dat Facebook op ‘systematische’ wijze concurrenten heeft uitgeschakeld door deze over te nemen. Boetes uitdelen is kennelijk niet voldoende.
9. Onze toekomst wordt meer en meer vormgegeven door steeds dominantere techreuzen in bijna alle sectoren van de economie, met weinig tot geen democratische controle of inspraak. Door een verouderde opvatting van mededingingshandhaving is het lastig om de tech-nominatie aan te pakken. techneuten domineren vaak niet één specifieke sector van de economie. Zo ontsnappen ze aan de huidige regelgeving tegen monopolie-of oligopolieposities, die vooral focust op één industrie, zoals olie, banken of auto’s. Techreuzen domineren het proces van digitalisering zelf, en die spreidt zich uit over alle sectoren van de economie.

Initiële analyse

In dit essay doen we een poging tot analyse met behulp van de stappen van het Dilemma-to-Dialogue proces. De eerste stap daarvan is het bepalen van wat het dilemma is. Dat vraagt een flinke inspanning omdat in de meeste publicaties het kerndilemma niet duidelijk benoemt wordt. Bovendien is het in de geraadpleegde artikelen niet altijd duidelijk over welk type Big Tech bedrijven het nu precies gaat. Ook blijkt men alleen te schrijven over de negatieve aspecten van de platformen en adresseert de positieve kant van de platform-economie op geen enkele manier. En tenslotte valt het op dat er vaak meerdere problematieken rondom de platforms door elkaar lopen.

Onderstaand schema toont platformbedrijven die een rol spelen op het gebied van de sociale media. Maar Big Tech is veel breder. Denk aan bedrijven als IBM, HP, ASML, Tesla, Xiaomi, Intel, en Cisco.

Volgens Marijn Arets [1] zijn de belangrijkste positieve elementen van platformen:

• Zij reduceren de informatie asymmetrie en verlagen zoekkosten.
• Zij verlagen en verleggen transactiekosten door gebruik van data, algoritmes en kunstmatige intelligentie.
• Zij creëren een omgeving van vertrouwen door middel van reviews (over zowel aanbieder als opdrachtgever), verzekering en een sterk merk.
• Zij faciliteren transacties, prijsmechanismen en betaling (en leveren gemak en een optimale gebruikerservaring).
• Roeters voegt daar ten aanzien van Fintech-bedrijven aan toe: De toetreding van technologie in financiën is een zegen voor de ruim anderhalf miljard unbanked wereldwijd. Dat zijn mensen (vooral in Brazilië, Nigeria, India en andere landen in de Global South), die van het financiële systeem zijn buitengesloten doordat ze geen eigen bankrekening kunnen openen. Techbedrijven in de financiële sector maken de systemen efficiënter, goedkoper en toegankelijker en worden ook wel gezien als een effectief middel om armoede te bestrijden.

Arets laat ook zien dat in de discussie over platformen en overheid er niet één maar drie thema’s aandacht zouden moeten krijgen:

• Hoe kun je als overheid grip op platformen krijgen om de positieve effecten te versterken en de negatieve effecten de kop in te drukken?
• Hoe kunnen platformen bijdragen aan de doelstellingen van de overheid?
• Overheid als platform: Hoe kun je een betere overheid zijn en als overheid transactiekosten verlagen door je als platform te positioneren (zoals Estland doet)?

De problematiek rondom de platformen concentreert zich doorgaans op de volgende onderwerpen:

1. Privacy-vraagstukken en -schendingen
2. Schaduwkanten/schadelijke effecten van de werking van de platformen: De-platformisering (accounts verwijderen zonder opgaaf van redenen), verkiezingsmanipulatie, radicalisering, polarisatie, surveillance, beperkt gedeelde realiteit door misbruik te maken van menselijke biases, bepalen wat gebruikers wel/niet te zien krijgen, teveel sensationele content etc.
3. Monopolievorming (kartelvorming, misbruik van macht en marktpositie).
4. Belastingen (belastingontwijking, lidstaten van de EU die belastingen mislopen van de grote, meestal Amerikaanse, platformbedrijven).
5. Werkgelegenheid en arbeidsvoorwaarden (bijv slechte arbeidsomstandigheden voor externe of hulpkrachten).

Voor onze analyse van de social-media platforms concentreren wij ons op de problematieken 1 t/m 3. En beperken wij ons tot de situatie in de EU en de USA. Vanwege de sterk afwijkende wetgeving en waarden in China laten we de situatie daar buiten beschouwing.

Analyse met hulp van het Dilemma-to-Dialogue (D2D) proces [2]

Een dilemma bestaat uit twee elkaar uitsluitende proposities. Beide proposities hebben voor- en nadelen, maar kunnen niet zonder elkaar; zij vormen een polariteit. De vraag is of de proposities zodanig zijn te integreren dat beide proposities toch in ruime mate gehonoreerd worden. Dat vereist een dialoog tussen de ambassadeurs van de respectieve proposities, de stakeholders. Het vraagt betrokkenheid bij het dilemma, wederzijdse inzet, inzicht en creativiteit. Het resultaat, de reconciliatie/verzoening, levert ideaal gesproken voordeel op voor alle partijen, terwijl een keuze voor één van de twee proposities één van de twee partijen met lege handen achterlaat. Dat maakt de winst van de andere partij tot een Pyrrusoverwinning. Want een echt dilemma verdwijnt nooit!

Het D2D proces kent een aantal fasen en stappen. Wij beperken ons hier tot de 2^e fase van het proces: Integreren. Die bestaat uit vijf stappen:

1. Definiëren van het dilemma (dilemmahouder, proposities, dimensie/polariteit, stakeholders en hun belangen).
2. Oprekken (per propositie de voor- en nadelen voor de dilemmahouder aangeven)
3. In kaart brengen (dilemma-grid, de vijf extreme posities typeren, plotten van de posities van de belanghebbenden)
4. Reconciliëren/verzoenen van het dilemma (op creatieve wijze bedenken op welke wijze tot een win-win traject zou kunnen worden gekomen)
5. Actieplan maken (bepalen welke eerste stappen genomen kunnen worden op de weg naar wederzijdse winst).

Twee dilemmahouders

Platformen zien zichzelf vaak alleen als doorgeefluik en voelen zich niet verantwoordelijk voor de inhoud van boodschappen of meningen. De vraag is of de sociale media platforms niet (mede)verantwoordelijk moeten zijn voor de inhoud in juridische- of zelfs morele zin van wat er op hun platform omgaat. Dit is een dilemma voor de directie van de platformen maar nog meer voor de politiek, die geacht wordt het publieke belang, de belangen van de gebruikers (burgers/consumenten) te vertegenwoordigen en de democratische waarden van een open samenleving te behouden.

Hierna volgen dan ook twee analyses, vanuit het perspectief van:

1. De directie van een platform
2. De Overheid

We starten met de analyse vanuit het perspectief van de directie van een platform. Daarna volgt een analyse vanuit het perspectief van de wetgevende macht. Bij de verzoening van het dilemma worden zowel het perspectief van het platformbedrijf als het perspectief van burgers/gebruikers/overheid/maatschappij betrokken. De analyse is dus op het hoogste abstractieniveau en betreft de uitdaging van het reguleren en handhaven van een onlineplatform waarbij de gehele transactie plaatsvindt in het digitale domein. Je kunt stellen dat alleen internationale wetgeving en handhaving toereikend zal zijn om van buitenaf deze markt te controleren!

Analyse vanuit het perspectief van de directie van een platform

De dilemmahouder[3] is in deze analyse: de CEO van een platformbedrijf

Deze ervaart de druk van:

• Investeerders die naam, reputatie en beurskoers bedreigd zien.
• Gebruikers van zijn platform (twitteraars en andersoortige gebruikers) die geconfronteerd worden met valse- of schadelijke informatie.
• Advertentieklanten waarvan de boodschap of het product geassocieerd kan worden met die schadelijke informatie.
• Werknemers die vinden dat de eigen organisatie niet genoeg maatschappelijk verantwoord bezig is.
• De overheid, omdat gebruikers op zijn platform kunnen oproepen tot wetteloosheid en erger.
• Het grote publiek, dat de dominantie en macht van de grote platforms niet langer accepteert

Dat roept de vraag op: Is mijn bedrijf alleen een doorgeefluik van content (zonder inhoudelijke verantwoordelijkheid) of verantwoordelijk voor wat er verschijnt op mijn platform, zoals een uitgever?

Stap 1: Definieer het dilemma (tegengestelde proposities, dimensie en stakeholders)

Het dilemma:

Aan de ene kant wil ik volledig vrij zijn om door te geven wat ‘men’ op mijn platform zet (Propositie A).
Aan de andere kant wil ik zelf bepalen door wie en hoe mijn platform gebruikt wordt, omdat ik geen schadelijke activiteiten wil ondersteunen (zoals ook een uitgever bepaalt wat hij wel of niet wil uitgeven) (Propositie B).

In het kort: A. Doorgeven —- versus —- B. Uitgeven

Dimensie/polariteit

We checken of dit een echte polariteit is; twee proposities die elkaar lijken uit te sluiten. Dat is het geval als zij ontspruiten uit dezelfde basis-waarde. Ander gezegd: als zij onderdeel zijn van dezelfde dimensie. Die dimensie is hier ‘Vrijheid’ (van meningsuiting). De twee proposities wordt gekenmerkt door een verschil in ‘mate van vrijheid’  Bij A (doorgeven) is die absoluut, bij B (uitgeven) beperkt door wat gezien wordt als ‘schadelijke activiteit’.

Een kenmerk van een dilemma is ook dat als je een propositie verabsoluteert, extreem oprekt, dit tot een onhoudbare toestand leidt. Een pathologie. Absolute vrijheid van ‘doorgeven’ leidt tot een platform dat voornamelijk opruiende, criminele of onjuiste informatie spuit. Een informatie riool. Extreem gecontroleerd ‘uitgeven’ leidt tot het monddood maken van burgers en organisaties. George Orwell 1984. In beide gevallen leidt het tot het einde van het platform.

De Stakeholders

Voor propositie A (Doorgeven):

Voor propositie B (Uitgeven)

Stap 2: Oprekken (voor- en nadelen voor de CEO/directie)

Stap 3. Breng het dilemma in kaart (dilemma-grid: typeer de vijf extreme posities en plot de posities van de stakeholders)

Hieronder zijn de stakeholders opgenomen in een dilemma-grid met hun vermoedelijke posities. Om het plaatje niet overvol te maken zijn de posities van de gewone werknemer en de reguliere investeerders niet opgenomen. Hun positie binnen het krachtenveld is ook minder belangrijk voor het vinden van een reconciliatie. De overheid omvat de Trias Politica (uitvoerende-, rechterlijke- en wetgevende macht). Als stakeholder is de uitvoerende macht gekozen. Die lijkt de meest logische dialoogpartner voor de platformdirectie.

De gekozen posities zijn allicht voor discussie vatbaar, maar geven richting aan de reconciliatiedialoog.

Stap 4 en 5. Reconcilieer het dilemma (bedenk een reconciliatie en mogelijke initiatieven richting win-win)

De dilemmahouder moet de dilemma-dialoog op gang brengen. Doet hij dat niet, dan leidt dat tot steeds meer druk vanuit de maatschappij om zijn platformbedrijf op te breken (positie (1,1)). Zijn redenering zou dus kunnen zijn:

Alleen doorgeefluik zijn is onhoudbaar gezien de wereldwijde kritiek en de recente incidenten en levert op termijn alleen een ‘zelfvernietigende vrijheid’ op. Aan de andere kant: alleen de uitgeversrol invullen is niet te doen vanwege de miljarden nieuwe berichten per dag en de onduidelijke criteria voor (zelf)censuur en omdat niemand wil dat wij op de stoel van de wetgever gaan zitten (‘Integer tot op het (failliete) bot’). Met als conclusie:

Wij als Platformbedrijf doen aan (zelf)censuur cq moderatie van de content op ons platform op basis van onafhankelijk door de wetgever vastgestelde normatieve criteria. (Maar we hebben alle relevante stakeholders daarbij nodig).

Waar het gesprek te beginnen? Misschien bij de eigen kritische medewerkers? Hoe zien die een verzoening tussen de twee proposities? Wat kan er technisch en is organisatorisch mogelijk? En wat zouden de Duurzame investeerders willen zien?

Vervolgens met deze inzichten naar de Overheid enz. enz. Dus een exploratieve dialoog tussen de stakeholders die uitkristalliseert in een wettelijk vastgelegd uitvoerings- en controlekader.

De eindsituatie noemen we hier, het realiseren van:

Hoogwaardige technische- en bestuurlijke moderatie gebaseerd op en geborgd door wetgeving.

De weg daarnaartoe zou bij platformen met verlichte leiders in concreto het volgende kunnen inhouden:

• Wij dringen aan bij, in eerste instantie westerse overheden de EU, de USA, Canada en Australië, om te komen tot heldere uniforme en zoveel mogelijk internationale wetgeving, waarin de wensen en normen van de maatschappij zijn verwoord.
  (NB: ‘De wetgeving in de EU (Algemene Verordening Gegevensbescherming AVG uit 2018) is momenteel wezenlijk anders dan in de USA: Big Tech is bij de AVG geen doorgeefluik maar wel degelijk verantwoordelijk voor de manier waarop zij persoonsgegevens verwerken. Ze moeten kunnen aantonen dat ze de risico’s hebben afgewogen van materiële of immateriële schade voor personen, onder andere wanneer de persoonsgegevens worden verwerkt die ras of etnische afkomst bevatten, gegevens over gezondheid of seksueel gedrag. Zij zijn dus poortwachters van democratische waarden bij de boodschappen over personen die zij doorgeven. Iedere burger kan zelf een digitaal platform aanspreken om persoonsgegevens te verwijderen. Verwijderen van een account is nog iets anders dan verwijdering van zoekresultaten. Het gaat steeds bij het Europees Hof om de afweging tussen recht op privacy en vrijheid van meningsuiting. Bij verwijderen van een account kan de reden alleen zijn een ernstige schending van grondrechten en mensenrechten’.  (I. Brouwer,NRC)).

• Wij laten daarop vooruitlopend zelf onze goede intenties zien t.a.v. de uitgeversrol door onze governance aan te passen door bijv een onafhankelijke Oversight Board met onafhankelijke experts in te stellen, zoals Facebook recent heeft gedaan, die uitspraken doet over incidenten en geschillen, waaraan de directie zich moet houden. (NB Zullen deze experts echt onafhankelijk blijken te zijn?)
• Wij zijn bereid meer transparantie te geven en verantwoording af te leggen over de werking van onze systemen, algoritmen en ons handelen.

Analyse van het dilemma vanuit de positie van de Overheid

De dilemmahouder is in deze analyse de Overheid. Maar dat is te weinig specifiek. Wij zoeken naar ‘wie wakker ligt van het dilemma’ en wie de positie, macht, middelen en verantwoordelijkheid heeft om het probleem aan te pakken. De overheid omvat de trias politica: uitvoerende-, wetgevende-, en rechterlijke macht. Aangezien het om een wereld-brede uitdaging gaat is het logisch het probleem niet als Nederlands, maar in eerste instantie als probleem van de Europese Unie te zien (wereldwijde wetgeving lijkt nog ver weg). Onze meta-reconciliatie vereist een wettelijk kader, een onafhankelijke toezichthouder en hoogwaardige moderatie. Er zal vastgesteld moeten worden wat ‘schadelijk’ is. Dat zal wettelijk moeten worden vastgelegd. En t.a.v. de moderatie zal het hoe, door wie en wie betaalt bepaald moeten worden. Dit tot stand brengen zien wij als een verantwoordelijkheid van de Europese Commissie. De dilemmahouder is dus:

De voorzitter van de Europese Commissie

‘Brussel’ bevindt zich onder de druk van:

• Burgers/organisaties die het grondwettelijk recht van vrijheid van meningsuiting eisen.
• Burgers/organisaties die via het platform zich aangevallen of onheus bejegend voelen.
• De lidstaten van de EU, met eigen grondwetten, die t.a.v. dit dossier hun soevereiniteit claimen.
• Overheidsorganen (uitvoering, wetgeving en rechtsspraak) die de consequenties ondervinden van de werkwijze van de platformen.
• Adverteerders, die het platform nodig hebben als medium
• Adverteerders en andere organisaties die gebruik maken van de te kopen data sets
• (Potentiële) medewerkers van platformorganisaties

Brussel zit dus met de vraag: Beschouw ik deze grote platforms als simpele Doorgever van informatie of moet ik voor hen bepalen wat wel of niet kan/mag worden doorgegeven.

Stap 1: Definieer het dilemma (tegengestelde proposities, dimensie en stakeholders)

Het dilemma:

Aan de ene kant wil ik het in de grondwet vastgelegde principe van vrijheid van meningsuiting honoreren en handhaven – (Propositie A).
Aan de andere kant wil ik ervoor zorgen dat er geen schadelijke effecten zijn van dat wat geuit en gedaan wordt op de platforms (schending van grondrechten en mensenrechten, juridisch verboden dingen, aantasting openbare veiligheid) – (Propositie B)

In het kort: A. Door de Platformen vrijelijk laten doorgeven —- versus—- B. Door de Platformen gemodereerd/gecensureerd laten doorgeven.

Dimensie:

Ook voor deze dilemmahouder gaat het om de dimensie ‘Vrijheid‘, waarbij vastgesteld moet worden welke ‘mate van vrijheid’ mogelijk is zonder dat de democratische rechtsstaat ten onder gaat. Dat dit het geval is bij absolute vrijheid is duidelijk. Dat leidt tot bijvoorbeeld anarchisme. En bij absolute censuur tot een autocratie of dictatuur.

De Stakeholders:

Voor propositie A (Platformen vrijelijk laten doorgeven)

Voor propositie B (Platformen gemodereerd laten doorgeven)

Stap 2: Oprekken (voor- en nadelen voor Brussel)

Stap 3. Breng het dilemma in kaart (dilemma-grid: typeer de vijf extreme posities en plot de posities van de stakeholders)

Ook in dit diagram zijn de door ons gekozen posities voor discussie vatbaar. Maar wel wordt duidelijk hoe de reconciliatie dialoog zich zou kunnen ontwikkelen.

Stap 4 en 5. Reconcilieer het dilemma (bedenk een reconciliatie en mogelijke initiatieven richting win-win)

Door de Platformen als exponent van Propositie A te nemen en Brussel van Propositie B (als vormgever en bewaker van de democratische rechtsstaat), wordt het duidelijk dat een dialoog tussen Brussel en de Platformen onontkoombaar is.

De reconciliatie kan weer omschreven worden als

Hoogwaardige technische- en bestuurlijke moderatie gebaseerd op en geborgd door wetgeving.

De artikelen die wij aan het begin van deze analyse noemden geven al veel suggesties voor de (lange) weg naar deze eindsituatie. Wij zetten ze voor u op een rij:

Reconciliatie

• ‘Vrijheid in gebondenheid’ is de voor de hand liggende reconciliatie van het dilemma, maar de gebondenheid moet dan wel veel beter en concreter worden uitgewerkt voor het digitale domein. Een balans vinden tussen een ongereguleerde, cowboy-achtige situatie met grote risico’s voor consumenten, burgers en bedrijven en anderzijds voldoende vrijheid waarin bedrijven in een gelijk speelveld kunnen concurreren en innoveren. Overheden kunnen als dat goed gereguleerd is optreden als strenge marktmeester. Nu is het publieke belang en zijn democratische waarden (zeker in de USA) onvoldoende afgedekt bij de platformen. Aan de platformen moet meer duidelijkheid gegeven worden over de eisen en wensen van de maatschappij.
• De meeste regelgeving is gericht op verticale sectoren. De platformen definiëren zichzelf vaak als een aparte categorie waarmee een lagere regeldruk gepaard gaat (bijv Uber als ‘Transportation Network Company’ zodat ze niet onder vergunningsplicht vallen en geen minimumtarief kennen zoals bij gewone straattaxi’s). De regelgeving t.a.v. horizontale platforms (online bemiddelaars) is sterk achtergebleven. Sommigen beweren dat de platformen zelf kunnen groeien in hun rol als ‘private regulator’ door adequaat te modereren, maar anderen stellen dat je digitale oligarchen niet kunt toestaan zichzelf te reguleren. Daarvoor zijn we te afhankelijk van ze.
• De strategieën/beleidsopties voor de overheid zijn: Nieuwe wet-en regelgeving, strikte handhaving van bestaande regels, deregulering (bijv bij taxi-chauffeurs, adhoc-regulering om tot een gelijker speelveld te komen, en gedogen (geen interventies).

Reconciliatie-suggesties uit de artikelen:

Regulering

• De macht van Big Tech-platforms moet doorbroken worden. Big Tech opbreken in delen is echter zeer lastig en wellicht onnodig. Je zou moeten inzetten op herwinnen van de soevereiniteit op digitaal gebied. De EU wil de volgende problemen aanpakken:

• • Niemand controleert wat Youtube of Facebook mij voorschotelen. (De platforms moeten uitleggen hoe hun aanbevelings-algoritmen werken en ik moet als gebruiker de mogelijkheid hebben de aanbevelingen-optie uit te zetten. De gebruikers moeten kunnen zoeken naar de advertenties die ze hebben ontvangen en kunnen vaststellen wie ze heeft verstuurd, hoe vaak ze zijn getoond en hoe de doelgroep is geselecteerd).
  • Facebook en Google doen niet genoeg tegen oplichting, fraude en ‘hatespeech’. (Gebruikers moeten illegale inhoud kunnen melden. Platforms moeten illegale inhoud zo snel mogelijk verwijderen. Aanbieders van producten moeten hun contactgegevens achterlaten en platformen moeten die delen met handhavers. Platformen moeten jaarlijks risico-analyses maken).
  • Ik kan nu nergens terecht als mijn account wordt geblokkeerd (Er moeten onafhankelijke geschillencommissies komen per land die beslissen over het weghalen van content of een account).
  • De regels worden niet gehandhaafd en de boetes zijn te laag (De nationale toezichthouders moeten voldoende capaciteit hebben en de boetes moeten tot 6 a 10 procent van de jaaromzet van het platform kunnen oplopen).
  • Apple, Amazon en Google bevoordelen hun eigen producten en diensten. De platformen moeten oneerlijke concurrentie tegengaan (delen van data, toegankelijk maken van essentiële diensten voor derden, bijv betaaldiensten, en gebruikers de optie geven om voorgeinstalleerde software te verwijderen van hun telefoons).
• De Europese commissie zet hierop in met grote wetgevende trajecten: 1) Data Governance Act (DGA: reguleren van het delen van data tussen individuen en bedrijven, waarbij regels voor zowel persoonlijke data als andere type data worden vastgesteld. 2) Digital Services Act (DSA: Tech-bedrijven dwingen om transparanter te opereren en externe partijen, waaronder toezichthouders, meer toegang geven tot interne gegevens; en Big Tech-bedrijven dwingen meer te doen om illegale berichten en handel in illegale goederen tegen te gaan). 3) Digital Markets Act (DMA: de macht van grote platformen breken door hen te verbieden concurrentie tegen te werken. Google en Apple verplichten via openbare standaarden concurrentie in hun appstores makkelijker te maken. (In de USA wordt nu ook nagedacht over verbeterde wetgeving op deze terreinen).
  Voor de USA zou het Eerste Amendement uit de grondwet (waaronder de vrijheid van meningsuiting valt) moeten worden herzien. Inmiddels zijn er content- moderatoren actief bij de platforms, maar dit werk wordt uitbesteed aan derden en slecht betaald en de regeltjes die de moderatoren hanteren veranderen steeds.
• Bij nieuwe wetgeving zou je onderscheid moeten maken tussen enerzijds ‘de mogelijkheid bieden een boodschap de wereld in te sturen’ en anderzijds te ‘bepalen wie deze boodschap wel of niet te zien krijgt’.
• Werking van algoritmen reguleren en je bemoeien met zaken zoals vertragen retweets of autoplay uitschakelen, gaat waarschijnlijk te ver. Je moet wel afstand creëren tussen de overheid en de inhoudelijke keuzes van de platforms, en aandringen op transparantie en verantwoording. Je kunt bijvoorbeeld wel bepaalde vormen van tracking en persoonsgebonden advertenties verbieden.

Data (opvatting Bria)

• Data zijn politiek. Data zijn onmisbaar om te regeren. Hoe we met data omgaan is de kern van onze democratie. Data zijn een middel om problemen zoals het afnemende vertrouwen tussen staat en burger op te lossen.
• Zelfgebouwde technologie is nodig, waar privacy en veiligheid is ingebouwd, die gedecentraliseerd is, en waarbij de rechten van de data alleen bij de burgers zelf liggen, niet bij een overheid en niet bij een Sillicon Valley moloch. Encryptie is een mensenrecht.
• Toeleveranciers van steden (gas, water, electra, telecom ed) moeten , net zoals in Barcelona, gedwongen worden om de data die ze verzamelen over gebruikers, aan die gebruikers terug te geven. Burgers moeten weten waarop algoritmen selecteren en of ze discrimineren. bedrijven moeten verantwoording afleggen. Een juiste omgang met data is fundamenteel voor een goed functionerende maatschappij.

Rechtstaat en democratie

• De Governance van platforms moet goed uitgewerkt worden: eerlijke internetarchitectuur, afspraken over datastromen, transparante spelregels voor alle gebruikers etc.
• Verbeterde wetten moeten vervolgens wel gehandhaafd worden en waar nodig moet je tot vervolging overgaan, zodat vertrouwen in de rechtstaat niet wordt ondermijnd. Toezicht op de handhaving is nodig. En de Autoriteit Persoonsgegevens moet je in NL voldoende capaciteit geven, zodat rechtszaken niet in een stuwmeer van onbehandelde zaken belanden. Dit geldt ook als er een Europese autoriteit zou komen.
• Een onafhankelijke waakhond in het leven roepen, een Europese rechtbank, een ‘Content Court’. Drie soorten content moeten daarbij onderscheiden worden: 1) wat strafbaar is (kinderporno, terrorisme) 2) een grijs gebied: haatzaaien, opruiing en bedreiging, te beoordelen door de rechter en 3) uitingen die in strijd zijn met
• De gebruiksvoorwaarden van de diensten, te beoordelen door een geschillencommissie.
• Meer aan factchecking van desinformatie doen (Door wie? En wat is waar/onwaar? Welke criteria hanteren?).

 Over het Veranderingsproces

• Het vereist is een ‘multifocale bril’ om de governance van platforms en de verantwoordelijkheden goed te beleggen. De dialoog moet gezocht worden met alle relevante stakeholders en de verantwoordelijkheid moet gedragen worden door alle stakeholders samen: Platform-bedrijven (bazen en werknemers), overheden/wetgevers en toezichthouders, civil-society instituties en burgers (van links en rechts). Dit alles ondersteund door wetenschappelijk onderzoek.
• Visionaire politici zijn nodig die over grenzen heen kijken en geopolitieke belangen afwegen tegen multilaterale- en nationale belangen.
• Als EU moet je de platformbedrijven waarschuwen: ‘Werk samen met Brussel, of je raakt verstrikt in een lappendeken van nationale wetgeving van alle 27 EU-staten, die elk afzonderlijk grote haast hebben om daadkrachtig op te treden!’. (EU-commissaris Margrethe Verstager).
• In de EU is al AVG-wetgeving (in de USA nog niet) en er komt nog meer wetgeving aan. Nodig is goede informatie/voorlichting aan burgers/gebruikers/bedrijven over de Europese mogelijkheden. Je hebt ook goed ingevoerde rechters en advocaten nodig, een sterke toezichthouder en de mogelijkheid om te procederen. Dan kun je nu al de balans tussen vrijheid van meningsuiting en het respect voor ieder individu bewaken.

Digitale publieke domein

Er zijn ook zorgen over het publieke digitale domein. Door de Waag worden daarbij de volgende suggesties gedaan:

• Het digitale publieke domein moet je democratischer maken en minder uniform. Er wordt gewerkt aan open decentrale standaarden voor social media zodat er duizenden kleinere platforms kunnen ontstaan. Berichten die op een platform worden geplaatst kunnen ook op andere platformen worden getoond en ‘meegenomen worden’ naar andere apps en platformen (je bent niet ingesloten, maar controleert je eigen berichten; interoperabiliteit). Vele platformen kunnen gecreëerd worden die ieder decentraal zelf berichten modereren. Federatieve platformen voor een sportvereniging, een omroep, een politieke partij, een buurthuis etc. Deze organisaties stellen dan samen met de deelnemers zelf de regels op. Door de keuzemogelijkheid ontstaat pluriformiteit. De aanbieders moeten zich daarbij uiteraard aan de wet houden.
• In Nederland én Europa moet je investeren in het digitale publieke domein (moderatie, privacy, bescherming digitale identiteit). Publieke instellingen maken dan gebruik van de digitale publieke platformen en diensten en stellen publieke waarden centraal (bijv Coalitie Public Spaces werkt hieraan).
• De (Nederlandse) politiek moet middelen vrijspelen voor het opbouwen en onderhouden van een gezond digitaal publiek domein en daarbij voorwaarden scheppen (o.a. voldoende digitale kennis in Ministeries en in de Tweede kamer).
• Je kunt gezonde omgangsvormen op de platformen bevorderen o.a. door te investeren in lessen digitaal burgerschap(sgedrag) op scholen.

Wat leert ons deze Dilemma-to-Dialogue analyse (getriggerd door recente krantenartikelen) over de platformeconomie?

1. De analyse van dilemma’s rondom platformbedrijven in relatie tot de overheid moet op verschillende abstractieniveaus worden gemaakt en worden gespecificeerd naar type bedrijf en type problematiek. Je kunt niet alle Big Tech- en platform bedrijven over één kam scheren.
2. Dilemma’s (die de echte worstelpartijen en de tegengestelde visies en belangen laten zien) vormen een goed uitgangspunt voor analyse. Het krachtenveld, de belangen en behoeften van de verschillende stakeholders zijn snel in kaart te brengen. Ook wordt duidelijk dat creativiteit nodig is om tot een goede reconciliatie van de dilemma’s te komen is en dat een voortdurende dialoog met de relevante stakeholders nodig is (desnoods uit eigenbelang) om voortgang te boeken en tot concrete afspraken en wetgeving te komen.
3. Het zal niet eenvoudig zijn internationaal overeenstemming te verkrijgen over de regulering van deze nieuwe markten en bedrijven. Er zijn EU-wetgevingstrajecten in gang gezet om de platformen beter te reguleren. Hopelijk zullen die op niet al te lange termijn in werking treden. In het digitale domein zal er op basis van regelmatige evaluatie van de praktische werking van deze nieuwe wetgeving een continue inspanning nodig blijven zowel t.a.v. wetgeving, maar vooral ook t.a.v. de handhaving. De platformeconomie is groot en groeiend en verdient veel aandacht.
4. Er zijn reeds vele goede suggesties gedaan t.a.v. de verzoening van het dilemma ‘doorgeven versus uitgeven’.

Voor degenen die geïnteresseerd zijn en zich verder willen verdiepen in de problematiek van de platform-economie raden wij aan het boek van Martijn Arets, ‘Platformrevolutie’ te lezen. Wie meer wil lezen over dilemma’s en het Dilemma-to-Dialogueproces, zie ons boek ‘Dansen met dilemma’s – Op weg naar wederzijdse winst’.

 

[1] Arets M., 2020, Platformrevolutie, Management IMPACT/Boom Amsterdam. Martijn Arets is een internationale platform expert.

[2] Everts A.,Olthof S., 2018, dansen met dilemma’s, op weg naar wederzijdse winst, A&S.

[3] De dilemmahouder is de belangrijkste ‘stakeholder’. Het is hij of zij ‘die wakker ligt van het probleem’ en waarvan verwacht mag worden dat deze in de positie is om het probleem op te lossen en genoodzaakt is het aan te pakken.