Wargames: een dilemma voor Silicon Valley?

Zie wat het Financieel Dagblad over de Wargames in Silicon Valley schreef (FD Weekend, zaterdag 9 juni 2018, Morgen – pagina 2.  Jim Stolze) en hoe wij dit dilemma met behulp van Dilemma-to-Dialogues verder analyseren.

Een brief aan Sundar Pichai, baas van Google, ondertekend door duizenden medewerkers deed Google besluiten om het Project Maven stop te zetten. Het project betrof de samenwerking met defensie voor de ontwikkeling van technologie waarmee beelden die drones maken van mensen en gebouwen automatisch herkend kunnen worden. De technologie speelt o.a. een rol bij het op afstand liquideren van tegenstanders, zoals al enige tijd in Afghanistan gebeurt. Z.g.  Wargames. Eerder kreeg Amazon kritiek voor het leveren van gezichtsherkenningssoftware aan politiediensten. Google en Amazon, de ‘groten’ van Silicon Valley bewegen zich in een eeuwenoud spanningsveld. Ze richten zich op technologische ontwikkeling die zowel een ‘kwade’ als een ‘goede’ toepassing kent. Voor het analyseren van het dilemma van Google passen we het Dilemma to Dialogue (D2D) proces toe, beschreven in het boek ‘Dansen met Dilemma’s’. Het D2D proces kent een aantal stappen:

Dilemma analyse

De eerste stap is het antwoord op de vraag wie de dilemmahouder is. Wie ligt er wakker van?
Niet Google, niet een hele hoop ontwikkelaars en niet de minister van defensie, maar in dit geval de baas van Google: Sundar Pichai.

De tweede stap is bepalen wat nu precies zijn dilemma is? Wat zijn de twee proposities (het verzamelwoord voor initiatieven, strategieën, acties enz.) die recht tegenover elkaar staan en elkaar lijken uit te sluiten?

Die proposities volgen uit het antwoord op de dit/dat-vraag: aan de ene kant wil/moet ik dit, maar aan de andere kant wil/moet is dat.

De twee proposities

De proposities zijn nu ‘ik wil deze cruciale veiligheidstechnologie ontwikkelen’ tegenover ‘ik wil niet leveren aan de oorlogsindustrie’. Dit zijn niet noodzakelijk de diepste wensen van Pichai, maar wel die van de ‘stakeholders’ van beide proposities: de ontwikkelaars binnen Google staan hier tegenover de ondertekenaars van de brief. Maar er zijn ook externe stakeholders: aandeelhouders en (militaire) opdrachtgevers staan tegenover ethische beleggers, burgerrechtorganisaties enz. Wat levert ‘hun’ propositie hen op, en welke behoefte dekt dat? Bijvoorbeeld: winst, technologische voorsprong, militaire slagkracht voor de eerste propositie. En ‘trots op werken voor Google’ en vasthouden van beleggers en klanten voor de andere propositie.

Maar ook de persoonlijke belangen van Sundar Pichai spelen mee, want hij als dilemmahouder moet zodanig manoeuvreren dat alle stakeholders tevreden zijn. Welke positieve spin-off heeft het ontwikkelen van deze cruciale technologie voor hem (cq Google) en wat levert het niet werken voor de oorlogsindustrie hem/Google op? Maar ook: welke negatieve spin off heeft het kiezen voor de eerste of de tweede propositie? Dat was de derde stap. Nu kunnen we het visueel krachtenspel in kaart brengen en zien hoe Pichai zou kunnen handelen.

Van dilemma tot dialoog

Een dilemma kenmerkt zich door het feit dat meer van het ene propositie minder van de andere oplevert….tenzij het je lukt een verzoening tussen beide manieren van handelen te vinden. Dat vereist een dialoog met de stakeholders waarbij de dilemmahouder, Pichai dus, de (vertegenwoordigers) van de elkaar in de haren zittende stakeholders aanzet tot wederkerigheid. Bijvoorbeeld dat de ontwikkelaars iets ontwikkelen waardoor ‘kwaad’ gebruik van de technologie te controleren is. Of dat burgerrechtenorganisaties betrokken worden bij de discussie over wat wel en niet ‘kwaad’ is. Jim Stolze noemt helaas geen van deze constructieve opties. Wel de nadelen van wat nu besloten is: het project stop zetten… ‘terwijl op andere plekken van de wereld zo’n samenwerking gewoon doorgaat, met het gevaar dat cruciale know how verloren gaat’. En hij sluit af met de woorden van Rob Bauer, Commandant der Strijdkrachten: ‘De beste cybermensen kunnen wij niet eens betalen. Samenwerken met het bedrijfsleven is daarom de enige manier’. Het dilemma wordt dus niet volledig ontleed en verduidelijkt. Dat is jammer voor de lezer die van een dergelijk aansprekend voorbeeld kan leren hoe je een dilemma kunt hanteren. En wel: analyseer het, breng het krachtenspel in kaart en zoek, in een dialoog met alle betrokkenen, een pad richting gezamenlijke winst.

Van dialoog tot win-win

Het dilemma is samen te vatten in een Win-win Snapshot. Deze somt de voor- en nadelen van beide proposities op en geeft een mogelijke reconciliatie. Deze zijn bij voorkeur te vinden in het geanalyseerde artikel. Helaas blijkt het dat in persberichten het dilemma vaak niet erg transparant beschreven wordt. De snap shot moet dan aangevuld  worden met een paar voor de hand liggende additionele voor- en tegenargumenten. Dat is ook hier het geval. De toegevoegde argumenten (cursief) helpen om de spanning tussen de proposities duidelijker te maken. Ook de reconciliatie/win-win komt hier voort uit onze fantasie.