Essay: Ons digitale leven
Binnenkort worden we bij thuiskomst begroet door een kwispelende robot, die vervolgens ons huis stofzuigt en eten maakt. De technologische ontwikkelingen gaan zo snel dat we nauwelijks kunnen begrijpen hoe ingrijpend ons leven verandert.
Stel je het volgende scenario voor, ergens in de nabije toekomst. De chauffeur van een schoolbus met veertig kinderen verliest op een brug de macht over het stuur. Precies op dat moment rijdt een zelfrijdende auto met tachtig kilometer per uur diezelfde brug op. Wat doet de auto? Uitwijken om de levens van de kinderen veilig te stellen, daarmee zichzelf in gevaar brengend? Of doortuffen met het risico dat veertig kinderen de prijs betalen? Het is een mooi voorbeeld van een moreel dilemma, prikkelend beschreven door de psycholoog Gary Marcus in een van zijn columns voor The New Yorker. Zo prikkelend dat de Canadese lerares maatschappijleer Heidi Siwak uit Dundas, Quebec, de tekst kopieerde en meebracht naar haar klas met kinderen van elf en twaalf. ‘Alsof er iets explodeerde’, vertelt Siwak via Skype. ‘De leerlingen waren zo gefascineerd en ook zo van slag van het idee dat robots voor mensen konden gaan besluiten dat we alles terzijde schoven om het onderwerp robotica een paar weken van alle kanten te onderzoeken.’
De een ging op zoek naar robots die het werk van mensen overnemen, anderen onderzochten hoe je je angst voor robots kunt bestrijden (door veel informatie te vergaren). Vooral de ethische kant sprak tot de verbeelding. Heidi Siwak trok een denkbeeldige lijn door het klaslokaal met uiterst links: robots zijn van harte welkom, en uiterst rechts: ik ben er absoluut op tegen. Afhankelijk van hun opvatting moesten de kinderen een plek op de lijn innemen. Ze vertelt: ‘Sommige leerlingen waren heel ferm. Ze zeiden: liever een verkeerde beslissing dan een inhumane beslissing die door de machine wordt genomen. Anderen veranderden van standpunt naarmate meer informatie loskwam. Ik had niet gedacht dat we zulke diepgravende discussies konden voeren. Ik kan het iedere leerkracht aanraden.’
Zou zo’n project een idee zijn voor Nederland? De meningsvorming over de maatschappelijke impact van robots komt bij ons nauwelijks van de grond. Op de universiteit denken filosofen na over de opmars van de carebot in de zorg (zie De Groene van 30 oktober 2013). Minister Hennis van Defensie roept tevergeefs op tot een debat over de implicaties van de inzet van drones. Een handjevol economen, onder wie Eric Bartelsmann, waarschuwt op basis van Amerikaans onderzoek dat de helft van ons werk over dertig jaar door robots zal worden verricht.
Tegen het misbaar over zwarte piet of het Groningse aardgas legt de robot het niettemin af, ook al zijn er prangende vragen in overvloed. Hoe ziet de morele uitrusting van zelfrijdende auto’s eruit? Wat is het mentale effect op mensen die hun werk verliezen aan een slimme automaat? Wat betekent het voor ons sociale systeem? Wie pikt deze vragen op, wanneer?
Misschien gaat de technologische opmars domweg te snel om de gevolgen te kunnen overzien en te bediscussiëren. De informatie- en communicatietechnologie zet alles op z’n kop. Het internet brengt iedereen ter wereld in contact met elkaar. Er is een zee aan informatie beschikbaar gekomen. Data en rekenkracht meten voorheen onmeetbaar gedrag en leggen nieuwe patronen bloot. 3D-printing kondigt het einde van de massaproductie aan en voor duizend euro krijg je een printje van je eigen dna. Met brein-computer-interfaces kunnen we gedachten lezen en breindata verzamelen. Grote delen van de economie worden on demand.
Er zit ook een andere kant aan. Onze data zijn in handen van bedrijven en overheden. We weten niet wat ze ermee doen. Winkelboulevards in de periferie kwijnen weg, makelaars, reisbureaus en media leggen het loodje. Het wordt normaal om met pilletjes hersenactiviteit te verbeteren. Politieke groeperingen radicaliseren omdat ze online alleen nog medestanders horen. Drones in privé-bezit brengen onze veiligheid in het gedrang.
En ja, dat mag allemaal. Het toezicht sukkelt ver achter de technologische vindingen aan. Dat is onvermijdelijk, maar ook onrustbarend. Denk aan de quants die met hun complexe afgeleide instrumenten de basis legden voor de financiële crisis – meer dan welke bonusregeling ook. De huidige digitale techneuten bouwen met hun algoritmen iets vergelijkbaars, door technologiecriticus Evgeny Morozov ‘onzichtbaar prikkeldraad’ gedoopt. Het systeem bouwt op logica die niet wordt uitgelegd en waarover niet wordt gediscussieerd. Je kunt je er eenvoudigweg niet aan onttrekken. Wie is er nog bij machte om ongewenste technologie bij te sturen? Of om een pas op de plaats af te dwingen totdat we meer weten over de impact?
Politici zitten helaas in een lastig parket. Onthullingen van Edward Snowden en anderen leren dat, als het zo uitkomt, ze de privacywetten schenden die ze zelf hebben ondertekend. Ook (semi-)overheidsinstanties blijken de lokroep van de technologie maar moeilijk te kunnen weerstaan. Verslaggever Mark Mazetti vanThe New York Times geeft daar in zijn boek The Way of the Knife een treurig voorbeeld van. Het beschrijft de inzet van drones door de cia in Pakistan. In het nauw gebracht door onthullingen over martelpraktijken zoals in Abu Ghraib koos de cia voor een nieuwe, stille aanpak, aangereikt door de techniek. In plaats van terroristen gevangen te nemen en te martelen besloot men (vermeende) toplieden van al-Qaeda maar meteen te vernietigen met drones waarvan iedereen, de president van Pakistan incluis, het bestaan domweg ontkende. Pas na een paar jaar kwam de waarheid alsnog boven water en maakte het Pakistaanse ministerie van Defensie de schokkende cijfers bekend. Tussen 2008 en halverwege 2013 zijn meer dan 2200 inwoners van Pakistan door drones om het leven gebracht, zonder enige vorm van proces.
Dit voorbeeld laat drie ongemakkelijke waarheden zien. Ten eerste: technologie die wordt ontwikkeld wordt vroeger of later gebruikt. Ten tweede: politici en bestuurders doen net zo hard mee. Ten derde: de overheid is niet in staat om de burger te beschermen. Dat blijkt ook in Nederland het geval. Officier van justitie Lodewijk van Zwieten, belast met cybercrime, adviseerde verontruste burgers begin deze maand de camera’s op hun computers en mobiele telefoons met een pleister af te plakken om hackers de pas af te snijden. Dat op dit goeiige advies geen publieke verontwaardiging volgde, is een blijk van onze mentale staat. De schaduwzijden van de digitale revolutie maken ons moedeloos, niet eens boos.
***
Ergens vorig jaar is de stemming rond digitale technologie drastisch omgeslagen. Jarenlang incasseerden we de vele voordelen onder het motto: vraag niet hoe het kan, geniet ervan. Facebook groeide naar 1,2 miljard deelnemers wereldwijd. Google stelde alle kaarten en alle gedigitaliseerde boeken beschikbaar, inclusief geavanceerd zoeksysteem. Het internet werd zo normaal dat je je afvroeg hoe je ooit zonder had gekund. Maar sinds het nsa-schandaal ontbrandde, is het wantrouwen gegroeid. Alexis Madrigal, invloedrijk blogger voor The Atlantic, noemt dit verschijnsel ‘techno-anxiety’. De voordelen spreken vanzelf terwijl de lijst met nadelen groeit. Dat kan zo niet voortduren, meent hij. Ergens in 2014 zullen we ons ofwel afwenden van technologie (wat zeer onwaarschijnlijk lijkt), ofwel vrede sluiten.
Maar het is de vraag of het positieve gevoel dat internet ons bezorgde zo gemakkelijk terugkeert. De onrust over de digitale omwenteling zit diep. Technologie-denker Douglas Rushkoff verwoordde het treffend in een openbaar Skype-interview op het Border Sessions-festival in Den Haag. Gezeten achter zijn bureau in New York, maar duidelijk zichtbaar en hoorbaar, zei hij: ‘Het is voor mensen tegenwoordig gemakkelijker om in de Apocalyps te geloven dan te weten wat hun over vijf jaar boven het hoofd hangt.’ Het is een echo van de uitspraak van eurocommissaris Neelie Kroes, belast met de digitale agenda. Ze vertelde dat ze de ceo’s van de grote technologiebedrijven bij haar op bezoek had en vroeg: wat verwachten jullie voor de komende drie jaar? Waarop de heren voorzichtig in lachen uitbarstten en zeiden: we weten niet eens hoe de zaken er over drie maanden voor staan.
Onzekerheid is troef. Jarenlang stond technologische verandering voorempowerment van het individu – een onmiskenbaar winstpunt van de digitale revolutie. Maar nu overheerst het wantrouwen. We weten heus dat, zoals onderzoeksbureau Forrester recentelijk waarschuwde, er geen industrie bestaat die de komende vijf jaar gevrijwaard blijft van digitale disruptie. Wie gelooft nog dat hij de dans ontspringt?
In zo’n klimaat doen dystopische romans als The Circle van Dave Eggers het uitstekend. Ze geven uiting aan het sombere gevoel dat een individu toch niets kan uitrichten tegen the powers that be. De machten zijn te diffuus, want wie heeft het nu voor het zeggen: de technologiebedrijven of de politiek? De verantwoordelijkheden zijn duister, want wat doen die colleges voor persoonsbescherming nu eigenlijk ter protectie? En de veranderingen gaan snel. Neuro-, nano- en informatietechnologie vloeien in elkaar over en winnen aan kracht en vaart, zegt onderzoeker Rinie van Est van het Rathenau Instituut. Tegenover zoveel complexiteit staat een individu machteloos. Op de Nexus-conferentie eind 2012 zei schrijfster Margaret Atwood: ‘Ik ben opgegroeid in de bossen. Je kon je eigen auto repareren. Maar nu lukt het mij niet om zelfs maar het broodrooster te repareren vanwege digitale componenten.’ We omringen ons met gereedschap dat we niet begrijpen en niet beheersen. Dat voelt kwetsbaar.
Vooral in het welvarende Westen viert scepsis inmiddels hoogtij – en die is niet ongegrond. Met digitale technologie kunnen aloude machtsblokken zomaar omver worden gekegeld. Grote, serieuze en dus dure universiteiten maken zich zorgen over de opkomst van zogeheten massive open online courses, moocs geheten. Hiermee kunnen studenten overal ter wereld colleges volgen die universiteiten gratis online hebben gezet. De consequentie is dat een ambitieuze jongeling uit een dorp in Tsjechië net zulke goede (of zelfs betere) studieresultaten kan behalen als een student die met pijn en moeite – en tegen hoge kosten – op Stanford belandde. Neem maar eens een kijkje op coursera.org: dit is een paradijs voor kansarme, kennishongerige jongeren voor wie een wereld te winnen is.
De digitale revolutie gaat veel mensen vooruit helpen, maar dat zijn niet noodzakelijkerwijs de mensen die het tot nu toe voor de wind ging. De technologische golf heeft bij uitstek een meritocratisch karakter. Bedrijven die in deze sector opereren weten dat zelf maar al te goed. Wie twee keer op een verkeerd paard wedt of een veelbelovende technologie over het hoofd ziet, kan het vergeten in de wereldwijde wedren. De lotgevallen van Nokia, jarenlang wereldmarktleider op het gebied van mobiele telefoons, spreken boekdelen. Toen de iPhone op de markt kwam, met al die handige apps in de Appstore, was hun lot snel bezegeld. Nu is het Finse bedrijf een – sterk ingekrompen – onderafdeling van het ook al licht ploeterende Microsoft.
Misschien ligt Silicon Valley niet voor niets op de plek waar vroeger het Wilde Westen eindigde. Peter Thiel, een succesvolle investeerder in technologie, gaf onlangs in de Financial Times een tot nadenken stemmende verklaring voor het grote commerciële succes van de digitale industrie. ‘De wereld van de bits is niet gereguleerd. Daarom hebben wij daar de afgelopen veertig jaar veel vooruitgang gezien. De wereld van de atomen is wel gereguleerd. Daarom is het zo moeilijk om vooruitgang te boeken in sectoren als de biotechnologie, luchtvaart en overige gebieden van materiële wetenschap.’ In de taal van de investeerder zegt hij: Silicon Valley is het Wilde Westen van nu. Cowboys schieten elkaar overhoop, beroven de bank als ze kunnen – en de sheriff is in geen velden of wegen te zien.
***
Toch kan de digitale revolutie niet ongedaan worden gemaakt – als we het al zouden willen. Wie kan en wil er nog terug naar de tijd dat je informatie zo goed mogelijk moest onthouden, want je kon het later alleen nog terugvinden in het archief of in de bieb? Wie heeft heimwee naar de tijd dat je telefoneerde of correspondeerde met de mensen die je al kende, en dat je kennissenkring beperkt en constant was? Het zijn voorbeelden van hoe de digitale opmars onze mentaliteit en onze cultuur nu al heeft veranderd. Stond het industriële tijdperk voor top-down, lineair, massaproductie en hiërarchie; de digitale revolutie staat voor veranderlijkheid, beweeglijkheid en afstemming. De ordening van onze wereld verandert, we worden een netwerksamenleving. En we zijn nog volop bezig onze weg hierin te vinden.
Een nieuwe mentaliteit biedt ook zicht op nieuwe resultaten. De Twentse hoogleraar information retrieval en tevens adviseur Theo Huibers noemt het voorbeeld van de nao, een robotje dat in een open-source-omgeving wordt ontwikkeld. De robots worden wereldwijd verkocht voor 3500 dollar en je mag ze alleen kopen als je een programmeerbekwaamheid hebt. In Zuid-Amerika hebben ze hem bijvoorbeeld geleerd om liedjes te herkennen. Als hij Beat It van Michael Jackson hoort, gaat-ie dansen. Een ander stort zich op gezichtsherkenning en in China programmeren ze op het leren herkennen van emoties. ‘Die nao wordt wereldwijd ontwikkeld. Zo gaat robot intelligence heel snel. Ach, zeggen sommige mensen, wat stelt zo’n stofzuigrobotje nu voor? Maar ik zeg: wacht maar, over twee jaar herkent-ie je en gaat-ie kwispelen of met je dansen als jij dat wilt. Als mensen over de hele wereld samenwerken, kan het heel snel gaan.’
Dat is ook de insteek van de economisch historicus Joel Mokyr. Het geeft geen pas om nuffig te doen over het beperkte belang van Twitter om de digitale revolutie aan af te meten, vindt hij. Mokyr nam vorig jaar stelling tegen de pessimistische blik op de digitale verworvenheden door economische grootheid Robert J. Gordon. Deze meent dat de belangrijke technologische vindingen al lang gedaan zijn en dat geen enkele digitale vondst op kan tegen de ontdekking van elektriciteit, van hygiëne of van de auto. Daar lijkt zo op het oog iets in te zitten, maar Mokyr is niet overtuigd. Hij zegt: we weten domweg niet wat we nog zullen weten. Zonder de telescoop en de microscoop was de industriële revolutie nooit van de grond gekomen. Deze tijd is niet wezenlijk anders. De grote rekencapaciteit en de enorme hoeveelheden data stellen ons in staat de wereld beter te begrijpen. Vooral het feit dat zo veel informatie nu zo ruim toegankelijk is, moet tot nieuwe inzichten leiden.
Is onze huidige somberheid dus wel gerechtvaardigd? Het antwoord is ja en nee. De eerder genoemde Douglas Rushkoff, een scherpe, onafhankelijke geest, wees er bij Border Sessions op dat we nog amper gebruikmaken van de mogelijkheden die de digitale tijd ons biedt. Internet geeft ons de ruimte om samen te werken op basis van gelijkheid. Het biedt lokale of specifieke gemeenschappen de gelegenheid hun eigen, zelfverkozen beleid te voeren. Rushkoff: ‘De bewieroking van technologiereuzen als Apple of Google stamt nog uit de industriële tijd. Marshall McLuhan zei al dat we op onze nieuwe technologie de oude technologie imiteren, totdat we begrijpen waar nieuwe technologie voor is. Zo ver zijn we nu nog niet. Het meeste internet in de VS wordt nu gebruikt om Netflix te kijken…’
Tegelijkertijd besluiten Angela Merkel en David Cameron om de invoering van een conceptrichtlijn die onze privacyrechten in Europa aanscherpt nog een jaartje voor zich uit te schuiven. Ze jagen de technologiereuzen liever niet tegen zich in het harnas. Een bedrijf als Google is op dit moment angstwekkend groot, met zijn vertakkingen in gezondheidszorg, robotica of ‘the internet of things’ (de communicatie tussen digitale apparaten onderling). Misschien is het bedrijf wel machtiger dan de regering van de VS – mede omdat die regering de technologiesector zo weinig in de weg legt. Dat moet toch te denken geven.
***
We moeten ons de digitale revolutie – en daarmee de toekomst – daarom eigen maken. Dat begint ermee dat we meer weten en beter begrijpen wat er gebeurt. Vandaag gaat in De Groene Amsterdammer een serie artikelen en interviews van start onder de titel ‘Ons digitale leven’. Het is een zoektocht naar de vele aspecten van ons huidige technologische tijdperk en een bijdrage aan het maatschappelijke gesprek dat hoognodig over deze materie gevoerd moet worden.
Luister maar naar Heidi Siwak. Zijn haar leerlingen nu beter voorbereid op een toekomst met robots? ‘O, zeker’, zegt ze. ‘De kinderen realiseren zich nu dat hun toekomst er heel anders uitziet dan het leven van vandaag. En dat ze zich moeten voorbereiden op de veranderingen die komen. Sommigen zien daar tegenop, anderen minder. Maar ze begrijpen allemaal ontzettend goed dat de wereld aan het veranderen is.’
Beeld: Milo
De thema’s uit het essay worden verder uitgediept in de blogs over morele machines en falend toezicht
