Ontwerpen voor een menselijke wereld

July 2, 2018

In mijn columns en blogposts heb ik veel geschreven over de impact van technologie op onze samenleving. Vaak ging het om het beschermen van onze persoonlijke levenssfeer. Over hoe bedrijven als Facebook en Google, maar ook onze overheid, steeds meer over ons weten, waardoor we steeds voorspelbaarder en steeds weerlozer worden. En hoe het privacyvriendelijk ontwerpen van systemen hier een broodnodig tegenwicht aan zou kunnen bieden.

Maar het probleem is breder dan alleen privacy.

Technologische ontwikkelingen waarvan we eerst dachten dat ze ons nader tot elkaar zouden brengen in één global village, drijven ons in werkelijkheid uit elkaar. Het personaliseren van diensten, ook als dat op een privacyvriendelijke manier zou gebeuren, creëert filterbubbels waarin mensen alleen nog maar geconfronteerd worden met hun eigen waarheden. En op de persoon toegesneden aanbiedingen, polissen of het hyperselectief monitoren van bepaalde personen breekt de solidariteit in de samenleving af. Op individuele personen toegesneden politieke campagnes ondermijnen het democratische bestel. En het gebruik van sociale netwerken en de advertentie-gebaseerde businessmodellen van het web creëren een voedingsbodem waarop fake news gedijt.

Technologische ontwikkelingen scheiden ook oorzaak en gevolg, en maken handelen op afstand (in fysieke dan wel hiërarchische zin) mogelijk, zodat wij niet langer geconfronteerd worden met de consequenties van onze eigen keuzes, ons eigen gedrag. De dronepiloot zit veilig thuis terwijl de bommen die hij afwerpt dood en verderf zaaien, duizenden kilometers verderop. De directeur van de verzekeringsmaatschappij heeft geen idee van de discriminatoire beslissingen die de slimme algoritmen van zijn bedrijf maken, en die hele groepen mensen effectief uitsluiten van aanvullende verzekeringen.

Dit is on(m/w)enselijk.

Het is daarom zaak om onze systemen te ontwerpen voor een menselijke wereld, waarin de burger centraal staat. Waarin wij grip hebben op onze directe omgeving en die omgeving kunnen vertrouwen. Waarin wij ons vertrouwd weten, en serieus genomen worden. Een vertrouwen dat gebaseerd is op openheid, transparantie, contact, een juridisch kader dat de burger beschermt, en technische hulpmiddelen die ons helpen dit te realiseren.

Dat ontwerpen voor een menselijke wereld zou zich niet moeten beperken tot alleen de technische systemen zelf. Dat ontwerpen moet zich ook uitstrekken tot de organisaties die de systemen gebruiken, tot de processen waar ze een onderdeel van vormen, en uiteindelijk ook tot het ontwerp van wet- en regelgeving waar die processen een gevolg van zijn. Je kunt privacyvriendelijk ontwerpen tot je een ons weegt, maar als de belastingwetgeving zo complex is dat bijna alle informatie over ons fiscaal relevant is, of als je in surveillance zo ver wil gaan dat je onbeperkt het internet in de gaten wilt houden, dan is ‘privacy by design’ zinloos.

Mitch Kapor, de Amerikaanse internetondernemer en bedenker van de spreadsheet, zei het ooit al: systeemarchitectuur is politiek. Het technische systeem dat wij ontwerpen is uiteindelijk een onderdeel van, en een uiting van een politiek-economisch systeem, of dat nu kapitalistisch, communistisch, libertair, bureaucratisch of dictatoriaal is.

We moeten ons verzetten tegen techniek die tussen ons in staat, die ons verdeelt, die ons opdeelt in elementaire deeltjes, en die het bureaucratische dan wel kapitalistische systeem vervolmaakt en de verantwoordelijken van alle verantwoordelijkheidsgevoel ontslaat. Simpelweg omdat ze, net als de dronepiloot, het zelf niet zien, en niet voelen gebeuren.

Daarom moeten we een menselijke wereld ontwerpen.

Met dank aan Gea Smidt, voor het lezen, becommentariëren en scherper maken van al mijn FD columns. Deze column is op haar werk geïnspireerd.

Deze column verscheen op 30 juni 2018 in het Morgen katern van het FD. Dit was mijn laatste column voor het FD.

In case you spot any errors on this page, please notify me!
Or, leave a comment.
r. grootveld
, 2018-07-05 14:56:26
(reply)

Nog afgezien van de vraag hoe een eerlijke/rechtvaardige wereld gerealiseerd zou moeten worden. Want wie (en ook hoe) gaat dat afdwingen? De gewraakte technologie is er om te blijven. En het gezegde gaat dat de gelegenheid de dief maakt.

Het is weer de fabel van de volledige gelijkschakeling. Wat men al te graag hoort. Een samenleving waarin iedereen werkelijk gelijk is en een rijk en vol leven zal hebben. Het is naar mijn idee zo klaar als een klontje dat zulks een utopie zal blijven. En wie weet zeker dat zo’n samenleving begerenswaardig is? Wellicht verveelt ieder zich dan te pletter.

Er valt hier zeker meer over te zeggen. Bij voorbeeld: waar staat geschreven dat het leven rechtvaardig hoort te zijn. Maar een verhandeling voert wat ver voor een reactie.

Echter: wees op uw hoede voor elke heilsleer, uit welke hoek die ook komt.

R. Grootveld.

Jaap-Henk
, 2018-07-06 11:40:14
(reply)

Ik ben denk ik minder cynisch. Inderdaad de fundamentele vraag is: hoe ziet een eerlijke/rechtvaardige wereld er uit. Ik vind dat die vraag gesteld mag worden. Daar zal iedereen een verschillen antwoord op hebben. En daar zullen we samen uit moeten komen. Ik vind niet dat ‘technologie er is om te blijven’; technologie is er niet zomaar. Die wordt ontwikkeld, door mensen, met zo hun eigen ideeën over hoe een eerlijke/rechtvaardige wereld er uit ziet. Ik vind dat wij als burgers daar ook ons zegje over mogen doen, en daar invloed op moeten hebben.

En een post-modern tegenargument: ook de leer dat we ons moeten hoeden voor een heilsleer, is een heilsleer. Anders (post-post-modern (?)) geformuleerd: nadenken over hoe de samenleving in elkaar zou moeten steken is niet op voorhand verdacht!