Ontwerpen voor een menselijke wereld

In mijn columns en blogposts heb ik veel geschreven over de impact van technologie op onze samenleving. Vaak ging het om het beschermen van onze persoonlijke levenssfeer. Over hoe bedrijven als Facebook en Google, maar ook onze overheid, steeds meer over ons weten, waardoor we steeds voorspelbaarder en steeds weerlozer worden. En hoe het privacyvriendelijk ontwerpen van systemen hier een broodnodig tegenwicht aan zou kunnen bieden.

Maar het probleem is breder dan alleen privacy.

Technologische ontwikkelingen waarvan we eerst dachten dat ze ons nader tot elkaar zouden brengen in één global village, drijven ons in werkelijkheid uit elkaar. Het personaliseren van diensten, ook als dat op een privacyvriendelijke manier zou gebeuren, creëert filterbubbels waarin mensen alleen nog maar geconfronteerd worden met hun eigen waarheden. En op de persoon toegesneden aanbiedingen, polissen of het hyperselectief monitoren van bepaalde personen breekt de solidariteit in de samenleving af. Op individuele personen toegesneden politieke campagnes ondermijnen het democratische bestel. En het gebruik van sociale netwerken en de advertentie-gebaseerde businessmodellen van het web creëren een voedingsbodem waarop fake news gedijt.

Technologische ontwikkelingen scheiden ook oorzaak en gevolg, en maken handelen op afstand (in fysieke dan wel hiërarchische zin) mogelijk, zodat wij niet langer geconfronteerd worden met de consequenties van onze eigen keuzes, ons eigen gedrag. De dronepiloot zit veilig thuis terwijl de bommen die hij afwerpt dood en verderf zaaien, duizenden kilometers verderop. De directeur van de verzekeringsmaatschappij heeft geen idee van de discriminatoire beslissingen die de slimme algoritmen van zijn bedrijf maken, en die hele groepen mensen effectief uitsluiten van aanvullende verzekeringen.

Dit is on(m/w)enselijk.

Het is daarom zaak om onze systemen te ontwerpen voor een menselijke wereld, waarin de burger centraal staat. Waarin wij grip hebben op onze directe omgeving en die omgeving kunnen vertrouwen. Waarin wij ons vertrouwd weten, en serieus genomen worden. Een vertrouwen dat gebaseerd is op openheid, transparantie, contact, een juridisch kader dat de burger beschermt, en technische hulpmiddelen die ons helpen dit te realiseren.

Dat ontwerpen voor een menselijke wereld zou zich niet moeten beperken tot alleen de technische systemen zelf. Dat ontwerpen moet zich ook uitstrekken tot de organisaties die de systemen gebruiken, tot de processen waar ze een onderdeel van vormen, en uiteindelijk ook tot het ontwerp van wet- en regelgeving waar die processen een gevolg van zijn. Je kunt privacyvriendelijk ontwerpen tot je een ons weegt, maar als de belastingwetgeving zo complex is dat bijna alle informatie over ons fiscaal relevant is, of als je in surveillance zo ver wil gaan dat je onbeperkt het internet in de gaten wilt houden, dan is ‘privacy by design’ zinloos.

Mitch Kapor, de Amerikaanse internetondernemer en bedenker van de spreadsheet, zei het ooit al: systeemarchitectuur is politiek. Het technische systeem dat wij ontwerpen is uiteindelijk een onderdeel van, en een uiting van een politiek-economisch systeem, of dat nu kapitalistisch, communistisch, libertair, bureaucratisch of dictatoriaal is.

We moeten ons verzetten tegen techniek die tussen ons in staat, die ons verdeelt, die ons opdeelt in elementaire deeltjes, en die het bureaucratische dan wel kapitalistische systeem vervolmaakt en de verantwoordelijken van alle verantwoordelijkheidsgevoel ontslaat. Simpelweg omdat ze, net als de dronepiloot, het zelf niet zien, en niet voelen gebeuren.

Daarom moeten we een menselijke wereld ontwerpen.

Met dank aan Gea Smidt, voor het lezen, becommentariëren en scherper maken van al mijn FD columns. Deze column is op haar werk geïnspireerd.

Deze column verscheen op 30 juni 2018 in het Morgen katern van het FD. Dit was mijn laatste column voor het FD.