IT architectuur is niet neutraal

We zijn als maatschappij op een punt gekomen in de technologische vooruitgang waarin we ons gaan afvragen van welke innovaties we als mens nu eigenlijk beter worden. Wat betekent bijvoorbeeld het gebruik van een smart-device ten opzichte van onze privacy?

Kritisch op nieuwe technologie

Diverse confrontaties met situaties waarbij dit voordeel voor de mens in twijfel zijn te trekken creëren een mate van onrust en onzekerheid. Hierdoor gaan we als maatschappij ineens (weer) kritisch worden ten aanzien van nieuwe technologie. Dit fenomeen is niet nieuw. In de textielindustrie kwamen bijvoorbeeld de thuiswevers in opstand. Aan het begin van de 19e eeuw voerde het verzet, bekend als de Luddieten, in Engeland aanslagen uit tegen weeffabrieken waarbij zij de machines (“spinning Jenny’s”) kapotsloegen. Tegenwoordig hebben we als mens opnieuw ambivalente gevoelens tegenover innovatie, met name rondom AI en robotisering worden steeds meer vragen gesteld.

Moord op een robot

Of het toeval is of niet maar we kennen ook al de eerste moord op een robot: Hitchbot werd in 2015 vermoord. Hitchbot was een liftende robot, een sociaal experiment om te zien hoe ver een robot zelfstandig zou kunnen reizen. Hij kon eenvoudige conversaties voeren, foto’s maken, twitterberichten publiceren, en was te traceren via gps. Hij liftte mee met reizigers door Canada, europa en de VS. Wat de motieven voor deze “moord” zijn geweest is tot op heden niet bekend. Was het afkeer voor de robotisering of een daad van vandalisme?  

Wat is goed of fout aan technologische innovaties?

Foto hardloper met smartphone

Maar niet alle Technologie en innovatie vinden we ongewenst. We communiceren maar wat graag via allerlei messaging apps met vrienden of familie aan de andere kant van de wereld. En het kost ons bijna niets. Maar als we dit doen met een familielid aan de andere kant van de tafel vindt niet iedereen dat acceptabel. GPS is superhandig; veel hardlopers gebruiken het om de prestaties van hun training te kunnen analyseren. Maar hoe snapchat je locatie deelt elke keer als je de app opent leidde toch tot discussie. Kennelijk zijn er grenzen. En om vast te kunnen stellen wat goed of fout is zullen we de grenzen op moeten zoeken en daar de vragen stellen over de impact en de consequenties. 

“Technologie is niet neutraal”; een kreet die je vaker hoort.

Maar is het de technologie die niet gewenst is, of ligt het (on)wenselijk bij het toepassen ervan? Het motto van de National Rifle Association zegt: “guns don’t kill people, people kill people”. Persoonlijk ben ik van mening dat daarmee het ontwerp van een wapen nog steeds fout is. Het ding is namelijk ontworpen om iets te vernietigen, of dit nu een mens is of een schietschijf. Dit kun je van Technologie niet altijd zeggen. Is bijvoorbeeld Big Data of AI ontworpen op schade aan te richten? Maar op het moment dat we ze in een ontwerp toepassen maken we wel impliciet een keuze voor de consequenties die de technologie in zich heeft.

AI inzetten om schadeclaims

We kunnen AI inzetten om schadeclaims bij verzekeraars te beoordelen. Dit lijdt niet alleen tot snelheid in het proces, maar ook de afweging kan op eenvoudige wijze gemaakt worden met de kennis van alle gelijksoortige claims. De vraag is dan wel of er voldoende rekening gehouden kan worden met de empathie voor de situatie en de persoon waar de schade is ontstaan. Architecten zouden zich meer bewust moeten zijn van de consequenties en de wenselijkheid moeten toetsen aan morele waarden. Daarvoor moeten we echter verder kijken dan alleen de doelstellingen van een organisatie die vaak als uitgangspunt genomen worden in de architectuur en het ontwerp van de toepassingen. Een principe dat iedere architect daarom zou moeten hanteren:

Technologie toepassen: Niet omdat het moet of omdat het kan; alleen maar als het verantwoord kan!

Meld je aan voor de DYA-dag 2018

De DYA-dag 2018 staat in het teken van Ethiek en Architectuur. Daar wordt dieper ingegaan op wat het betekent om op ethisch verantwoorde wijze met architectuur om te gaan. We nodigen je van harte uit om hierbij aanwezig te zijn.