Er zijn verschillende meningen over technologie. Vooral over de rol die we het toebedelen om onze samenleving vooruit te brengen. Enerzijds is er techno-optimisme, het geloof dat technologie elke uitdaging kan oplossen. Anderzijds is er techno-pessimisme en wantrouwen; wat mag wel en wat niet en wie is er eigenlijk verantwoordelijk? Kortom, hoe gaan we samen de toekomst in met technologie op een gezonde en verantwoorde manier, bijvoorbeeld als we spreken over vitaliteit? Fontys onderzoeker en docent Jo-An Kamp houdt zich met dit vraagstuk bezig en tijdens de ELIS Innovation Summit spreekt ze hierover.
Tech & Maatschappij samenbrengen
“Er zijn twee groepen die direct met nieuwe technologie te maken hebben; mensen die deze technologie maken en degenen die ermee werken. Daarnaast is er de maatschappij, met veel niet-techneuten, die soms sceptisch kijkt naar nieuwe ontwikkelingen. Daartussen ligt een kloof,” legt Kamp uit. Technici richten zich veelal op het maken met de innovatie voorop. De check voor lancering is vooral op interne waarden; doet het product wat het moet doen? De externe check op maatschappelijke waarden blijft vaak uit. En dat is een probleem volgens Kamp: “Daardoor loopt technologie soms tegen onbegrip en weerstand aan. Waar wij ons mee bezig houden binnen het lectoraat Moral Design Strategy, is de maatschappelijke waarden een plek geven in die technologie.”
Ethics by design
De oplossing zit volgens Kamp niet in een externe check achteraf, maar in het designproces zelf: “Als je een innovatie achteraf toetst aan die maatschappelijke waarden, is het slechts een ‘after thought’. Maar als je op dat moment dan nog terug naar de tekentafel moet, gaat er veel werk en tijd verloren. Dat is overigens niet alleen een bedrijfskundig issue, maar ook een ethische vraag. Soms zie je namelijk pas veel later de keerzijde van een technologie. De bedenker van de ‘Retweet’ knop heeft nu bijvoorbeeld ontzettend veel spijt van zijn uitvinding. Dat moet anders kunnen, daarom stellen we voor ethiek deel van het proces te maken. ‘Ethics by design’ dus.”
Leren denken over ethiek
Hoe breng je dan die ethiek in het designproces? Dat is vooral een kwestie van bewustzijn creëren, bijvoorbeeld onder ICT-studenten en techneuten: “Dat betekent wellicht wat extra werk in het designproces, maar veel studenten en technici staan hiervoor open. Technokritischer werken maakt ons namelijk wel efficiënter.” Om hierin te faciliteren, denkt Kamp ook na over tooling die hierbij helpt. Geen tooling die je vertelt of iets juist of niet juist is, maar middelen om onszelf de juiste vragen te stellen: “Moraliteit is niet zwart of wit, onze rol als kennisinstelling is niet om te vertellen wat juist is maar om de middelen te bieden om kritisch na te denken.”
CoronaMelder
Ons techno-optimisme maakt ons soms blind voor de impact van innovaties, stelt Kamp. Ze geeft hiervan de CoronaMelder app als voorbeeld: “De app liet zien of je in contact was geweest met iemand met Corona, maar daarmee werd de technologie leidend. Als een BOA, bijvoorbeeld, mensen aan wilde spreken op hun gedrag, hoefden ze maar met een groen vinkje in de app te zwaaien om de ambtenaar te ondermijnen. Ook kan je met zo’n app anderen saboteren, bijvoorbeeld als een bakker expres bij de concurrent binnenloopt met een ‘besmet’ app signaal, of juist door het risico van hackers. Ik wil daarmee niet zeggen dat de app per definitie fout was, maar je moet de juiste vragen stellen om die afweging te maken, bijvoorbeeld of technologie überhaupt wel nodig is en ons boerenverstand soms niet meer geschikt?”
Technologie en vitaliteit
Deze kritische toetsing is ook bijzonder relevant in het spanningsveld technologie en vitaliteit, denkt Kamp: “We moeten ons allereerst afvragen wat voor maatschappij we willen hebben en op welke manier technologie eraan bij kan dragen om die te bereiken. Kiezen we voor een technologische oplossing, dan moeten we naast technische vragen ook vragen stellen over inclusiviteit, data security, en duurzaamheid. Die bepalen namelijk of onze innovaties de welvaart vergroten. Daar moeten we dus goed over nadenken.”
Jo-An Kamp is werkzaam als senior-docent/onderzoeker bij Fontys Hogeschool ICT en onderdeel van de onderzoeksgroep Moral Design Theory. Ook is ze ambassadeur van RightBrains, een organisatie die zich inzet voor meer gender diversity in digitale technologie. Ze spreekt op 20 April tijdens ELIS Innovation Summit over technofilosofie in de praktijk. Er zijn nog kaarten.