De ontwikkeling van technologie wordt gedreven door innovatiedrang. We gaan eerst dingen maken en pas later denken we over de consequenties en mogelijke bijeffecten. Voorbeelden genoeg, van social media die soms wat uit de bocht vliegt tot algoritmes die een bias in zich hebben tot AI-gedreven surveillance. Kunnen we dat niet anders/beter doen? Met die vraag houdt docent-onderzoeker Jo-An Kamp zich bezig: het integreren van ethiek in hoe we technologie vormgeven. Daarover schreef ze samen met Huub Prüst en Wouter Lancee het boek 'Technofilosofie in de praktijk'.
Denken tijdens het doen
Het boek is compact, maar biedt genoeg kaders om het denken over technologie te duiden. Het is belangrijk dat ethiek en technofilosofie verschuift van enkel beschouwen naar ook doen, stelt Kamp: "Wat je ziet in de geschiedenis van het denken over technologie, is een afstand tussen ethiek en praktijk. We zien wat technologie doet met de maatschappij, maar hebben er zelf niet direct invloed op. Meestal wordt er eerst wat gemaakt, en daarna vinden we er pas iets van. Technofilosofie in de praktijk brengen betekent dat je een kritische, ethische blik toevoegt aan het ontwikkelingsproces van technologie. Dus niet (alleen) achteraf, maar juist ook vooraf en tijdens het innovatieproces. Op deze manier kun je namelijk nog iets veranderen als dat nodig blijkt. Het gaat dus om denken tijdens het doen.”
Mediation Theory
Het idee hierachter leunt op de Mediation Theory van Prof. Dr. Ir. Peter-Paul Verbeek, techniekfilosoof aan de Universiteit Twente. Zijn theorie stelt dat ethiek bepaald wordt door de innig verstrengelde relatie tussen mens en technologie, niet enkel door één van de twee. Technologie kan zelf geen morele keuzes maken, maar wel moraliteit belichamen. We moeten ons daarom niet de ja/nee vraag stellen of een technologie acceptabel is en of we deze moeten verbieden, maar de vraag hoe we deze technologie kunnen vormgeven op een manier die ons als maatschappij en als mensheid vooruithelpt. Kamp: “De insteek is niet om een oordeel te vellen, maar om meer bewustzijn in het hele proces te brengen. Welke effecten kan een technologie hebben in verschillende contexten, wat kan er gebeuren in de toekomst, hoe wenselijk zijn die effecten, wat accepteren we en wat kunnen we anders vormgeven? Wat voor soort wereld zijn we eigenlijk aan het bouwen en zouden we daar zelf in willen wonen?”
Technofilosofie & Moral Design
Kamp maakt als onderzoeker deel uit van het lectoraat Moral Design Strategy, dat zich inzet om de menselijke maat terug de machine in te krijgen door burgers aan de tekentafel te zetten bij de ontwikkeling van nieuwe technologie. Kamp benadert het daarnaast ook van de andere kant: "Het is heel belangrijk dat iedereen die de impact van technologie voelt, hierover mee kan denken. Maar het moet van beide kanten komen, ook ontwerpers moeten nadenken over wat ze doen. Met technologie als AI krijgen zij een enorme verantwoordelijkheid. Waar ik me voor inzet is om ontwikkelaars te helpen kritische vragen te stellen en ethiek mee te nemen in hun proces.”
Technology Impact Cycle Tool
Hoe breng je dit nu in de praktijk? Daarvoor zijn tools nodig. Één daarvan werd ontwikkeld door een team Fontys onderzoekers, docenten en studenten: de Technology Impact Cycle Tool (TICT). Geen ‘ethiek-filter’, maar een framework om technologie te bevragen: "Je kunt niet elk effect van een innovatie voorzien, maar als het gaat om bias, privacy of security kun je er wel alert op zijn. De tool helpt om vanuit verschillende invalshoeken een technologie breed te evalueren. Er zit niet echt een moreel oordeel in de tool (wij bepalen niet wat goed of slecht is), de tool is vooral gemaakt om je te helpen de, voor jou juiste, ethische afwegingen te maken.” De TICT-tool is publiek toegankelijk via
www.tict.io en bevat niet alleen de tool, maar ook cursusmateriaal en verwijzingen naar andere toolkits. In het boek vind je naast de ontstaansgeschiedenis van de technofilosofie ook meer informatie over het ontstaan van deze tool.
Het boek 'Technofilosofie in de Praktijk' is geschreven door Jo-An Kamp, Huub Prüst en Wouter Lancee. Het is gratis te downloaden in het Nederlands en Engels.