naar top
Menu
Logo Print
13/02/2019 - STEFAN ACKE

“WIJ VORMEN DE TECHNOLOGIE DIE ONS VORMT"

BUSINESSFILOSOOF JOCHANAN EYNIKEL OVER DE ETHIEK VAN TECHNIEK

Is de mens de willoze speelbal van de technologie? Nooit volledig, betoogt de businessfilosoof Jochanan Eynikel (ETION). Hij gelooft in technologie die ten dienste staat van de mens, en wil opnieuw ruimte scheppen voor verbeelding en creativiteit in de extra tijd die die technologie ons kan schenken. Vanzelf zal dat echter niet gaan. “Hoe de technologie zich ontwikkelt, hangt af van de waarden die de ontwikkelaars in de technologie stoppen. Als we alleen maar op efficiëntie gericht zijn, dan zal de technologie dat nog versterken. Iedereen die innoveert, moet beseffen dat zijn beslissingen op hun beurt de mens vormen.“

Jochanan EynikelWE WETEN NIET WAT OP ONS AFKOMT

Zorgzaamheid, dat vormt de kern van Jochanan Eynikels recentste boek 'Robot aan het stuur'. Hij heeft het onder meer over de zelfrijdende auto: een voorbeeld van hoe wij de controle over bepaalde beslissingen uit handen geven aan een machine. De zelfrijdende wagen raakt een gevoelige snaar: wat als het misgaat, als er levens op het spel staan? Waardegedreven innovatie is volgens Eynikel de uitweg: ervoor zorgen dat je elke betrokkene een stem geeft in het innovatieproces, om zo goed mogelijk de richting te kunnen bepalen waarin de innovatie gaat.

“Technologische innovaties grijpen steeds sterker in op menselijke levens; de technologie gaat in bepaalde gevallen zelf beslissingen nemen. Dan is het belangrijk om op voorhand te bedenken wat er kan misgaan. Ik hoor vaak, en terecht, de verzuchting dat je toch niet alles kunt voorspellen. Dat klopt, maar dat is juist een reden om voorzichtig te zijn en niet in het wilde weg dingen te gaan proberen. Kijk naar Facebook: hun filosofie was lange tijd 'move fast and break things'. Gewoon gaan en we zien wel wat er gebeurt. Nu zien ze in dat ze wel heel veel gebroken hebben, tot en met de democratie. Daarom moeten we dringend meer nadenken over hoe we onze producten ontwikkelen, zodat we zaken die wel te voorzien zijn, kunnen vermijden - of net kunnen bijdragen aan een zorgzame samenleving. Technologie heeft immers niet altijd een negatieve impact.“

“Het mooie en het unieke aan de mens is dat hij soms de regels niet volgt, omdat het beter is om ze niet te volgen. Artificiele intelligentie (AI) kan dat niet begrijpen“

In uw boek bent u vrij neutraal over de impact van technologie.

“Ik noem mezelf vaak een technorealist. Technorealisme gaat ervan uit dat je optimistisch mag zijn en mag geloven in de opportuniteiten van technologische verandering, maar wel moet beseffen dat dat afhangt van hoe we die technologie in de wereld zetten en ontwerpen. Het extreme optimisme noemt elke bekommernis over technologie doemdenken; dat vind ik ook weer immoreel, want dan negeer je gewoon de uitdagingen. Gelukkig zijn er heel wat technologiebedrijven die dat beginnen in te zien. Ja, smartphones brengen ons enorm veel voordelen, maar of de nadelen ook een impact zullen hebben, hangt af van hoe we die ontwerpen. Een realist zegt: de toekomst hangt af van de waarden die wij implementeren in onze technologie.“

Is dat urgenter geworden dan vroeger? Gaan de technologische veranderingen echt zoveel sneller nu?

Jochanan Eynikkel
“Voor de technologie is er geen intrinsiek onderscheid tussen de regels 'Ik mag geen mensen doden' en 'Ik mag geen volle witte lijn overschrijden'. De mens moet dat onderscheid erin bouwen“

“Versnelde verandering is er al sinds de Industriële Revolutie. Misschien zijn er zelfs minder baanbrekende innovaties dan vroeger - er valt veel voor te zeggen dat vroegere innovaties als elektriciteit en de pil meer impact hebben gehad dan Facebook en robots vandaag - maar die innovaties verspreiden zich wel veel sneller. Het duurde generaties voor de meeste mensen elektriciteit hadden, maar Facebook heeft in zeven jaar tijd een miljard mensen bereikt. De impact is er dus veel sneller; je kan niet meer achterover leunen en dan wel zien hoe het evolueert. Een app als Waze (een navigatieapp die info van andere gebruikers combineert om de snelste route te tonen, red.) is enorm snel omarmd, gemeentes moeten nu al maatregelen nemen omdat het sluipverkeer toeneemt. De impact is groter omdat de schaal groter is.“

Kun je die versnelling ook projecteren in de toekomst? De singulariteit, het moment waarop computers slimmer worden dan de mens en zichzelf gaan ontwikkelen op een niveau dat de mens niet meer kan volgen, komt zijdelings aan bod in uw boek, maar u staat er kritisch tegenover.

“Veranderingen in het verleden garanderen niets over de toekomst. De gemiddelde lengte van de mens is de voorbije honderd jaar sterk gestegen, maar op een zeker moment loop je tegen een limiet aan, anders was de mens vandaag drie meter lang. Intelligentie gebaseerd op rekenkracht overstijgt nu al die van de mens, en er is voorlopig niets wat erop wijst dat die rekenkracht niet nog sneller gaat toenemen. Dat is nog iets heel anders dan een bewustzijn, angsten, empathische gevoelens. Ik ben geen toekomstvoorspeller en ik garandeer niet dat dat er nooit zal komen, maar ik denk wel dat er dringendere uitdagingen zijn.“

Uw boek geeft de zelfrijdende wagen als illustratie van de vraag hoeveel autonomie we aan technologie kunnen geven. De wagen moet zich aan de verkeersregels houden, maar als hij dat te strikt doet, dan zet hij misschien ook levens op het spel. Als hij nooit over een volle witte lijn mag rijden, dan rijdt hij misschien een kind omver, schrijft u.

“De zelfrijdende wagen laat goed zien wat het verschil is tussen intelligentie en bewustzijn. Voor de technologie is er geen intrinsiek onderscheid tussen de regels 'Ik mag geen mensen doden' en 'Ik mag geen volle witte lijn overschrijden'. De mens moet dat onderscheid erin bouwen, maar het probleem is - kijk maar naar de geschiedenis - dat ethiek geen sluitend systeem is. Bedrijven gaan daar niet licht over, en terecht. De technologie zelf is er momenteel al, er zijn al heel wat prototypes. Bij de ontwikkelaars klinkt het dat 'level 3-autonomie' (daarbij hoeft de bestuurder zijn aandacht niet langer bij het verkeer te houden, maar de auto kan hem wel vragen om op specifieke momenten de controle over te nemen, red.) in 2021 volledig operationeel zal zijn. De grootste uitdaging zit in de wetgeving en het ethische aspect. Wie is er verantwoordelijk als er iets misgaat? Dat leeft ook bij de bedrijfswereld; zij willen het risico niet nemen dat er plots dodelijke slachtoffers vallen, zeker niet als er geen wettelijk kader rond is. Duitsland heeft nu een aanzet gegeven om zo'n wettelijk en moreel kader te bouwen. Daar zitten ook ethici rond de tafel.“

Utilitarisme en plichtethiek

Jochanan Eynikkel
“Ethiek is moeilijk voor machines, maar dat betekent niet dat je de zelfrijdende wagen moet afschaffen“

“In dat kader kun je bijvoorbeeld als regel instellen dat zelfrijdende wagens zo weinig mogelijk doden mogen maken. Maar dan kom je voor het volgende probleem: moet hij het voetpad oprijden en een voorbijganger doodrijden om twee overstekende mensen te redden? Puur rekenkundig is het beter om twee mensen te redden dan één. Maar dan kom je in een gevaarlijke, voor mij immorele, situatie terecht. Er is moreel en wettelijk een verschil tussen schade niet kunnen vermijden en schade veroorzaken. Je kunt daarover discussiëren, maar dat vind ik een mooi voorbeeld van een principe dat een robot niet zelf kan bedenken. Je moet er dus utilitarisme in brengen, het grootste goed voor het grootste aantal mensen, maar ook niet te veel. Je moet daarnaast ook deontologische waarden zoals rechtvaardigheid proberen te integreren in de besluitvorming van die machines - zonder dat die machines weten wat rechtvaardigheid is. Het is niet rechtvaardig om mensen die toevallig in de buurt van zo'n systeem bewegen, op te offeren vanwege een of andere berekening. Ethiek is moeilijk voor machines, maar dat betekent niet dat je de zelfrijdende wagen moet afschaffen. We zullen nooit elk risico kunnen vermijden. De farmaceutische industrie test producten en in die testfase gaat het soms fout, maar als je die producten niet ontwikkelt, dan breng je nog meer mensen in de problemen. Op hun best kunnen zelfrijdende wagens vele levens redden.“

Verbeelding

“Het mooie en het unieke aan de mens is dat hij soms de regels niet volgt, omdat het beter is om ze niet te volgen. Stel dat artificiële intelligentie er al was geweest in de tijd van de Romeinen, en dat die mee had bestuurd: welk AI-systeem had dan de slavernij afgeschaft? Het was superefficiënt, supergoedkoop, en het bestond al. De slavernij is afgeschaft omdat mensen dat niet meer correct vonden, ook al deden ze het al eeuwen zo. AI werkt steeds op basis van regels uit het verleden. De mens heeft de verbeelding om regels uit te dagen.“

Zullen mens en techniek steeds meer samenvallen in de toekomst?

“Die beweging is volop aan de gang. De desktop stond op ons bureau, de laptop op onze schoot, de smartphone zit in onze zak, de smartwatch zit al op de huid. Helemáál samenvallen zie ik mens en techniek niet. Dan kom je weer bij emotionaliteit en verbeelding, het feit dat wij spirituele wezens zijn die onszelf willen ontplooien. Een zelfrijdende wagen zal nooit plots willen gaan voetballen. Techniek zonder die verbeelding zullen we altijd moeten bijsturen. Maar mens en machine groeien naar elkaar toe, al was het maar omdat onze infrastructuur ook ons handelen beïnvloedt. Als wij ons meer en meer opsluiten in ons eigen gelijk, dan is dat deels het gevolg van hoe sociale media werken. Vrij naar Winston Churchill: eerst vormen wij gereedschap, daarna vormt dat gereedschap ons. Zolang we ons daarvan bewust blijven en de verbeelding niet uitbesteden aan machines, zolang we ethisch beslissingen nemen, blijft de mens aan de macht. De mens moet niet op een robot gaan lijken om te overleven. Ethiek gaat altijd over bijsturen, over omgaan met het onprogrammeerbare.“ 

Foto's © Jan Locus