Algoritmes vernauwen je blikveld – black boxes blokkeren innovatie

1

Welke productaanbevelingen we te zien krijgen, welke films we kijken, met wie we op een date gaan: algoritmes beïnvloeden alle aspecten van ons leven. Dat is hartstikke fijn wanneer je snel op Netflix een film wilt uitkiezen die je bevalt. Maar algoritmes bepalen ook welke politieke en wetenschappelijke informatie je te zien krijgt, of je uitgenodigd wordt voor een sollicitatiegesprek, en of je kredietwaardig bent.

Algoritmes zijn black boxes waarvan de gemiddelde gebruiker geen idee heeft hoe zij in elkaar steken. Het zoekalgoritme van Google is inmiddels een beter bewaard geheim dan het recept van Coca-Cola! Mede om deze reden is er wantrouwen jegens deze technologieën. En het is goed dat er tegendruk komt.

Transparante algoritmes?

Algoritmes hebben steeds meer invloed op ons leven. Van datingsites en de aandelenhandel tot online retailing en online zoekopdrachten – ze bepalen in toenemende mate onze toekomst. En naarmate de invloed van algoritmes groeit, wordt de discussie over deze algoritmes belangrijker.

Het black box-probleem van algoritmes is niet op te lossen. Sommige algoritmes zijn simpelweg te complex om uit te leggen, andere algoritmes zijn bedrijfsgeheim (denk maar aan social media). Sommige algoritmes zijn al zo goed dat hun werking niet meer te doorgronden is, waardoor we nu te maken krijgen met ‘deepfake’ video’s die niet meer van echt te onderscheiden zijn.

Volledige transparantie over de werking van algoritmes is dus een illusie, zeker wanneer ze complexer worden. Maar er zijn wel technieken die de kwaliteit van de besluitvorming van algoritmes kunnen borgen – algorithm assurance, zoals dat heet.

Algoritmes beperken je tot je comfort zone

We kunnen dus controleren of algoritmes werken zoals de bedoeling is. Maar een belangrijkere discussie is: hoe zetten we algoritmes in? Want net zoals de werking van een algoritme voor ons een black box kan zijn, kunnen ze ook black boxes creëren voor onze geest.

Denk maar eens aan de typische internetzoekopdracht. We krijgen te zien wat we willen zien. We vinden wat we verwachten te vinden. Algoritmes die ontworpen zijn voor gebruiksgemak, vernietigen de kans op happy accidents. Als je er geen extra moeite in steekt, is het tegenwoordig moeilijk om nog verrast te worden; om nieuwe ideeën op te doen buiten je algoritmebubbel. De meeste algoritmes doen suggesties op basis van wat je al leuk vindt. Ze geven doorgaans geen suggesties voor zaken die je zeker níet leuk vindt, maar die je na wat gewenning best ontzettend gaaf zou kunnen vinden. Zo blijven mensen steeds meer in hun eigen comfort zone, en daar vindt zelden innovatie plaats.

Algoritmes forceren ‘sjabloondenken’

Op social media wordt jong en oud geleid door algoritmes – wie ze moeten volgen, wat ze leuk moeten vinden, maar ook wat ze moeten doen om gevolgd te worden. Deze mindset wordt bovendien versterkt door ons onderwijs, waar de meeste punten worden toegekend aan wie het beste binnen de lijntjes weet te kleuren. De boodschap lijkt dus overal te zijn: volg de algoritmes maar, dan kom je goed terecht.

Algoritmes die in toenemende mate bepalen wat we wanneer kunnen en mogen zien, staan innovatie in de weg. Niet alleen omdat de inzet van aanbevelingsalgoritmes het blikveld vernauwt, maar ook omdat potentiële innovaties getoetst worden aan de hand van algoritmes. Zo worden algoritmes bijvoorbeeld niet alleen ingezet om het slagingspotentieel van medicijnontwikkeling te verbeteren (waar niets tegen in te brengen is), maar ook om het commerciële potentieel te voorspellen – wat tot een discussie leidt die niet per se om de beste innovatie draait, maar om de meest lucratieve.

Algoritmes dienen ter ondersteuning van het menselijk vernuft, niet als beperking van ons innoverend vermogen

Om te innoveren moet je experimenteren, leren van fouten, en vooral ook durven falen. Maar als een algoritme bijvoorbeeld de slagingskans van een nieuwe startup somber inziet, trekken investeerders én mogelijke innovators sneller hun handen van een concept af. Terwijl het ook the next big thing had kunnen zijn.

Het resultaat is dat ‘innovaties’ tot sjablonen worden omgevormd. “Dit werkte hier, dus het zal daar ook werken.” Alles kan en mag – zolang het maar binnen het algoritme past. De werkelijkheid zit uiteraard anders in elkaar. Zo probeerden verschillende bedrijven jarenlang tevergeefs tablets aan de man te brengen. Op basis van de beschikbare data zou de iPad ten dode opgeschreven zijn, maar tegen verwachtingen in maakte Jobs het tot een succes. Met andere woorden, niet alle succesvolle innovaties zijn netjes te voorspellen.

Buiten de lijntjes kleuren

Betekent dit dat we algoritmes in de wind moeten slaan en blind op intuïtie moeten vertrouwen? Geenszins, natuurlijk. We moeten ons alleen niet laten leiden door algoritmes. Technologie dient ter ondersteuning van het menselijk vernuft, niet als beperking van ons innoverend vermogen. Streamingplatforms zouden ons nieuwe ervaringen moeten bieden en ons niet uitsluitend over de geijkte paden moeten sturen. Zoekmachines moeten met ons meedenken over wat we over het hoofd zien, en ons niet puur en alleen laten zien wat we willen zien.

Thema: Hoe wordt een bedrijf duurzaam en winstgevend? Lees Link magazine digitaal

Scholieren uitdagen

We moeten weer leren om buiten de lijntjes te kleuren. Buiten de lijntjes van verwachtingen, van algoritmes. En dat is precies wat we proberen bij te brengen tijdens de jaarlijkse Raspberry Pi-scholenwedstrijd van PA Consulting. Scholieren worden uitgedaagd om met de kleine Raspberry Pi-computer iets uit te vinden om een maatschappelijk probleem op te lossen. Op basis van dezelfde data en basiscomponenten, maar met de vrijheid om spontaan tot nieuwe oplossingen te komen waar niemand eerder aan had kunnen denken!

Door Willem van Asperen, Director Applied Artificial Intelligence bij PA Consulting 

Share.

1 reactie

  1. De transparantie van algoritmes is inderdaad cruciaal in een tijd waarin het niet alleen meer gaat om welke beslissing is genomen maar ook HOE. Is er gediscrimineerd bij het selecteren van een nieuwe kandidaat?

    Het openmaken van de black box ‘wat hebben we met de data gedaan’ is natuurlijk belangrijk, maar bredere model governance ‘op welke data is het model exact losgelaten’ is ook een hot topic tot op het hoogste niveau van de grootste bedrijven.

Reageer

CAPTCHA Image

Reload Image

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.