Algoritmes aan het roer van de organisatie, vrees of kans?

Zo’n 35 jaar geleden draaide de eerste Terminatorfilm in de bioscopen. Een menselijke robot die terug in de tijd reist, was toen misschien futuristisch en onrealistisch, maar tegenwoordig steeds meer realiteit. Er is nog geen sprake van tijdreizen, maar robots die het zelflerende vermogen van het menselijk brein evenaren, komen dichterbij.

De laatste jaren investeren grote (technologie)bedrijven veel in nieuwe technologie ten behoeve van kunstmatige intelligentie. Ook komt deze steeds sneller voor het brede publiek beschikbaar. Praktische voorbeelden hiervan zijn autonoom rijdende auto’s en spraak gestuurde robotassistenten. Op de beurs vindt de handel in aandelen volautomatisch plaats door intelligente systemen en onderliggende algoritmes die zelfstandig beslissingen nemen op basis van diverse gegevens. Maar ook op kleinere schaal vinden dit soort toepassingen steeds vaker een weg in organisaties. Zo hebben gemeenten en financiële instellingen reeds diverse vormen van kunstmatige intelligentie toegepast middels algoritmes bij het berekenen van premies, uitkeringen en bij het signaleren van fraude en criminaliteit.

Grip op technologie neemt af

Het zelflerende karakter van kunstmatige intelligentie leidt ertoe dat (zelfstandige) digitale besluitvorming uitdagender is voor de mens om te volgen, te interpreteren en uit te leggen. De mate van transparantie vermindert zodra kunstmatige intelligentie en de toegepaste algoritmes slimmer (en daarmee complexer en sneller) worden. Uiteindelijk kan het algoritme zichzelf aanpassen om taken te optimaliseren zonder menselijke interventie. Met als resultaat dat de mens steeds minder grip en controle heeft op de toepassing en niet langer in staat is om gericht invloed uit te oefenen. Dit biedt vanzelfsprekend zowel voor- als nadelen. Zo biedt het toepassen van algoritmes mogelijkheden tot versnelling en standaardisatie van processen. Daarnaast kan het ook nieuwe inzichten bieden in door bepaalde verbanden en voorspellingen. Echter is juist de onzekerheid rondom de juistheid van de uitkomst en het doorgronden van de overwegingen reden tot zorg. Doet ‘het’ uiteindelijk wel wat we verwachten?  

Maatschappelijk verkeer en het wegnemen van onzekerheid

Het overkoepelende onderwerp kunstmatige intelligentie en de toepassing van algoritmes is in ontwikkeling bij toezichthouders, politiek, industrie en beroepsgroepen. Het maatschappelijk verkeer verwacht dat partijen tot bepaalde reguleringen en standpunten komen die objectief, toetsbaar en meetbaar zijn, zodat er door organisaties verantwoording wordt afgelegd over de toegepaste vorm van kunstmatige intelligentie. Innovaties volgen elkaar razendsnel op en de race om een ‘artificial general intelligence’ (het zelflerend vermogen en besluitvorming evenaart het menselijk brein) te ontwikkelen, is begonnen. Op dit moment is kunstmatige intelligentie nog relatief eenvoudig en toegespitst op eenduidige taken bij de besluitvorming in de vorm van algoritmes, maar dat zal snel veranderen.

De Nederlandsche Bank (DNB) heeft een Engelstalig discussiedocument uitgebracht met daarin zes aspecten waar een financiële instelling zich van bewust moet zijn bij een kunstmatige intelligentie toepassing. Deze zes aspecten zijn overeenkomstig met wat eerder is beschreven in de politiek, maar ook in de media en wetenschap. Ook de AFM heeft uitbesteding van algoritmes nadrukkelijk als één van de tien uitgangspunten beschreven, waarbij auditors een prominente rol krijgen. 

De technologische innovaties en mogelijkheden van algoritmes introduceren steeds complexer wordende risico’s, zoals (onbewuste) bias, programmeerkeuzes, onjuiste/onvolledige datasets, (ethische) overwegingen en besluitvorming. Maar ook gevolgen die bedrijven lastig kunnen inschatten en concretiseren. IT Auditors beschikken over de kennis vanuit zowel het technische en bedrijfskundige perspectief om de relevante (IT) gerelateerde risico’s bij algoritmes te signaleren en te adresseren. Hiermee vervullen zij de maatschappelijke rol om processen en systemen te toetsen op kwaliteit, veiligheid en continuïteit die cruciaal zijn in de huidige samenleving.

Algoritmes binnen digitale transformatie

Maakt u als organisatie gebruik van algoritmes of bent u voornemens om algoritmes te omarmen als onderdeel van uw digitale transformatie, maar vraagt u zich af of de toepassing op een beheerste manier wordt ontwikkeld, operationeel is en of het aansluit op de strategische doelstelling? Neem dat contact met ons op. Wij bieden u graag inzicht in de beheersing van de daadwerkelijke toepassing en het identificeren van gerelateerde risico’s.

Digitale transformatie: integrale aanpak

Uw digitale transformatie kan alleen slagen bij een integrale en gecoördineerde aanpak. Het 360°perspectief van BDO biedt uw organisatie helder inzicht in de status van uw digitale transformatie en de te nemen (vervolg)stappen. Meer weten over onze visie op digitale transformatie? Lees dan onze visiepaper via onderstaande button.

LEES ONZE VISIEPAPER