Serie van 11 blogs “Perspectieven op Kunstmatige Intelligentie”

7 juni 2018 Willem Peter de Ridder

Blog #11 – juni 2018

AI in het onderwijs

Van alle technologische ontwikkelingen van dit moment is kunstmatige intelligentie het meest ingrijpend en het minst begrepen. We zien indrukwekkende nieuwe toepassingen, maar kunnen de impact op mensen, organisaties en maatschappij nog nauwelijks overzien. In deze serie blogs, Perspectieven op Kunstmatige Intelligentie, onderzoeken we niet alleen de mogelijkheden, maar ook de bedoelde en onbedoelde consequenties.

Opleiden voor banen die nog niet bestaan

Wij leven in de tijd van het digitaal darwinisme: alles wat digitaal kan, zal digitaal worden. Door de combinatie van robotisering en kunstmatige intelligentie krijgen we slimme machines die steeds meer activiteiten van mensen overnemen. Volgens onderzoek van McKinsey is 50% van de werkactiviteiten te automatiseren met behulp van technologie die nu beschikbaar is.

De nieuwe banen van het komende decennium kunnen we ten dele voorzien. Naast de robotmonteur en de dronepiloot, zullen we nieuwe beroepen zien in de interface tussen mens en robot. Robots moeten worden getraind en mensen moeten leren om met robots om te gaan. Ook moeten robots en AI systemen worden gecontroleerd. Bij zelflerende systemen (dankzij machine learning) kun je niet volstaan met tests voor de lancering. Omdat de output in de loop van de tijd verandert, moet je blijven monitoren of het systeem goed functioneert.

Onderwijsinstellingen hebben twee vragen te beantwoorden. Leiden wij studenten op voor banen die gaan verdwijnen? En: hoe bereiden we studenten voor op banen die nu nog niet bestaan?

Learnability Quotient

Als we kijken naar wat iemand succesvol maakt gedurende een loopbaan, zien we dat de kennis die iemand op school heeft opgedaan slechts beperkt van invloed is. De houdbaarheid daarvan is immers beperkt. Het vermogen om nieuwe dingen te leren en om je aan te passen aan veranderende omstandigheden is veel bepalender.

Daarom is er naast IQ en EQ nu ook LQ: de Learnability Quotient. Dit geeft aan hoe je omgaat met veranderingen. Op www.learnabilityquotient.com kun je een test maken met vragen zoals: “ik gebruik het liefst beproefde methoden”, “ik vind het leuk om een nieuwe aanpak uit te proberen”, “ik wil graag begrijpen hoe dingen werken” en “ik vind het leuk om nieuwe mensen te ontmoeten”.

Technologie heeft kennis gedemocratiseerd. Iedereen kan alles online opzoeken en dankzij kunstmatige intelligentie wordt die kennis steeds vaker op een begrijpelijke manier gepresenteerd. Waar zoekmachines een lange lijst van mogelijk relevante artikelen genereren, kan een AI systeem specifiek antwoord geven op een vraag die je in normale taal, dus niet in het jargon van een specialist, hebt gesteld.

Deze democratisering maakt een einde aan het aloude adagium ‘kennis is macht’ en maakt de leerling een meer gelijkwaardige gesprekspartner van de leraar. Maar googelen is niet hetzelfde als weten. Iets op kunnen zoeken is niet hetzelfde als kennis hebben. Naast vaardigheden blijft ook kennis belangrijk, al is het maar om de juiste vragen te kunnen stellen.

Technologie in het onderwijs: EdTech

Scholen moeten niet alleen lesgeven over technologie, maar ook zelf meer technologie gebruiken. Zoals we FinTech hebben voor de financiële sector, hebben we EdTech (educatie + technologie) voor het onderwijs. We zien een snelle ontwikkeling van nieuwe applicaties, zowel voor het gebruik in een klaslokaal als online. En met behulp van AR en VR (Augmented Reality en Virtual Reality) kan de buitenwereld naar binnen worden gehaald en kunnen studenten ervaren wat ze leren.

Eén van de belangrijkste voordelen van de nieuwe technologische toepassingen is dat het gepersonaliseerde leergangen mogelijk maakt. Op platforms zoals Coursera, Udacity en 2U/Getsmarter kun je online toegang krijgen tot onderwijsprogramma’s van de beste scholen en universiteiten wereldwijd. Het aanbod van massive open online courses (MOOC’s) is zo groot dat een keuze maken niet eenvoudig is. Deze platforms bieden ook oplossingen voor bedrijven die trainingen willen aanbieden aan medewerkers. En Udemy is een openbare marktplaats waarop iedereen docent kan worden en een cursus kan aanbieden.

Nieuwe technologie maakt het ook mogelijk om onderwijs beter af te stemmen op individuele behoeften en leerstijlen. Bij een digitaal lesprogramma kun je studeren op het moment dat het je uitkomt en in je eigen tempo. Bovendien kunnen docenten zien welke onderwerpen je moeilijk vind en daar extra uitleg over geven. Ook kan lesstof automatisch worden aangepast aan je voortgang. Als je meer fouten maakt, krijg je meer oefenopgaven. Deze adaptieve leermethoden kan je zowel in een klaslokaal als online toepassen. Op basisscholen in Nederland worden goede resultaten behaald met Snappet.

Leren kan ook bevorderd worden door gamification technieken toe te passen. Een goed voorbeeld hiervan is Duolingo, waar je talen kunt leren en wordt aangemoedigd om door te gaan door levels te bereiken, virtuele punten te verdienen en je prestaties te vergelijken met medespelers c.q. medecursisten.

Levenslang leren kan verder worden bevorderd met een tool zoals Degreed, dat ook voor bedrijven beschikbaar is. Medewerkers kunnen hier hun vaardigheden testen én certificeren, ongeacht hun vooropleiding of werkervaring. Ook kun je opleidingen selecteren die helpen om vaardigheden te verbeteren. Werkgevers kunnen zien welke vaardigheden in de organisatie aanwezig zijn en daar bij de samenstelling van een team rekening mee houden.

De school als leerplatform

Scholen en universiteiten wordt vaak verweten dat zij zich onvoldoende en niet snel genoeg aanpassen aan de digitale tijd. Ik herinner mij het verhaal van een docent op een HBO die had opgemerkt dat min of meer dezelfde groep studenten iedere dinsdag aan het einde van de middag bij elkaar kwam en serieus met elkaar in gesprek was. Het zag er niet uit als een overleg van de studievereniging en de groep was te groot om gezamenlijk een werkstuk te maken. Bij navraag bleek dat deze studenten elkaar lesgaven over nieuwe technologieën, omdat zij vonden dat daar in het onderwijs te weinig aandacht voor was. Er waren onderling duidelijke afspraken gemaakt. Iedereen was welkom, mits je op een positieve manier bijdroeg.

Hoe ga je hier als school mee om? Wat doe je als docent als je een leerling in de klas hebt die meer weet over een bepaald onderwerp dan jij? Ervaar je dit als ondermijning van je positie als docent of als kans om een leerling te laten schitteren en zelf nog wat te leren? Dankzij de toegankelijkheid van informatie maken alle docenten dit vroeg of laat mee.

Het antwoord is om de school niet alleen te zien als een plek waar docenten kennis en vaardigheden in eenrichtingsverkeer overdragen aan leerlingen, maar als een leerplatform. In dit model is de school organisator van kennisoverdracht en alle deelnemers kunnen zowel aanbieder als afnemer van kennis zijn. Het betekent concreet dat niet alleen docenten voor de klas staan, maar studenten ook van studenten kunnen leren. Ook bedrijven kunnen op school zowel kennis halen als kennis brengen. Het up-to-date houden van het onderwijs is op deze manier minder afhankelijk van het beschikbaar komen van nieuwe leerboeken en lesmethoden.

In combinatie met de eerder genoemde tools waarmee je studenten “leert kennen” kun je persoonlijke ondersteuning bieden en op het leerplatform een individueel lesprogramma samenstellen. Dit model maakt het ook voor alumni aantrekkelijk om regelmatig terug te komen voor bijscholing.

De toekomst is nu

De technologische ontwikkelingen gaan zo snel dat we zeker weten dat grote groepen mensen de komende 20 jaar heel ander werk zullen doen dan vandaag. Dit betekent dat werkgevers nu mensen aannemen met vaardigheden waarvan onzeker is hoe lang die nog relevant zijn. Op hun beurt weten studenten niet of het vak dat zij leren toekomstwaarde heeft. Levenslang leren is nog nooit zo belangrijk geweest.

Voor onderwijsinstellingen is de urgentie om hun curriculum aan te passen en om technologie in te zetten in en voor het onderwijs groter dan ooit. Je kunt geen opleiding maken voor een beroep dat nog niet bestaat, maar moet op weg gaan zonder precies te weten wat de eindbestemming zal zijn. Door meer te experimenteren kom je daar vanzelf achter.

Blog #10 – mei 2018

4 Best practices voor het formuleren en implementeren van een AI-strategie

Het gapende gat tussen ambitie en executie

De verwachtingen van de mogelijkheden van digitalisering en AI zijn hooggespannen, maar wat doen bedrijven al? Minder dan de discussie erover doet vermoeden. Een overgrote meerderheid (87%) van de bestuurders geeft aan dat digitale technologieën tot disruptie leiden, maar slechts 44% zegt zich voldoende voor te bereiden (bron: MIT SMR). Er is nog veel te doen en er zijn nog volop kansen.

Terwijl de noodzaak van verandering wordt onderkend, verzuimen veel bedrijven om hun strategie en organisatie aan te passen. Zeker als het economisch goed gaat, is het moeilijk om je businessmodel ter discussie te stellen. Waarom zou je risico’s nemen met je bestaande inkomstenbronnen?

Er is een groot verschil tussen de voorlopers en de volgers in de markt. Voorlopers doen aan ‘self-disruption’. Zij transformeren hun organisatie van het ene businessmodel naar het andere en profiteren van nieuwe bronnen van winstgevendheid, voordat zij marktaandeel verliezen aan nieuwkomers op de markt.

Wij zetten hieronder een aantal succesfactoren uiteen voor organisaties die AI in hun strategie en bedrijfsmodel willen incorporeren. Er is geen standaardrecept voor AI strategievorming en -implementatie (en ook niet voor een digitale transformatie overigens). Dit is meer een overzicht van best practices dan een stappenplan.

Maak scenario’s niet voor krimp, maar voor groei

Bestaande bedrijven hebben van nature de neiging om zich defensief op te stellen en nieuwe technologie vooral in te zetten voor het beschermen van de bestaande business door kosten te besparen, meer te automatiseren en klantenservice te verbeteren. Veel organisaties zijn onzeker over de business case voor investeringen in AI; er zijn nog relatief weinig voorbeelden en data beschikbaar. Een kostenbesparing is eenvoudiger te budgetteren dan extra omzet uit nieuwe producten en markten.

Toch doen bedrijven er goed aan AI ook offensief in te zetten. In onderzoek van McKinsey rapporteren bedrijven in de retail omzetstijgingen tot 5% in hun winkels en tot 30% online dankzij AI analyses van klantgedrag, persoonlijke aanbiedingen en dynamische prijsbepaling. Daarnaast bleek in 12 van de 15 onderzochte sectoren dat bedrijven die AI op grote schaal en offensief inzetten een winstmarge halen die 5 procentpunten hoger is dan die van hun concurrenten (18% versus 13%).

Alleen wie de kansen van AI herkent, kan plannen maken voor groei. Wie de ideeën en businessmodellen van nieuwe toetreders en startups op voorhand afdoet als irrelevant is teveel in zichzelf gekeerd en mist de waarschuwingssignalen van de veranderingen die komen.

Scenarioanalyse is een goede manier om toekomstbeelden concreet te maken: “bringing the future to life”. Contextuele of exploratieve scenario’s beschrijven de ontwikkelingen in de omgeving; dat is meestal de eigen branche, maar een bredere benadering is ook mogelijk. Dit geeft inzicht in hoe de wereld om je heen verandert en hoe je daarop kunt reageren om ook in de toekomst succesvol te zijn. Organisaties die de toekomst actief zelf vorm willen geven gebruiken daarnaast ook normatieve scenario’s. Die beschrijven de toekomst die je wilt realiseren en wat je daarvoor moet doen.

Ontwerp de toekomst van je klant

Hoe ziet de toekomst van je klanten eruit? En hoe kom je daarachter voordat je klanten het zelf weten? Steve Jobs deed niet aan marktonderzoek, omdat je klanten niet kunt vragen een product of dienst te formuleren die ze nog nooit gezien hebben.

Dit vraagt om een combinatie van inzicht en verbeelding. Inzicht in de behoeften en drijfveren van klanten. En verbeelding van manieren waarop je AI kunt inzetten om problemen te verhelpen, dingen eenvoudiger te maken en kosten te verlagen. Co-creatie is een methode om dicht bij de klant te komen. Later in het proces van productontwikkeling zijn communities van klanten die bèta-versies voor je willen testen belangrijk.

Customer journeys zijn een krachtige tool, mits je die niet beperkt tot de bestaande manier van werken en bestaande contactmomenten met klanten. Je moet durven beginnen met een leeg vel papier (clean sheet). De analyse van de toekomst van je klant gaat niet over je producten en diensten zelf, maar over de resultaten van die producten en diensten voor je klant. Door op deze manier te kijken, was Philip Lighting in staat een nieuw businessmodel te ontwikkelen en in de markt te zetten. In plaats van lampen verkopen ze licht ofwel de functie van de lamp. In het oude businessmodel was het maken van lampen die heel lang meegaan niet aantrekkelijk, in het nieuwe businessmodel wel.

Schaal innovatie op door te integreren in plaats van te isoleren

We kennen het verhaal van organisaties die de status quo zodanig beschermen dat zij als een soort antilichamen alle creativiteit en innovatie weten tegen te houden. Om dit te voorkomen, worden nieuwe digitale initiatieven vaak geïsoleerd van de bestaande organisatie uitgevoerd in aparte afdelingen (vaak “labs” genoemd) of zelfs op andere locaties, afgeschermd van de kritiek van de gevestigde orde.

Het is een begrijpelijke keuze, maar ook een beperkende. De bestaande organisatie en de corporate start-up krijgen niet de kans om van elkaar te leren. Belangrijker nog is dat je geen transformatie van de organisatie realiseert door innovatie op afstand te houden. Succesvolle experimenten en prototypes moeten opgeschaald worden en dat gaat sneller als die al een plaats binnen de organisatie hebben.

Een transformatie kan alleen slagen als deze bedrijfsbreed wordt doorgevoerd. Als geen integratie van een op afstand ontwikkeld business model plaatsvindt, ligt afsplitsing door middel van verkoop of beursgang voor de hand.

Mobiliseer talent

Het formuleren en implementeren van een AI-strategie vraagt om competenties die je zelden in één persoon verenigd ziet. Je hebt kennis nodig van de technologie, moet inzicht hebben in de behoeften en drijfveren van klanten en je moet het strategisch overzicht hebben om de levensvatbaarheid van een businessmodel te beoordelen. Klantervaring is meestal belegd bij marketing, technologie bij IT en strategie bij financieel specialisten. Dan heb je ook nog iemand nodig die de verschillende manieren van werken en denken van deze mensen bij elkaar kan brengen.

Talent is schaars en de zogenaamde ‘war on talent’ zal de komende jaren alleen maar verder intensiveren. Het goede nieuws is dat het steeds eenvoudiger wordt om talent van buiten de eigen organisatie te mobiliseren. Een paar voorbeelden. Voor technische vragen kun je gebruik maken van open innovatie en crowdsourcing platforms zoals NineSigma en Innocentive. Hackathons zijn niet alleen een manier om in korte tijd nieuwe ideeën binnen te halen, maar ook om talent te rekruteren. En verder zien we dat de flexibele schil van tijdelijke medewerkers en ZZP’ers niet alleen wordt ingezet om extra capaciteit te hebben als het druk is, maar ook om specifieke kennis binnen te halen en een interne ontwikkeling te versnellen.

Het tempo omhoog

De impact die AI heeft op de bedrijfsvoering zal de komende jaren alleen nog maar verder toenemen. Organisaties moeten verbouwen terwijl de verkoop gewoon doorgaat. Je moet de nieuwe technologieën begrijpen, de mogelijkheden ervan vertalen naar oplossingen voor klanten en nieuwe businessmodellen ontwerpen en implementeren. AI is geen innovatie die je er in de marge even bijdoet. AI raakt de kern van het bedrijf.

Bedrijven zoals ING en Philips tonen aan dat transformatie mogelijk is en dat bestaande bedrijven succesvol kunnen concurreren met nieuwkomers. Op tijd beginnen is noodzakelijk, want we zien in de digitale economie vaak een ‘winner takes all’ dynamiek en wie te laat is, kan (bijna) niet meer aanhaken. Executie van de hierboven genoemde best practices vraagt boven alles om leiderschap.

Blog #9 – april 2018

Van data-gedreven naar AI-gedreven besluitvorming

Besluitvorming als AI-systemen slimmer zijn dan mensen

Volgens veel managers en bestuurders is het fenomeen data-gedreven besluitvorming niet meer dan oude wijn in nieuwe zakken, omdat zij hun beslissingen altijd al op feiten en cijfers hebben gebaseerd. Als data-analyses zich beperken tot trends in historische cijfers en de extrapolatie daarvan naar de toekomst is er inderdaad weinig nieuws onder de zon.

Maar nieuwe informatiesystemen die gebruik maken van kunstmatige intelligentie (AI) en machine learning gaan verder dan het ondersteunen van besluitvorming. Als wordt vastgesteld dat zij tot betere oplossingen voor problemen komen dan mensen, neemt de acceptatie van een grotere, zelfstandige en onafhankelijke rol van AI systemen in de besluitvorming snel toe. Net zoals artsen in toenemende mate AI systemen inzetten bij het vaststellen van diagnoses en behandelplannen, kunnen managers dat ook.

Het AI systeem van Google DeepMind dat de wereldkampioen Go versloeg, bleek in staat om het koelen van de datacenters 15% efficiënter te organiseren dan menselijke experts. Er zijn financiële instellingen die AI gebruiken om persoonlijk advies aan klanten te geven en om witwassen tegen te gaan. Verzekeringsmaatschappijen zoals Lemonade laten zowel acceptatie als schadebehandeling zoveel mogelijk door AI uitvoeren, zodat de medewerkers zich kunnen beperken tot de uitzonderlijke gevallen. Ook het beoordelen van kredietaanvragen wordt steeds vaker door AI gedaan. En productiebedrijven laten hun logistiek en voorraadbeheer over aan slimme systemen.

Van descriptive naar prescriptive analysis

Dankzij AI, en in het bijzonder machine learning, ontstaan business informatiesystemen die niet alleen het verleden analyseren, maar ook vooruit kijken. Onderstaande figuur van McKinsey illustreert de ontwikkeling van descriptive naar prescriptive analytics, ofwel van beschrijvende naar voorschrijvende analyses.

Descriptive analytics gaat over historische en huidige resultaten en wordt door controllers gebruikt voor performance management. Wat is er gebeurd en waarom? De analyse is beschrijvend en diagnosticerend.

Predictive analytics onderzoekt wat er zou kunnen gebeuren en suggereert alternatieve uitkomsten met kansberekeningen en risico-inschattingen. Zo kun je bijvoorbeeld ontwikkelingen in productverkopen, klantgedrag en productie beter begrijpen. Dankzij machine learning en neurale netwerken kunnen zowel gestructureerde en ongestructureerde data worden geanalyseerd.

Prescriptive analytics gaat een stap verder en geeft aan welke beslissingen moeten worden genomen en wat moet worden gedaan om een doelstelling te realiseren. Op basis hiervan is het ook mogelijk om beslissingen te automatiseren en menselijke interventie te minimaliseren.

Deze analyse is niet gebaseerd op geprogrammeerde instructies (als dit, dan dat). Dankzij machine learning worden door het AI informatiesysteem patronen in de data gedetecteerd en algoritmes gedefinieerd voor het maken van voorspellingen en het doen van aanbevelingen.

Toepassing op strategisch en operationeel niveau

Ik pleit niet voor het robotiseren van leiderschap, maar wel voor het vergroten van de intelligentie bij het nemen van beslissingen door de inzet van AI informatiesystemen. Dit kan zowel op strategisch niveau (allocatie van kapitaal) als op operationeel niveau (optimalisatie) voordeel opleveren. Als je budgetten alloceert voor bijvoorbeeld onderzoek, productontwikkeling en marketing, kan AI helpen met analyses van historische gegevens van de eigen onderneming en van beslissingen en resultaten van concurrenten.

AI kan de CFO helpen die de financiering van de onderneming moet optimaliseren, door niet alleen interne financiële cijfers (metrics), maar ook ontwikkelingen op financiële markten, sentiment onder investeerders en algemene economische indicatoren in aanmerking te nemen.

Analyse van het interne e-mailverkeer kan meer zeggen over de betrokkenheid van de medewerkers en het risico dat mensen ontslag nemen dan een jaarlijks tevredenheidsonderzoek; uiteraard met inachtneming van de privacyregels. En een analyse van sociale media geeft eerder inzicht in de perceptie van klanten dan een traditioneel marktonderzoek.

Andere toepassingen zijn maximalisatie van de marge en optimalisatie van het voorraadbeheer door analyse van verkooptrends, prijsgevoeligheid, acties van concurrenten, marketingbudget, omvang van het verkoopapparaat en sentiment onder klanten.

Tijdens de financiële crisis hebben we vaak gehoord dat topbestuurders niet goed wisten wat er lager in de organisatie werd besloten, waardoor het kon gebeuren dat buiten het zicht van de directie financiële risico werden genomen die de onderneming veel geld hebben gekost. Dit zou met de juiste inzet van de Data Analytics kunnen worden voorkomen.

Data Quality Management

Het ultieme AI systeem maakt een digitaal model van de organisatie en daarvoor zijn veel data nodig. Op basis van informatie over input (de inzet van mensen en productiemiddelen) en output (resultaten) kunnen patronen worden geïdentificeerd en aanbevelingen worden gedaan.

De hoeveelheid data die wereldwijd wordt verzameld en opgeslagen, neemt exponentieel toe. Volgens SINTEF is 90% van de wereldwijd beschikbare data minder dan twee jaar oud. Voor organisaties blijkt het echter niet eenvoudig om relevante informatie op enigszins gestructureerde wijze toegankelijk te maken. Dit vraagt bijzondere attentie voor Data Quality Management. In dit verband ontstaat een nieuwe senior functie: Chief Analytics Officer.

Waarom managers nodig blijven

Hoewel AI systemen worden ontworpen ter ondersteuning van bestuurders, is het in de toekomst eenvoudig voor te stellen dat bestuurders die afwijken van het advies van een prescriptief informatiesysteem dat moeten verantwoorden. Het zou een nieuwe dimensie toevoegen aan het corporate governance principe “comply or explain” (pas toe of leg uit).

Natuurlijk blijven er beslissingen over die niet door AI systemen kunnen worden genomen of voorbereid. Om een algoritme te ontwerpen, heb je veel voorbeelden nodig en die zijn er niet voor uitzonderlijke situaties. Bovendien kunnen bestuurders en directeuren informatie hebben die de huidige omstandigheden veranderen. Denk aan nieuwe wet- en regelgeving of technologische doorbraken, die niet in de – per definitie historische – dataset zijn opgenomen. We hebben managers nodig om beslissingen te nemen als de informatie incompleet is en je toekomstige resultaten niet kunt herleiden uit historische cijfers.

Als de routinematige beslissingen door AI worden genomen, worden verantwoordelijkheid, empathie, creativiteit en originaliteit belangrijkere competenties voor directies dan operaties en financiën. Vragen stellen wordt belangrijker dan antwoorden geven.

Kijk uit voor de HiPPO

De grootste belemmering voor AI-gedreven besluitvorming in een organisatie is overigens het fenomeen HiPPO, de highest paid person’s opinion. Als gevolg van de Authority Bias vinden veel mensen het moeilijk om de bestbetaalde persoon in de groep tegen te spreken.

Daar staat tegenover dat het slecht management is om daar waar data en AI informatiesystemen beschikbaar zijn, besluitvorming slechts te baseren op een subjectieve mening, van wie dan ook.

Blog #8 – maart 2018

Nut en noodzaak van regelgeving voor kunstmatige intelligentie

Regelgeving moet, maar is niet eenvoudig te formuleren

In de 4^e Industriële Revolutie, waar we nu middenin zitten, zijn het vooral robotisering en de ontwikkeling van kunstmatige intelligentie die tot nieuwe welvaart zullen leiden. We hebben eerder in deze serie blogs voorbeelden gezien van nieuwe producten, diensten en verdienmodellen.

Daarnaast hebben we steeds gewezen op de gevaren en mogelijke negatieve gevolgen. Omdat kunstmatige intelligentie ook op onwenselijke manieren kan worden ingezet, concludeerden we aan het einde van het vorige blog (deel 7) dat regelgeving noodzakelijk is.

Wat mij betreft is het doel van regelgeving niet om de ontwikkeling van kunstmatige intelligentie terug te draaien of te stoppen en ook niet om de vervanging van banen door robots te verbieden. We moeten de technologische vooruitgang niet willen tegenhouden, als dat al zou kunnen. Het doel van regelgeving moet zijn om de ontwikkeling in goede banen te leiden.

In dit blog bespreken we op welke gebieden regelgeving voor kunstmatige intelligentie wenselijk is. We zullen zien dat het formuleren van regelgeving alles behalve eenvoudig is. Dit zijn de issues.

Aansprakelijkheid en moraliteit

Als je een product hebt gekocht dat niet goed werkt of dat schade veroorzaakt, kun je de fabrikant aansprakelijk stellen. Het onderscheid tussen een fout in het product en een fout van de gebruiker is in principe duidelijk. Als een auto-ongeluk wordt veroorzaakt doordat de bestuurder vergeet te remmen, is de bestuurder aansprakelijk. Als de oorzaak een technisch falen is (en de auto nieuw is en volgens de instructies is onderhouden en gebruikt, et cetera), dan is de fabrikant aansprakelijk.

Een zelfrijdende auto is zijn eigen bestuurder en dan ligt het voor de hand dat de fabrikant aansprakelijk is voor het falen van de algoritmes die de auto besturen. Ingewikkelder wordt het als het algoritme in een zelfrijdende auto moet kiezen uit alleen maar slechte opties. Als er plotseling een spookrijder op jouw weghelft verschijnt, mag de auto dan een fietser aanrijden om de berm in te kunnen rijden en een frontale aanrijding te voorkomen? Gaat de veiligheid van de één boven die van een ander?

Hoe leer een algoritme om een morele beslissing te nemen? Op MIT is de Moral Machine ontwikkeld met als doel om door middel van crowd-sourcing de morele beslissingen die mensen nemen in kaart te brengen. Wat doe je als je moet kiezen tussen het doden van 2 inzittenden of 4 voetgangers die oversteken terwijl het verkeerslicht op rood staat?

Bij zelflerende AI systemen is de aansprakelijkheid nog moeilijker vast te stellen. Neem een AI systeem dat medische diagnoses stelt. Kan de maker van het systeem aansprakelijk worden gehouden voor een onjuiste medische diagnose als de oorspronkelijke algoritmes zijn geüpdatet door machine learning? Overigens benadrukt IBM Watson dat het uitsluitend adviseert en dat de arts de finale beslissing neemt en verantwoordelijk blijft.

Existentiële bedreigingen

Het Europees Economisch en Sociaal Comité (EESC) heeft in 2017 advies uitgebracht aan de Europese Commissie, waarin wordt gepleit voor een “human-in-command” benadering. Uitganspunt is dat mensen altijd de controle over de machines moeten behouden. De vraag is echter of dit haalbaar is. Als auto’s zelfrijdend zijn, verliezen mensen de vaardigheid om een auto te besturen.

Bovendien hebben wedstrijden zoals die tussen de wereldkampioen Go en AlphaGo van Google Deepmind aangetoond dat kunstmatige intelligentie menselijke intelligentie kan overstijgen. Hoe gaan mensen de zelflerende algoritmes controleren? Hoe voorkomen we dat algoritmes een black box vormen, die door mensen niet meer te begrijpen is? We kunnen hooguit de uitkomsten proberen te verifiëren.

Van alle autonome systemen, zijn de autonome wapensystemen verreweg het meest controversieel. Drones die zijn uitgerust met een machinegeweer en op afstand worden bestuurd, bestaan al langer. Het is technisch haalbaar om deze drones autonoom te maken, dat wil zeggen dat zij zonder menselijke interventie beslissen over leven en dood. Voeg software toe die gezichten kan herkennen en je bent een heel eind. De “Campaign to Stop Killer Robots” heeft een video gemaakt die illustreert wat er zou kunnen gebeuren.

Nepnieuws en filterbubbels

Zoekmachines (zoals Google) en sociale media (zoals Facebook) maken gebruik van algoritmes die selecteren welke informatie je te zien krijgt, bijvoorbeeld op basis van je locatie en je online surfgedrag. Zo kan het gebeuren dat je alleen informatie te zien krijgt die je eigen mening bevestigt en tegenargumenten worden uitgefilterd. Als onafhankelijke en objectieve journalistiek het aflegt tegen propagandistisch nepnieuws, kan dat de democratie ondermijnen.

Dit onderwerp staat hoog op de agenda van de Europese Commissie, die in april 2018 met een plan wil komen. De vraag is hoe je effectief kunt optreden tegen nepnieuws zonder de vrijheid van meningsuiting te beperken. Als de overheid nieuwsorganisaties of nieuwsberichten gaat beoordelen, zou dat een vorm van censuur zijn. En zelfcensuur om boetes te voorkomen, is al niet veel beter. Moeten we de democratie beschermen met ondemocratische maatregelen?

Datamonopolies en geopolitieke verhoudingen

AI systemen zijn slechts zo goed als de data waarover zij kunnen beschikken. De grote technologiebedrijven snappen dat data de ‘nieuwe olie’ is en doen er alles aan om zoveel mogelijk data te verzamelen. In de digitale economie leiden netwerkeffecten tot een ‘winner-takes-all’ dynamiek. De grootste vijf technologiebedrijven Apple, Alphabet, Microsoft, Amazon en Facebook zijn machtige datamonopolies geworden.

China heeft zijn data effectief beschermd door deze Amerikaanse bedrijven geen toegang te geven tot de Chinese markt, waarop Tencent en Alibaba grootmachten zijn. Europese bedrijven van een vergelijkbare omvang en reikwijdte zijn er niet. Europese data staan vooral op servers van Amerikaanse ondernemingen. De General Data Protection Regulation (GDPR) die in mei 2018 van kracht wordt, geeft Europese burgers meer zeggenschap over hun data, maar het is twijfelachtig of dit voldoende is. Zoals Standard Oil aan het eind van de 19^e eeuw werd opgedeeld omdat het 90% van de markt beheerste, zouden we nu ook de datamonopolies moeten opknippen op zo’n manier dat Europese data in Europese handen komen.

Maatschappelijke discussie over ethische principes als voorloper op regelgeving

Sommige overheden willen de digitalisering extra bevorderen door robots burgerrechten te geven. Saudi-Arabië heeft de robot Sophia, die er uit ziet als een vrouw, in oktober 2017 staatsburger gemaakt. Ik ben hier geen voorstander van. Er is inmiddels voldoende bekend over de gevaren van kunstmatige intelligentie dat we weten dat het humanisme en de macht van de mens over de machine actief moeten worden beschermd.

Verschillende internationale organisaties, zoals Future of Life Institute en AI For Good Foundation, alsmede universiteiten, zoals TU Delft en Stanford, hebben manifesten met ethische principes voor kunstmatige intelligentie gepubliceerd. Terugkerende thema’s daarin zijn dat AI systemen moeten worden ontworpen ten behoeve van mensen, dat de systemen transparant en controleerbaar moeten zijn en dat de beslissingen op basis van algoritmes omkeerbaar en vrij van vooroordelen moeten zijn. Het zijn ethische principes die de komende jaren hun weg zullen vinden in nieuwe regelgeving.

Blog #7 – februari 2018

Is kunstmatige intelligentie een bedreiging voor de mensenrechten?

Angst voor kunstmatige intelligentie is terecht

Bij mijn lezingen over robotisering en kunstmatige intelligentie komen na enige tijd steevast de vragen uit het publiek over de gevaren van de technologie. Neemt kunstmatige intelligentie de macht van de mensen over? Waarom zouden alle slechte dingen die je met kunstmatige intelligentie kunt doen niet daadwerkelijk gaan gebeuren? Zal kunstmatige intelligentie leiden tot de ondergang van de mensheid?

Het zijn existentiële vragen die verdergaan dan de discussie over de impact van robotisering op werkgelegenheid en het managen van de transitie naar een arbeidsmarkt waarin al het routinematige werk door computers wordt uitgevoerd. Het debat over de potentiële negatieve effecten van kunstmatige intelligentie is belangrijk om de verdere technologische ontwikkeling in goede banen te leiden.

Tijdens het World Economic Forum in Davos in januari 2018 stond dit onderwerp voor het eerst prominent op de agenda. En terecht. Eén van de sprekers was Yuval Noah Harari. Hij is de auteur van één van de beste boeken van de afgelopen jaren: Homo Deus. Hij beschrijft hoe de autoriteit en de vrije wil van de mens wordt ondermijnd naarmate wij meer beslissingen overlaten aan algoritmes totdat uiteindelijk humanisme en liberalisme plaats maken voor dataism. Hij legt op een goed onderbouwde en plausibele manier uit hoe degenen die de data controleren, de toekomst van de mensheid en van het leven zelf bepalen. Als organismen biochemische algoritmes zijn, zal de combinatie van informatietechnologie en biotechnologie resulteren in machines die ons beter kennen dan wij onszelf kennen. Zo kunnen nieuwe, digitale dictaturen ontstaan. Zijn alarmistische boodschap vindt steeds meer gehoor.

Van narrow AI naar general AI en AI met zelfbewustzijn

De toepassingen van kunstmatige intelligentie die we momenteel het meest gebruiken, zijn vooral bedoeld om mensen te assisteren op een specifiek terrein. We spreken van narrow AI. Denk aan vertalingen van Google Translate, spraakondersteuning door Siri van Apple, zelfrijdende auto’s, chatbots die de klantenservice vervangen en expertsystemen voor artsen en juristen van IBM Watson. Het zijn voorbeelden van toepassingen die laten zien dat de kunstmatige intelligentie op deelterreinen de menselijke intelligentie overstijgt. De sociale en economische gevolgen zijn groot. We zien grote verschuivingen op de arbeidsmarkt en op de beurs zijn de vijf grootste bedrijven van de wereld, gemeten naar beurswaarde, vijf Amerikaanse technologiebedrijven: Apple, Alphabet, Microsoft, Amazon en Facebook. Zij worden op de voet gevolgd door hun Chinese evenknieën Alibaba en Tencent.

De ontwikkeling van kunstmatige intelligentie houdt hier niet op en verbreedt zich van narrow AI naar general AI en Artificial Superintelligence. We hebben het dan over AI systemen die zelfbewust en autonoom zijn. Ze kunnen kennis verwerken en reproduceren, leren, redeneren en strategisch plannen. Als de machines intelligenter zijn dan de mensen die de machines hebben gemaakt en hun eigen agenda hebben, moeten we ons zorgen gaan maken. Stephen Hawking was één van de eerste wetenschappers die waarschuwde voor machines die mensen kunnen manipuleren en wapens kunnen ontwikkelen die zich tegen mensen keren, waarmee de menselijke soort ophoudt te bestaan. Ook Elon Musk heeft AI een fundamenteel risico voor het voortbestaan van de menselijke beschaving genoemd.

De snelheid waarmee AI slimmer wordt, zien we bijvoorbeeld bij AlphaGo van Google Deepmind. In mei 2017 versloeg deze computer de beste Go speler van de wereld, Ke Jie. Deze computer was getraind aan de hand van wedstrijden die in het verleden door mensen waren gespeeld. De volgende versie, AlphaGo Zero, kreeg als input alleen de spelregels mee en leerde het spel door uitsluitend tegen zichzelf te spelen. Het systeem had 21 dagen nodig om op het niveau van zijn voorganger te komen.

Fusie van menselijk brein en AI

Het onderscheid tussen mensen en machines lijkt heel duidelijk, maar zal gaan vervagen. We kunnen nu al patiënten met de ziekte van Parkinson of epilepsie helpen met implantaten in de hersenen. De volgende stap is om het brein van gezonde mensen door middel van brain-computer interfaces te upgraden. Bedrijven zoals Neuralink en Kernel werken aan de fusie van biologische intelligentie en kunstmatige intelligentie, waardoor bijvoorbeeld je geheugen verbetert, je sneller kunt denken en een directe interface krijgt met een computer. Ook kun je zo een digitale kopie van jezelf maken. De vraag is of je bij dergelijke brain-computer interfaces nog kunt achterhalen of de oorsprong van je gedachten en ideeën in je eigen brein ligt of in een computer. Uiteindelijk zijn ook onze emoties biochemische algoritmes die AI systemen steeds beter leren begrijpen en kunnen beïnvloeden.

Naar een ethisch raamwerk voor AI

Ondanks de onmiskenbare risico’s, gaat de ontwikkeling van kunstmatige intelligentie verder. We kunnen niet terug in de tijd en houden de ontwikkeling niet tegen, maar we hebben wel invloed op de wijze waarop de technologie wordt ingezet. De technologie biedt verschillende opties en de toepassing daarvan hangt af van de keuzes die mensen maken. Het is zoals Andrew Mcafee en Erik Brynjolfsson schrijven in hun boek Machine Platform Crowd: ‘So we should ask not “What will technology do to us?” but rather “What do we want to do with technology?” More than ever before, what matters is thinking deeply about what we want. Having more power and more choices means that our values are more important than ever.’

Met andere woorden, de vraag is hoe we de menselijke autonomie in stand houden te midden van machines die ons brein hacken en in staat zijn autonoom beslissingen te nemen. Ook tijdens het World Economic Forum bleek dat er nog geen pasklare antwoorden zijn. Het ethisch debat over de doelstellingen en principes van kunstmatige intelligentie is nog maar net begonnen en heeft tot nu toe vooral suggesties opgeleverd voor een ethisch raamwerk, waarin bijvoorbeeld wordt vastgelegd dat AI systemen moeten worden ontworpen ten behoeve van mensen, dat de beslissingen van die systemen controleerbaar en omkeerbaar moeten zijn en dat de algoritmes vrij van vooroordelen moeten zijn.

In het volgende blog gaan we nader in op de regelgeving voor de ontwikkeling van kunstmatige intelligentie en op de noodzaak om de macht van datamonopolies in te perken.

Blog #6 – december 2017

Ontwrichting van de arbeidsmarkt

AI raakt niet alleen laaggeschoold werk

Veel mensen denken dat het vooral laaggeschoold werk is dat door robots en kunstmatige intelligentie zal worden overgenomen. Naarmate het werk moeilijker wordt, zou het minder eenvoudig te robotiseren zijn. Dit is een hardnekkig misverstand. Hoogopgeleiden wanen zich ten onrechte veilig.

Voor kunstmatige intelligentie is het aantal jaren studie dat mensen nodig hebben om een vak te leren geen relevant criterium. Alle activiteiten die een routinematig karakter hebben, kunnen door kunstmatige intelligentie worden overgenomen. Ook in goedbetaalde banen, waarvoor vele jaren moet worden gestudeerd en academische titels zijn vereist, zit vaak veel routine. En hoe meer routine, hoe meer data er beschikbaar zijn en hoe beter kunstmatige intelligentie die activiteiten kan aanleren.

Zoals we in een eerder blog hebben toegelicht, worden moderne kunstmatige intelligentiesystemen niet geprogrammeerd, maar zijn zij zelflerend door het gebruik van neurale netwerken. Aan de hand van voorbeelden stellen zij trends en patronen in de data vast. De nauwkeurigheid neemt toe naarmate de machine meer ervaring en meer feedback krijgt. Dit kan overigens heel snel gaan, want als 100 mensen hetzelfde AI systeem gebruiken, leert het systeem op 100 plaatsen tegelijk en combineert het al die ervaringen ten behoeve van iedereen.

Kwetsbare beroepen: van fabrieksarbeider tot advocaat

De eerste robots zagen we in autofabrieken om het werk van de mensen langs de lopende band over te nemen. Dit levert niet alleen een besparing op aan loonkosten, maar bevordert ook de kwaliteit, omdat robots iedere keer precies hetzelfde doen. Naar de huidige maatstaven zijn deze robots vrij dom. Ze reageren niet op hun omgeving en zijn niet zelflerend.

Moderne robots die dat dankzij kunstmatige intelligentie allemaal wel kunnen, raken veel meer beroepen. Zelfrijdende auto’s, vrachtwagens en bussen maken chauffeurs overbodig. Het werk van bezorgers kan worden overgenomen door drones, waar onder andere Amazon mee experimenteert. Domino’s werkt aan een zelfrijdende pizza bezorger, de DRU (Domino’s Robotic Unit).

https://www.youtube.com/embed/LgvBlsTpsHs?feature=oembed De klantenservice van de toekomst wordt voor een groot deel gedaan door chatbots, zoals we bespraken in deel 2 van deze blogserie. Op Facebook Messenger vind je inmiddels meer dan 11 duizend chatbots. De chatbottechnologie is in eerste instantie ontwikkeld voor het Engels en komt nu ook naar de kleinere taalgebieden, zoals het Nederlands. KLM is een voorloper en biedt momenteel klantenservice via Messenger aan in 9 talen.

Op het platform IBM Watson draaien verschillende applicaties die het werk van hoogopgeleide professionals ingrijpend veranderen. Voor artsen levert Watson een expertsysteem waar geen mens meer tegenop kan. Watson analyseert alles wat er op het gebied van oncologie is gepubliceerd en geeft op basis daarvan voor een individuele patiënt een diagnose en een behandelplan, inclusief de verwachte kans van slagen. In een onderzoek in de Verenigde Staten werden 1018 patiëntendossiers voorgelegd aan Watson en aan een panel van oncologen. In 96 gevallen waarin het panel geen behandelmogelijkheden zag, vond Watson die wel. Een oncoloog die alle literatuur wil bijhouden, zou daar 160 uur per week voor nodig hebben. Dit is praktisch onmogelijk en maakt ondersteuning door een AI systeem onontbeerlijk.

Een vergelijkbare toepassing, genaamd Ross, is in ontwikkeling voor de advocatuur. In de Verenigde Staten werken inmiddels meer dan 20 advocatenkantoren met Ross, die het onderzoekswerk uit handen neemt. Als er een nieuwe casus binnenkomt, geeft Ross aan welke artikelen in de wet van toepassing zijn en wat de verwachte uitkomst is op basis van de jurisprudentie. Wat ooit vele uren werk was en veel kennis vereiste, wordt volledig geautomatiseerd.

Krijgen we massale werkloosheid?

We hebben hierboven slechts een kleine selectie van beroepen genoemd die door AI ingrijpend veranderen. Het is voldoende om de vraag op te werpen die ook veel politici bezighoudt: gaat kunstmatige intelligentie leiden tot massawerkloosheid?

Recent en veel geciteerd onderzoek van McKinsey laat zien dat in de ontwikkelde economieën tot 2030 ongeveer een kwart van het werk zal worden vervangen door automatisering. Wereldwijd betreft het 400 miljoen mensen.

De angst van massawerkloosheid als gevolg van technologische ontwikkeling is begrijpelijk, maar als we afgaan op de geschiedenis, niet nodig. Toen het overgrote deel van de mensen nog op het land werkte en de landbouw mechaniseerde, werden dezelfde vragen gesteld. Er ontstond een industriesector, waarin veel mensen weer werk vonden. En toen de fabrieken efficiënter werden en productie naar lagelonenlanden verhuisde, groeide hier de dienstensector. Ook nu zien we veel banen in nieuwe sectoren ontstaan. Om een voorbeeld te geven: er werken meer mensen in de duurzame energie dan in de fossiele energie. De kans is groot dat we, als we over 25 jaar terugkijken, tot de conclusie komen dat het allemaal weer goed is gekomen met de economie en de werkgelegenheid.

Dat is het macroperspectief. Je zult maar degene zijn wiens baan wordt gerobotiseerd, werkloos worden en geen mogelijkheden meer zien om iets nieuws te beginnen. Niet iedereen beschikt over voldoende aanpassings- en leervermogen om de overstap naar de nieuwe economie te maken. Op microniveau maakt de technologische ontwikkeling slachtoffers en dat vraagt om passende maatregelen.

Hoe managen we de transitie?

Een baan die door de technologische vooruitgang is verdwenen, komt nooit meer terug. We kunnen wel inzetten op het creëren van nieuw werk. We hebben niet alleen mensen nodig die de technologie ontwikkelen, maar ook om die te implementeren. Denk aan de herinrichting van processen in organisaties. Ook zijn er nieuwe banen in de interactie tussen mensen en robots. Mensen moeten leren met robots om te gaan en andersom.

Er ligt een grote uitdaging voor het onderwijs om mensen op te leiden voor werk dat nu nog niet bestaat. Hier komen we in een later blog op terug. De arbeidsmobiliteit neemt toe en de arbeidsmarkt wordt steeds flexibeler. Kunstmatige intelligentie gaat helpen om een goede match te maken tussen baan en kandidaat.

Verder is de discussie over het basisinkomen weer actueel, omdat dat een belangrijk middel kan zijn om mensen die hun baan verliezen te helpen om nieuw werk te vinden. In verschillende landen worden hier experimenten mee gedaan, onder andere in Finland waar sinds begin 2017 2000 mensen een basisinkomen hebben gekregen. Enkele vergelijkbare experimenten in Nederland kennen zoveel voorwaarden, zoals een sollicitatieplicht, dat die geen basisinkomen mogen heten. Het zou goed zijn om hier niet door dogma’s gedreven over te discussiëren, maar daadwerkelijk te testen of mensen lui worden van een basisinkomen of juist creatief.

Tenslotte hebben bedrijven een verantwoordelijkheid om te anticiperen op de technologische ontwikkelingen. Een tijdige en beheerste transitie is altijd beter, zowel voor de continuïteit van de onderneming als voor de medewerkers.

Blog #5 – november 2017

Hoe AI impact heeft op alle bedrijfsonderdelen

Er is geen ontkomen aan

In eerdere blogs in deze serie hebben we onder andere de impact van kunstmatige of artificiële intelligentie (AI) besproken op de afdelingen klantenservice en Human Resource Management. Dit blog laat zien dat alle bedrijfsonderdelen de impact van AI ervaren. Wie een strategisch plan maakt voor de komende 3 tot 5 jaar kan niet meer om AI heen.

Vraagvoorspelling

Wat als je een betere projectie had van de vraag naar je producten? Je zou minder weggooien, minder voorraad aanhouden en geen nee-verkopen hebben. In sectoren met hoge omloopsnelheden en lage marges, zoals retail, maakt dit een groot verschil voor de winstgevendheid van de onderneming. De omzet gaat omhoog en de kosten van productie, opslag en logistiek nemen af.

Dankzij AI en big data worden de algoritmes voor het voorspellen van de vraag steeds complexer en geavanceerder. Naast de historische gegevens over de vraagontwikkeling, kunnen ook lokale weersverwachtingen, veranderingen in reacties van klanten op sociale media, prijswijzigingen van concurrenten en recente media-aandacht worden meegenomen. Niet alleen de nauwkeurigheid, maar ook de frequentie neemt toe. Vraagvoorspelling kan doorlopend worden geüpdatet, waarbij real-time niet ondenkbaar meer is.

Markt- en productontwikkeling

Vraagvoorspelling is ook mogelijk voor nieuwe producten en nieuwe markten. Als je de vraag naar je bestaande producten goed begrijpt en weet op welke attributen consumenten reageren, kun je ook voorspellen wat nieuwe productvarianten zullen opbrengen. Dit bespaart kosten van markttesten en reduceert de time-to-market.

Hetzelfde geldt voor het effect van het uitbreiden van je distributienetwerk. Je kunt goed inschatten hoe succesvol de verkoop in een nieuwe regio of nieuw land zal zijn. Voorwaarde is wel dat er voldoende data beschikbaar zijn. Bij nieuwe producten, waarnaar de vraag nog moet worden gecreëerd, lukt dit uiteraard niet. Algoritmes zijn slechts zo goed als de data waar zij over kunnen beschikken.

Productie en logistiek

Robots worden dankzij AI steeds slimmer en op meer terreinen inzetbaar. De eerste robots in fabrieken waren relatief dom: zij stonden op een vaste plaats en voerden steeds precies dezelfde handeling uit. Moderne robots zijn uitgerust met sensoren en bewegen zelfstandig door de ruimte. De technologie voor het herkennen van objecten (en gezichten) is zo goed geworden dat robots waarnemen wat er om hen heen gebeurt. Zij botsen nergens tegenaan.

Onderstaande video laat het magazijn van Alibaba in China zien. Dat van Amazon in de Verenigde Staten ziet er vrijwel hetzelfde uit.

https://www.youtube.com/embed/bvEzDNxj7hA?feature=oembed De aansturing van deze robots is afhankelijk van AI. De afstemming van de activiteiten van de robots onderling en het aanpassen van routes in geval van een storing is volledig computergestuurd.

Er komen ook robots die het juiste product uit een schap kunnen halen. Deze worden geprogrammeerd door de handeling een keer voor te doen. Een robot instructeur (nieuw beroep) pakt de robotarm en maakt daarmee de juiste bewegingen. Dankzij machine learning is de robot in staat de handeling niet alleen te herhalen, maar ook te verbeteren.

In een productieomgeving kunnen AI en robots processen versnellen, kosten verlagen en output verhogen. Door de nauwkeurigheid van de machines neemt het aantal fouten af en de kwaliteit toe. Uitval van machines wordt beperkt door sensoren die aangeven wanneer preventief onderhoud moet plaatsvinden.

Marketing en verkoop

Dynamische prijsbepaling kennen we al langer van vliegtickets en hotelkamers en wordt voor steeds meer productcategorieën toegepast. Algoritmes stellen de prijs vast op basis van een inschatting van wat de consument bereid is te betalen. Veel factoren spelen hierbij een rol, zoals de dag van de week, het seizoen en het weer. Prijzen kunnen verschillen per verkoopkanaal (online, offline) en zelfs gedurende de dag worden aangepast, bijvoorbeeld in reactie op prijswijzigingen bij concurrenten. Algoritmes kunnen ook rekening houden met de locatie waarop je je bevindt, het merk en type van het apparaat waar je mee werkt en je historisch koopgedrag. Zo kan het gebeuren dat niet iedere consument dezelfde prijs betaalt.

Reclames worden dankzij AI steeds persoonlijker. Niet iedereen krijgt online dezelfde banners te zien en niet iedereen ontvangt van winkelbedrijven dezelfde aanbiedingen. Albert Heijn weet dankzij de bonuskaart precies wat je normaal gesproken koopt en stemt persoonlijke aanbiedingen daarop af. Een klant die een voorkeur heeft voor A-merken, krijgt geen aanbiedingen voor huismerken. En wie geen luiers koopt, is ook niet geïnteresseerd in babyvoeding. De data maken duidelijk welke consument je met welke boodschap op welk moment kunt overtuigen om iets te kopen en tegen welke prijs.

Ook Burberry gebruikt AI om de verkoop te bevorderen, zowel online als in de winkel. Via hun loyalty programma’s verzamelen zij zo veel mogelijk gegevens over hun klanten op basis waarvan suggesties voor vervolgaankopen worden gedaan. Medewerkers in de winkel zien op een tablet voor welk product zij de klant waarschijnlijk enthousiast kunnen maken.

Nieuwe klantervaringen

Goede voorbeelden van nieuwe klantervaringen dankzij AI komen vaak van startups. Uber heeft alle pijnpunten van het traditionele taxivervoer, zoals onzekerheid bij de klant over de aanrijtijd, de ritprijs en de kwaliteit van de chauffeur weten weg te nemen. Maaltijdbezorgdiensten zoals TakeAway.com, Foodora en Deliveroo maken gebruik van AI voor het plannen van hun routes. En Trivago zoekt op een paar honderd websites naar de laagste prijs van een hotelkamer.

Aan de slag

AI raakt alle bedrijfsonderdelen en kan een groot verschil maken voor de positionering en winstgevendheid van een onderneming. Voor organisaties in alle sectoren, zowel profit als non-profit, is er alle reden om actief met kunstmatige intelligentie aan de slag te gaan.

Een goed begin is om strategische opties te ontwikkelen. Welke mogelijkheden biedt AI voor het verbeteren van je bestaande producten en processen? Wat kun je doen om je omzet te vergroten en klanten aan je te binden? Welke nieuwe diensten kun je ontwikkelen voor nieuwe markten?

Voor het systematisch inventariseren van de trends, het ontwikkelen van scenario’s en het opstellen van een strategische roadmap zijn diverse methoden beschikbaar. Een business case maken is een logisch vervolg, maar als je echt iets nieuws doet en cijfers weinig houvast bieden, kun je net zo goed meteen beginnen met experimenteren.

Blog #4 – november 2017

AI vergroot onze veiligheid ten koste van onze privacy

Jij ziet de camera misschien niet, maar de camera ziet jou wel

De smart phone en sociale media hebben ons veel goeds gebracht. We hebben op elk moment en overal toegang tot alle mogelijke informatie, kunnen gemakkelijk contact onderhouden met familie en vrienden en online diensten hebben het leven op veel terreinen verrijkt.

Ook op het gebied van veiligheid hebben we nieuwe en relatief goedkope mogelijkheden gekregen. Een paar camera’s, die bewegingen rond het huis opnemen en in de cloud opslaan, helpen om je spullen te beveiligen. Met een camera op het dashboard van je auto (dashcam) film je de weg en de auto’s voor je, zodat je bij een botsing nog eens kunt terugkijken wat er precies gebeurde. En in het hele land informeren burgers elkaar over verdachte situaties in de buurt via WhatsApp.

Overheden en bedrijven doen op dit gebied hun voordeel met de vergaande mogelijkheden van kunstmatige intelligentie. Camera’s op satellieten kunnen vanuit de ruimte gezichten herkennen en vermommingen zijn nog nauwelijks een obstakel. Wie ziet wat er allemaal al kan, realiseert zich dat altijd bereikbaar zijn niet hetzelfde is als altijd vindbaar zijn.

Van ‘predictive policing’ tot totalitaire staat

Democratisch gecontroleerde overheden die gebruik maken van big data analyses en kunstmatige intelligentie ten behoeve van de veiligheid van burgers roepen weinig weerstand op.

Zo is er weinig aan te merken op het Criminaliteits Anticipatie Systeem (CAS), dat de Nationale Politie na een succesvolle pilot momenteel verder uitrolt. CAS is een systeem voor ‘predictive policing’ en voorspelt waar en wanneer misdrijven zoals straatroof en inbraak plaatsvinden. Het systeem laat op een rasterkaart van Nederland in vakken van 125 bij 125 meter zien op welke plaatsen (Hot Spots) en op welke momenten (Hot Times) de kans het grootst is dat misdrijven plaatsvinden.

In het Eindhovense uitgaansgebied Stratumseind hangen camera’s met microfoons. Beeld en geluid worden door middel van software geanalyseerd. Als er signalen zijn, zoals geschreeuw en rennende mensen, die erop duiden dat de situatie uit de hand kan lopen, wordt automatisch een melding gemaakt naar de politie. Die kan dan ter plaatse gaan en escalatie voorkomen. Ook gegevens van sociale media worden meegenomen in de analyse. Dit is een project van Atos, Dutch Institute of Safety & Security (DITSS) en Intel.

In Eindhoven worden gezichten onherkenbaar gemaakt om de privacy van de mensen op straat te beschermen. In andere landen wordt privacy minder belangrijk gevonden. Het Risk Assessment and Horizon Scanning (RAHS) programma in Singapore gaat bijvoorbeeld veel verder. Online en offline gedrag worden gemonitord om vast te stellen hoe het sentiment onder de bevolking zich ontwikkelt. De overheid anticipeert hierop met als doel om het risico op sociale onrust te minimaliseren.

In China wordt op de luchthaven van Shenzhen Bao’an gepatrouilleerd door politierobot AnBot. Deze robot gebruikt gezichtsherkenning om criminelen te identificeren. De robot kan verdachte personen volgen tot de agenten arriveren of tijdelijk uitschakelen met behulp van een stroomstootwapen (taser) die vanuit de controlekamer wordt bediend.

Ook in Dubai zet de politie robots in, onder andere voor het opnemen van aangiftes en het innen van bekeuringen. Het doel is dat de politie in 2030 voor 25% uit robots bestaat.

Surveillance en beïnvloeding door bedrijven

Surveillance behoort tot het domein van de overheid, maar ook bedrijven weten veel van je. Online moeten consumenten een afweging maken tussen gemak en privacy. Het is handig en efficiënt dat je sociale media accounts, je zoekmachine en je email allemaal aan elkaar gekoppeld zijn. De keerzijde is dat alles wat je online doet, gegevens oplevert waarmee AI systemen een gedetailleerd klantprofiel van je opbouwen. Dit maakt het mogelijk om je persoonlijke advertenties te laten zien. Dit is belangrijk omdat het business model van sociale media en zoekmachines is gebaseerd op advertentie-inkomsten. Shoshana Zuboff (Harvard Business School) noemt dit “surveillance capitalism”.

Je kunt uiteraard redeneren dat hier niets nieuws onder de zon is. Bedrijven hebben altijd al marktonderzoek gedaan en gegevens van klanten verzameld om hen zo goed mogelijk van dienst te zijn. Waar de grens ligt tussen het inspelen op de behoefte van klanten en het manipuleren of misleiden van klanten is een ethische vraag, waar niet altijd een eenduidig antwoord op is.

Neem het fenomeen van de filter-bubble. Als twee mensen dezelfde zoekopdracht geven, krijgen zij verschillende resultaten te zien op basis van eerder vertoond surfgedrag. Een algoritme bepaalt welke informatie voor een ieder het meest relevant is. Dat is in de meeste gevallen heel handig, maar kan ook tot ongewenste neveneffecten leiden. In de Verenigde Staten is er bijvoorbeeld discussie over de vraag of de algoritmes van Facebook de uitslag van de presidentsverkiezingen hebben beïnvloed.

Democratisering dankzij AI

Camera’s en AI zijn ook krachtige instrumenten voor burgers die zich tegen onrechtmatige handelingen van de overheid willen verzetten. Zo zien we met enige regelmaat camerabeelden van buitensporig politieoptreden waarmee de politie publiekelijk ter verantwoording wordt geroepen. De transparantie neemt toe en de verspreiding van informatie via internet is moeilijk tegen te gaan.

In het Verenigd Koninkrijk heeft Joshua Browder de chatbot DoNotPay gelanceerd. Hiermee kun je snel en gratis bezwaar maken tegen parkeerboetes, brieven sturen naar je huisbaas over het ontbreken van veiligheidsmaatregelen en schadeclaims indienen bij luchtvaartmaatschappijen voor verloren bagage. De chatbot is inmiddels al enkele honderdduizenden keren met succes gebruikt. Veel van dergelijke claims worden nooit ingediend omdat mensen niet weten hoe dat moet en omdat advocaten hiervoor te duur zijn.

Zorgen over privacy zijn terecht

Het is onmiskenbaar dat AI en andere technologieën de privacy beperken. Iedereen die een mobiele telefoon bij zich heeft, is traceerbaar. Zoekmachines weten wie je bent en hebben een oneindig geheugen. Democratische controle op AI is een logische ambitie, maar niet eenvoudig realiseerbaar, want de technologische ontwikkelingen gaan sneller dan de instituties kunnen reageren.

Voor de meeste mensen wegen de voordelen van AI op tegen de inperking van de privacy. De vraag is of dit zo blijft. Bedrijven doen er goed aan zich voor te bereiden op een intensivering van het maatschappelijk debat over de grenzen van AI en privacy. Niet alleen omdat de overheid eisen stelt, maar vooral om de relatie met de consument te bewaken.

Blog #3 – oktober 2017

De HR functionaris of slimme software: wie selecteert de beste mensen?

HRM is toch mensenwerk?

Human Resource Management. Je zou denken dat juist de HRM functie binnen een onderneming mensenwerk is en dat robotisering en kunstmatige intelligentie hier weinig toegevoegde waarde hebben. Niets is minder waar. Naast onder andere HealthTech, FinTech en LegalTech is ook HR Tech een snel groeiende business met nieuwe oplossingen voor alle kritische HRM functies, zoals werving & selectie, beloning en loopbaanplanning.

HR Tech laat nog eens zien dat iedereen die denkt dat AI geen gevolgen heeft voor zijn werk omdat het hooggeschoold werk betreft, zich vergist. Voor AI is dat namelijk niet het criterium. Als het werk routinematig is, is het voorspelbaar en daarmee geschikt om uit te laten voeren door algoritmes. Binnen HRM vinden we veel werkzaamheden die routinematig zijn.

Bovendien zijn AI systemen steeds beter in staat zijn om menselijke vaardigheden, emoties en drijfveren te doorgronden. De virtuele HR assistent ontwikkelt zich tot een zelfstandige HR professional.

Werving en selectie

In een krappe arbeidsmarkt is het voor bedrijven moeilijk om de juiste mensen te vinden en aan zich te binden. Phenom People biedt een systeem aan voor Talent Relationship Management (TRM), gebaseerd op het bekende Customer Relationship Management (CRM). Dit helpt om efficiënt en professioneel met kandidaten te communiceren, een pijplijn van talent op te bouwen en via verschillende media gerichte campagnes te organiseren.

Ook TalentHero helpt om de informatie die over kandidaten en medewerkers beschikbaar is systematisch te verzamelen en te analyseren. Algoritmes kiezen de mensen die het meest geschikt zijn om je vacatures te vervullen en uit te nodigen voor een sollicitatiegesprek.

Applicaties zoals Impress.ai en Mya gaan een stap verder en doen de eerste ronde selectiegesprekken voor je. Het zijn chatbots die kandidaten interviewen en beoordelen. Het systeem creëert zelf een interviewscript op basis van de competenties die voor een functie belangrijk zijn. Alleen de best presenterende kandidaten nodig je uit voor een persoonlijke kennismaking.

HireVue analyseert niet alleen getypte tekst, maar ook videobeelden. Hier komt de beoordeling van de kandidaten mede tot stand op basis van gezichtsuitdrukking, stemgebruik en woordkeuze. Het systeem reageert op micro-expressies, die ons als mensen vaak ontgaan.

Een bijkomend voordeel van deze systemen is dat vooroordelen van recruiters geen invloed hebben op de selectie. Dit kan helpen om de diversiteit binnen organisaties te vergroten. Voorwaarde is wel dat algoritmes zonder vooroordelen worden geprogrammeerd en dat zelflerende algoritmes de onbewuste, maar ongewenste voorkeuren van mensen niet overnemen. Zie ook deel 1 van deze blogserie.

Bij online sollicitaties worden vaak scenario’s gebruikt van situaties die zich in de praktijk voordoen om te zien welke keuzes de kandidaten maken en om hun sociale intelligentie te testen. Met de snelle ontwikkelingen in virtual reality kunnen de werkomstandigheden nog levensechter worden gepresenteerd en kun je de reacties van kandidaten veel beter beoordelen dan in het gebruikelijke sollicitatiegesprek.

Onboarding, arbeidsvoorwaarden en loopbaanbegeleiding

Routinematig is ook het onboarding proces van nieuwe medewerkers. Ze moeten allemaal dezelfde formulieren invullen, doorlopen dezelfde procedures, krijgen dezelfde informatie en hebben vaak dezelfde vragen. Hier kan een chatbot prima bij helpen.

HRM afdelingen krijgen veel vragen van medewerkers over de secundaire arbeidsvoorwaarden, zoals pensioen, reiskostenvergoeding, trainingsbudget en overwerktoeslagen. Slimme systemen kunnen medewerkers informeren en helpen om keuzes te maken die aansluiten bij hun persoonlijke omstandigheden en behoeften.

Steeds meer bedrijven stappen af van de jaarlijkse beoordeling door de direct leidinggevende. In plaats daarvan worden kortere termijn doelen gesteld en wordt met grote regelmaat 360 graden feedback verzameld. Systemen zoals Zugata helpen om dit proces te organiseren en leveren bovendien tools ter bevordering van zelfinzicht en persoonlijke ontwikkeling.

HRM als strategisch partner

In veel directies neemt HRM een prominente plaats is vanwege het belang dat de organisatie hecht aan het vinden en vasthouden van de juiste mensen. Ook hier kunnen AI systemen bij helpen.

Een veelgebruikt instrument is een tevredenheidsonderzoek onder medewerkers. Veel bedrijven hebben de score voor betrokkenheid (engagement) in de persoonlijk doelstellingen van managers opgenomen. Het onderzoek kent echter beperkingen. Het is momentopname en sommige resultaten kun je van verre zien aankomen; over salaris en communicatie zijn medewerkers zelden zeer tevreden.

Door middel van AI kun je analyses maken van reeds in de organisatie beschikbare gegevens en daar trends in aangeven. Zo worden ook onverwachte verbanden blootgelegd, bijvoorbeeld tussen het aantal uren overwerk en het aantal mensen dat ontslag neemt. Ook zijn er AI systemen die de tone of voice in emails die collega’s onderling uitwisselen analyseren en daarmee een ontwikkeling in de interne sfeer kunnen aangeven. Dit kan overigens zonder de privacy van medewerkers te schenden.

HRM is wetenschap en kunst

Het staat vast dat het werk van de HRM functionaris aanzienlijk aan het veranderen is. AI systemen nemen grote delen van het HRM proces over. Dit verhoogt niet alleen de efficiëntie, maar vergroot ook de objectiviteit in de uitvoering van het HRM beleid. Onderzoek toont keer op keer aan dat de mensenkennis van mensen beperkt is. Als intelligente systemen kunnen helpen om beoordelingsfouten van mensen te voorkomen, is dat een positieve ontwikkeling.

HRM is niet alleen wetenschap, maar ook kunst. Alleen mensen kunnen persoonlijke aandacht geven aan medewerkers en met creativiteit en passie bijdragen aan een positief werkklimaat. Ook kritisch denken en leiderschap zijn voorbehouden aan mensen. Daar komt nog bij dat AI systemen niet foutloos zijn. Hun werking en resultaten moeten goed gecontroleerd worden. De machine is er ter ondersteuning van de mens en niet andersom.

Blog #2 – september 2017

Persoonlijk klantcontact via intelligente chatbots: hoe doe je dat?

Klantenservice door middel van chatbots

Communicatie tussen mensen en bedrijven verloopt steeds vaker via chatbots. In de meest eenvoudige variant type je een zin of een paar sleutelwoorden in op een website en vervolgens krijg je de producten of veelgestelde vragen te zien die daarbij horen. Alleen voorgeprogrammeerde vragen kunnen worden beantwoord en iedere gebruiker krijgt dezelfde antwoorden, zoals hier op de website van ING.

Een andere voorbeeld is de EnecoChatbot, waarmee je via Facebook Messenger je meterstanden kunt doorgeven. Deze volgt een vooraf vastgesteld script.

Als je hier spraakherkenning (natural language processing) en kunstmatige intelligentie aan toevoegt, ontstaat een hele andere klantervaring. De chatbot kan dan zowel de inhoud als de context van de vragen en verzoeken van klanten begrijpen en daar op maat op reageren. De computer kan ook vervolgvragen stellen, zodat een gesprek ontstaat. Bij de meest geavanceerde systemen hebben klanten niet langer in de gaten of zij met een mens of met een computer communiceren.

Toepassingen hiervan zijn talrijk, bijvoorbeeld in e-commerce. Denk aan het reserveren van een tafel in een restaurant, het maken van een afspraak bij de kapper en het boeken van een reis. H&M heeft een applicatie op Kik Messenger (een soort Whatsapp) die je net zo lang vragen stelt en suggesties doet totdat je een outfit hebt gevonden die je bevalt.

En in 2016 lanceerde Hilton in samenwerking met IBM Watson een robot genaamd “Connie”. Deze informeert hotelgasten over lokale toeristische attracties, doet aanbevelingen voor restaurants en vertelt over de voorzieningen in het hotel.

//youtu.be/jC0I08qt5VU

Chatbots worden steeds menselijker en persoonlijker

Chatbots kun je in eerste instantie trainen aan de hand van opnames van gesprekken uit het call center. Na go-live blijven chatbots leren van de antwoorden en vervolgvragen van de klanten waarmee zij communiceren. Immers, dankzij machine learning worden de chatbots steeds beter naarmate ze meer ervaring hebben opgedaan. Ook kunnen ze leren om menselijke emoties te herkennen en daarop te reageren. Een boze klant wordt doorgeschakeld naar een medewerker van vlees en bloed, tegen een blije klant wordt een andere toon aangeslagen dan tegen een angstige klant en een klant die laat merken dat het allemaal wat te snel gaat, krijgt een meer gedetailleerde uitleg.

Alle communicatie tussen klanten en bedrijven levert data op en geeft inzicht in de wensen en de drijfveren van de klanten. Dit is waardevolle informatie die het mogelijk maakt om klanten steeds nauwkeuriger te segmenteren, aantrekkelijke aanbiedingen te doen en op een passende manier aan te spreken.

Acceptatie van zelfservice en chatbots neemt sterk toe

In een onderzoek van Aspect onder 1000 Amerikanen in 2016 geeft 65% van de consumenten aan dat het een goed gevoel geeft om een vraag te kunnen beantwoorden of een probleem te kunnen oplossen zonder met een medewerker van de klantenservice te hoeven praten. Met andere woorden, wat voor sommige bedrijven wellicht bedoeld was als een kostenbesparende operatie, draagt bij aan de klanttevredenheid.

Onder de voorwaarde dat het technisch goed functioneert, geeft 49% van de consumenten aan het liefst alle interactie met de klantenservice uitsluitend via tekstberichten te laten verlopen. Vooral de jongere generaties hebben minder behoefte aan telefonisch contact. Er zijn nog wel bedenkingen bij het gebruik van chatbots. Zo zegt 60% van de consumenten dat zij bedrijven die chatbots gebruiken als minder menselijk ervaren. Alle verandering kost tijd om aan te wennen en het zijn vooral de consumenten die geen ervaring met een chatbot hebben die aangeven dat zij liever een telefoongesprek voeren met een medewerker dan met een computer.

En de medewerkers?

Uiteraard leidt het inzetten van chatbots – of virtual customer assistants – tot verdringing van medewerkers van de klantenservice. Toch zullen die niet op korte termijn helemaal verdwijnen. Vooralsnog worden chatbots alleen ingezet voor de afhandeling van eenvoudige verzoeken. De medewerkers richten zich op de uitzonderingen en de bijzondere gevallen. De chatbots luisteren mee om te leren wat zij de volgende keer kunnen doen.

Groeiende AI industrie

De meeste nieuwe chatbots die momenteel worden gelanceerd, zijn geïntegreerd in de bekende social media apps, zoals Facebook Messenger, Skype (Microsoft) en WeChat (de Chinese versie van Facebook en Whatsapp). Via platforms zoals BotMakers kun je in contact komen met bedrijven uit verschillende landen die voor niet al te veel geld chatbots voor je kunnen maken.

In Nederland gaan de ontwikkelingen duidelijk minder snel dan in de Verenigde Staten en China. Dat zal ook te maken hebben met de Nederlandse taal. Jaarlijks publiceert CB Insights een lijst van de 100 meest veelbelovende startups die AI toepassen in verschillende sectoren. De bedrijven in de lijst van 2017 hebben gezamenlijk 3,8 miljard dollar aan kapitaal opgehaald. Hier zitten weinig Europese spelers bij. Interessante bedrijven op het gebied van chatbots zijn onder andere Automat, Fido.ai, Kitt.ai, MindMeld, Narrative Science, Semantic Machines en Snips.

Stap voor stap implementatie van chatbots

Mits zorgvuldig en goed uitgevoerd, kunnen chatbots een verrijking zijn van de klantenervaring. Het uitrollen van een chatbot doe het beste stapsgewijs. Door te beginnen met een beperkte functionaliteit kunnen klanten langzaam gewend raken aan de interactie met een chatbot. Ondertussen leert de chatbot van de vragen en opmerkingen van klanten.

Een belangrijk voordeel van chatbots die werken volgens een vooraf vastgesteld script is dat het eenvoudiger is om controle te houden over de communicatie die de chatbot namens je bedrijf voert. De zelflerende chatbot, genaamd Tay, die Microsoft in maart 2016 lanceerde, maakte binnen een dag racistische opmerkingen en je wilt niet dat je klantenservice chatbot zo communiceert.

Vooralsnog kunnen chatbots bestaande kanalen voor klantenservice wel aanvullen, maar niet vervangen. Belangrijk is dat klanten snel en eenvoudig kunnen overschakelen van de chatbot naar een medewerker. Dit verkleint de kans dat klanten verdwalen en afhaken. Uiteraard moet de medewerker direct kunnen zien wat er in de chat is gebeurd, zodat hij het gesprek niet over hoeft te doen, maar kan voortzetten.

Blog #1 – september 2017

De mens of de machine: wie beslist?

Wat is kunstmatige intelligentie?

In navolging van Gartner definiëren wij kunstmatige of artificiële intelligentie (afgekort: AI) hier als technologie die de prestaties van de mens imiteert door te leren, conclusies te trekken, complexe inhoud te begrijpen, in natuurlijke dialogen met mensen te werken, de cognitieve prestaties van de mens te verbeteren of mensen te vervangen bij de uitvoering van niet-routinematige taken.

De eerste toepassingen van AI zijn gebaseerd op algoritmes die door mensen zijn bedacht en geprogrammeerd. De machine voert aan de hand hiervan specifieke taken uit en heeft alleen een antwoord op een situatie die vooraf is gedefinieerd. Interessanter wordt het als de machine leervermogen krijgt en op basis van ervaring ook in afwijkende, maar vergelijkbare situaties de juiste beslissing kan nemen. Als machines op basis van data zelf parameters ontwikkelen, wordt het algoritme steeds beter toegepast. Dit is machine learning.

Hoe kunstmatige intelligentie ons beter begrijpt dan wij onszelf

Bij deep learning wordt niet top-down geprogrammeerd, maar leert de machine autonoom en definieert zijn eigen algoritmes. Voor zelfrijdende auto’s kun je heel veel verkeerssituaties en verkeersregels vooraf programmeren, zodat de auto voldoende afstand houdt, tussen de lijnen rijdt en afremt voor een rood licht. Het oversteken van een kruispunt is veel moeilijker te beschrijven. Door te kijken naar de manier waarop mensen dat doen, kunnen machines dankzij deep learning hier zelf de regels voor programmeren.

Onderstaande figuur van Nvidia geeft de ontwikkeling van kunstmatige intelligentie weer.

De ontwikkeling van deep learning en artificiële neurale netwerken leidt ertoe dat het voor mensen steeds moeilijker wordt om te begrijpen wat er binnen de machine gebeurt. Wat doen die algoritmes en waarom?

Kunstmatige intelligentie overstijgt menselijke intelligentie

In mei 2017 won AlphaGo, een systeem van Google Deepmind, een wedstrijd Go tegen de Chinese grootmeester Ke Jie. Het bijzondere hieraan was niet dat de computer de wedstrijd won, maar de manier waarop. De professionele Go-spelers zagen de computer zetten doen en strategieën volgen die zij nog niet eerder hadden gezien. Wat een fout leek, bleek geniaal. AlphaGo is een zelflerend systeem dat zijn kennis van het spel niet alleen baseerde op de analyse van eerder gespeelde partijen, maar ook tegen zichzelf heeft gespeeld om beter te worden.

En zo zijn er nog veel meer toepassingen waarbij de computer het wint van de mens. In de gezondheidszorg wordt kunstmatige intelligentie, bijvoorbeeld van IBM Watson, ingezet voor medische diagnoses. Automatische herkenning van patronen is zo goed geworden, dat machines ook medische foto’s en scans heel accuraat kunnen interpreteren. Dankzij de automatische piloot in vliegtuigen is het aantal vliegtuigongelukken drastisch afgenomen en van de autonoom rijdende auto wordt hetzelfde verwacht. Ook de persoonlijke aanbevelingen die je krijgt van Netflix, Facebook of Amazon zijn gebaseerd op een beeld dat door middel van kunstmatige intelligentie van jou gemaakt is. In volgende blogs komen we uitvoerig terug op de uiteenlopende toepassingen van kunstmatige intelligentie.

Onbedoelde consequenties van AI

AI systemen kunnen ook fouten maken en onbedoelde consequenties hebben. Ze zijn immers slechts zo goed als de data waar zij over kunnen beschikken. Algoritmes zijn bijvoorbeeld geen alternatief voor democratische verkiezingen. Bij de laatste Amerikaanse presidentsverkiezingen, die gingen tussen Donald Trump en Hilary Clinton, voorspelden de algoritmes dat Trump zou winnen. Omdat in de dataset geen voorbeelden zitten van vrouwelijke presidenten werd het portret van Clinton niet met het presidentschap geassocieerd.

Elon Musk schreef op 12 augustus 2017 op Twitter dat hij kunstmatige intelligentie een veel groter gevaar vindt dan de nucleaire dreiging uit Noord Korea. De dag ervoor werd bekend dat OpenAI, een door Elon Musk opgerichte non-profit AI onderzoeksinstelling, de beste menselijke speler in het spel Dota 2 heeft verslagen.

In een open brief aan de Verenigde Naties waarschuwen Musk en 115 andere experts in AI en robotics dat de technologie ook gebruikt kan worden voor het ontwikkelen van autonome wapens. Met deze wapens kunnen gewapende conflicten op veel grotere schaal en veel sneller plaatsvinden dan wij nu voor mogelijk houden. De VN wordt opgeroepen snel in actie te komen voordat deze wapens in verkeerde handen komen.

Menselijke interventie blijft noodzakelijk

Artificiële intelligentie systemen zijn heel goed in het snel analyseren van grote hoeveelheden data en het herkennen van patronen in die data. Ze blijven leren en worden daardoor waardevoller naarmate ze ouder worden. Toch zijn ze niet altijd meteen foutloos. En ook als ze goed technisch goed functioneren, kunnen ze gemanipuleerd worden, bijvoorbeeld door hackers. Menselijke interventie blijft nodig om de werking van het algoritme te testen en uitkomsten te verifiëren.

Vooralsnog zijn mensen beter dan machines in staat om doelstellingen te bepalen, te dromen over de toekomst en morele afwegingen te maken. Als mensen niet langer de context bepalen waarbinnen AI systemen functioneren, leidt dit onvermijdelijk tot onwenselijke uitkomsten.

Daarnaast hebben we mensen nodig voor het nemen van beslissingen over niet-operationele en niet-routinematige activiteiten. Omdat deze minder vaak voorkomen, zijn er onvoldoende data over prestaties in het verleden beschikbaar om besluitvorming aan een machine over te laten.

Controle over systemen die je niet begrijpt

Naarmate we meer beslissingen aan AI systemen overlaten, moeten we meer tijd besteden aan het controleren van die systemen. Het risico is dat we gemakzuchtig worden en blind vertrouwen op een systeem dat we niet begrijpen.

Om een AI systeem te kunnen controleren is het noodzakelijk dat het systeem geen black box is, maar open en toegankelijk. Dat is veel minder vanzelfsprekend dan het klinkt. Facebook heeft recent een AI applicatie stopgezet die een eigen taal had ontwikkeld die voor mensen niet te begrijpen was. Ook de neurale netwerken binnen Google Translate maken gebruik van een zelfontwikkelde taal om vertalingen te maken tussen twee talen die niet specifiek getraind zijn.

Voorlopige conclusie: laat AI voor ons werken

Artificiële intelligentie kan ons leven verrijken en vergemakkelijken, maar ook beheersen en overnemen. Dezelfde technologie die ons welvaart brengt, kan ons ook vernietigen. De consequenties van zelflerende systemen zijn nog nauwelijks voorstelbaar en leiden tot existentiële vragen.

We zullen in deze serie zowel de fascinerende nieuwe toepassingen van AI bespreken, als de manier waarop we daarmee moeten omgaan. Niet omdat we denken dat de technologische ontwikkeling kan of moet worden tegengehouden, maar om AI dienstbaar aan de samenleving te laten zijn.