De visie van President Barack Obama op Artificial Intelligence

Posted on Posted in Geen categorie
 “People get ready there is a train coming, you don’t need no luggage just get on board”

Bob Dylan zong het in de jaren zestig om de toen ophanden zijnde maatschappelijke veranderingen te verwoorden.De AI trein is ook vetrokken en heeft koers gezet naar het beloofde land. Het enige wat we hoeven te doen is aan boord te stappen. AI biedt ons de mogelijkheid om onze dromen waar te maken, het heeft de potentie om bijvoorbeeld ziektes te genezen, wereldarmoede te elimineren en klimaatverandering tegen te gaan. Het beloofde land klinkt aanlokkelijk maar vooralsnog is het grote publiek nog  huiverig om aan boord te stappen. In het artikel van Frontier geeft President Barack Obama zijn visie op een aantal vraagstukken rondom A.I en wat mensen weerhoudt om aan boord te stappen. In deze blog ga ik wat dieper in op een aantal van deze ethische kwesties die President Obama in zijn interview benoemt.

Angst voor A.I. is meer dan een “imago proleem”

Ondanks de enorme potentie van AI om grote vraagstukken op te lossen zijn veel mensen er ook bang voor. Deze angst is de afgelopen decennia ook gevoed door de vele films waarin super intelligente robots zich tegen de mensheid keren en de heerschappij van onze planeet willen overnemen. Maar het zijn niet alleen films die ons tegen de gevaren van A.I. waarschuwen het zijn ook een aantal zeer vooraanstaande personen als: Bill Gates, Elon Trusk en Steven Hawkins. Dit geeft aan dat enige redenen tot ongerustheid wel op zijn plaats is.

Ook de tech-giganten, die de afgelopen jaren veel in A.I. hebben geïnvesteerd, onderkennen het probleem en hebben stappen genomen om daar wat aan te doen. Amazon, Facebook, Google, IBM en Microsoft hebben de krachten gebundeld en hebben gezamenlijk een nieuwe organisatie opgericht: The Partnership on Artificial Intelligence to Benefit People and Society. Een van de doelstellingen van deze organisatie is om zoveel mogelijk mensen te informeren over A.I. en wil een platform bieden voor een maatschappelijke discussie, in het bijzonder over de gevaren en de ethische aspecten.

Artificial General Intelligence (AGI)

In het interview maakt President Obama het onderscheid tussen narrow- en generalized AI. Met AGI wordt AI bedoeld zoals we die uit de films kennen. Bijvoorbeeld Skynet, het zelfdenkend  computernetwerk uit de “Terminator” films dat zich tegen de mensheid keert. Onder de experts bestaat er momenteel een consensus dat we ons daar op korte termijn nog geen zorgen over hoeven te maken. Er zijn nog een aantal technische doorbraken nodig om een AGI te bouwen. Ik richt mij in deze blog dan ook niet op de ethische vraagstukken rondom de toekomstige Skynets maar op die rondom narrow AI.

Narrow Artificial Intelligence

Daar waar generelized A. nog iets voor de toekomst is wordt narrow AI al toegepast. Het heeft geen algemene intelligentie maar gebruikt algoritmes en computers om zeer complexe taken uit te voeren zoals: gezichtsherkenning, autorijden of vinden van informatie op het internet.

” If properly harnessed, it can generate enormous prosperity and opportunity. But it also has some downsides that we’re gonna have to figure out in terms of not eliminating jobs.”

Een Narrow AI systeem kan bijvoorbeeld getraind worden om sollicitatiebrieven en cv’s van kandidaten te analyseren en deze kandidaten te categoriseren naar geschiktheid. Het bepaald vervolgens wie het meest geschikt voor de functie zouden zijn. Banken kunnen AI inzetten om krediet- of hypotheek aanvragen te beoordelen. Het systeem adviseert vervolgens  welke klanten in aanmerking komen voor een hypotheek en welke niet.

Het gevaar van uitsluiting

AI neemt in haar analyse een grote aantal variabelen mee en komt met de meest voor de hand liggende keuze. Dit kan ertoe leiden dat mensen die geen standaard profiel hebben minder kans krijgen om bijvoorbeeld een baan te vinden of om een lening af te sluiten.

“As technologies emerge and mature, then figuring out how they get incorporated into existing regulatory structures becomes a tougher problem, and the overn­ment needs to be involved a little bit more.”

In een “inclusieve” samenleving die geen mensen buiten wilt sluiten is dit niet wenselijk. In het interview geeft President Obama aan dat het juist de uitzonderingen zijn die ons menselijk maken. De zonderlingen, mafkezen en wierdo’s die tegen bestaande conventies een briljante uitvinding of theorie ontwikkelen en daarmee de mensheid een stap verder helpt. Denk hier bijvoorbeeld aan Albert Einstein, Charles Darwin of Mozart.

Wellicht dat er hier een taak voor onze  overheid ligt om ervoor te zorgen dat het gebruik van AI geen mensen uitsluit door hun kansen op de arbeidsmarkt of door de toegang tot krediet te verkleinen.

A.I. kan niet verantwoordelijk worden gehouden

Een bijkomende kwestie is die van verantwoordelijkheid. Het is natuurlijk al vervelend wanneer je wordt afgewezen voor jouw droombaan, het is al helemaal vervelend wanneer je erachter komt dat dit niet door een persoon is gedaan maar door een AI bot. Als je vervolgens wilt weten wat de reden van de afwijzing is geweest, komt het tweede probleem: “Nobody knows”.

AI systemen fungeren namelijk als een black box. Je kunt zien wat de output is maar je kunt niet in de black box zelf kijken en herleiden hoe het systeem tot de beslissing is gekomen. In de lente van dit jaar heeft de Europese Unie een wet aangenomen die haar burgers het recht geeft op een verklaring hoe een instituut tot haar beslissing is gekomen, ook al is die door een AI genomen.

Een verklaring hoe een beslissing tot stand is gekomen zou ook belangrijk zijn voor de  acceptatie  van AI door het grote publiek. Google doet momenteel onderzoek of het afbeeldingen uit haar  “deep dreaming” programma kan gebruiken om  fouten in AI aan te duiden en op die manier inzicht te krijgen in de werking van de black box.

Kunnen we AI beslissingen over leven en dood laten nemen

Op dit moment rijden er al zelfrijdende auto’s van Google rond en Uber doet tests met zelfrijdende taxi’s in Pittsburgh.

But Joi made a very elegant point, which is, what are the values that we’re going to embed in the cars?

Aan het op grote schaal introduceren van zelfrijdende auto’s kleven ook een aantal ethische kwesties. Hoe zal de zelfrijdende auto, met daarin een gezin reageren wanneer er plotseling een ander gezin de weg over steekt? Welke keuzes maakt het in situaties waarbij het moet kiezen tussen leven en dood? Hoe legt het verantwoording af over de gemaakte keuze?

Toenemende werkloosheid

Het gebruik van AI zal processen efficiënter maken tegen lagere kosten. Neem het voorbeeld van Uber en de zelfrijdende taxi’s. Door gebruik te maken van AI zal de taxibranche vele malen efficiënter worden tegen aanzienlijk lagere kosten. Het nadeel is dat er een groot aantal chauffeurs hun banen verliezen. Uiteindelijk zal A.I ertoe leiden dat de productiviteit en de welvaart binnen onze maatschappij toenemen maar dat de werkgelegenheid afneemt.

Tot aan het grootste gedeelte van de 20ste eeuw leidde automatisering tot een hogere productiviteit, dat weer voor nieuwe banen zorgde. Aan het einde van de vorige eeuw onstond er een breuk in die trend. De productiviteit neemt nog steeds toe maar de werkgelegenheid niet meer.

Een stijgende welvaart gecombineerd met minder banen vraagt om een andere inrichting van onze maatschappij. We verlaten het tijdperk dat welvaart en inkomen via arbeid wordt verdeeld. Wanneer welvaart steeds minder via werk wordt verdeeld zal het steeds meer via bezit (aandelen) worden verdeeld. We zullen een balans moeten vinden tussen werk en het verdelen van de toenemende welvaart.

“What is indisputable, though, is that as AI gets further incorporated, and the society potentially gets wealthier, the link between production and distribution, how much you work and how much you make, gets further and further attenuated—the computers are doing a lot of the work.”

Get on board

 

We staan momenteel aan de vooravond van een nieuwe wereld waarin AI een steeds grotere rol gaat spelen. Om ervoor te zorgen dat iedereen op de trein stapt is een open en eerlijke informatievoorziening van groot belang. De Amerikaanse overheid en grote tech-bedrijven onderkennen dit en hebben al stappen ondernomen om zoveel mogelijk mensen te informeren en bij de discussie te betrekken.

Met name de informatievoorziening en discussie over de gevaren en ethische aspecten van AI zijn van belang. Normen en waarden vormen de basis van de beslissingen die we nemen. Cruciaal voor acceptatie is dat beslissingen die een AI systeem neemt de de normen en waarden van onze maatschappij reflecteren.

Deze informatievoorziening en discussie mis ik nog in Nederland. Ik hoop dat ik met het schrijven van deze blog een aanzet heb gegeven tot een betere informatievoorziening rondom dit thema en ook een aanzet heb gegeven tot meer discussie.

 

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *