De uitlegbaarheid van AI-uitspraken

03 August 2017 - ArnoudEngelfriet

AI is in de praktijk meestal machine learning, een analysemodel waarbij een computer informatie leert te herkennen aan de hand van inhoudelijke kenmerken. In eerste instantie krijgt hij een berg vooraf gelabelde informatie aangedragen: deze clausule is oké, deze is problematisch. Daaruit destilleert de AI dan de verschillen, waarna hij vervolgens nieuwe informatie kan labelen. Deze clausule lijkt meer op de oké clausules dan op de problematische, dus is hij ook oké. 

Dit klinkt heel simpel, maar de praktijk is behoorlijk ingewikkeld. Machines leren niet zoals mensen. Ze kijken niet naar betekenis maar naar woorden. Een AI zou zomaar kunnen denken dat een clausule oké is omdat hij "Leverancier" zegt - toevallig gebruikten de aangedragen oké trainingsvoorbeelden allemaal die term, en de problematische clausules spraken van "Opdrachtnemer". Een goede dataset met labels is dus lastiger dan je zou denken.

Nog lastiger wordt het wanneer de analyse wordt gebruikt om uitspraken te doen over concrete zaken. Deze aanvraag moet worden afgewezen want hij bevat geen steekhoudende argumenten. Of: het profiel van deze verdachte lijkt erg op dat van veroordeelden uit vergelijkbare zaken, dus zal hij schuldig zijn. 

AI of machine learning kan op deze manier worden ingezet, maar een belangrijk probleem daarbij is dan wel dat deze uitspraken moeten kunnen worden onderbouwd. En daar schort het nogal eens aan. De analyses van AI's zijn normaliter niet direct naar redeneringen om te zetten. Een juridische AI moet dat wel kunnen. 

Nieuwe ontwikkelingen op dit gebied focussen dan ook op het onderwerp van "white box" machine learning, lerende systemen die wél kunnen uitleggen hoe zij tot hun uitspraken komen. Dat zal helpen bij dit soort uitspraken. Maar fundamenteel blijft het issue dat AI's uitspraken doen op basis van gelijkenis met eerdere zaken. Een novum hoeven we daar dus niet van te verwachten.

Share this article with your network:
E-mailLinkedinFacebookTwitter

Related articles
Gartner emerging tech hype cycle

De Gartner Hype Cycle is een handige manier om inzicht te krijgen in opkomende technologieën en trends. Elk jaar publiceert het onderzoeksbureau de ontwikkelingen: van nieuwe op de markt naar (te) hoge verwachtingen naar desillusie, […]

Meld je aan voor onze nieuwsbrief

Meer weten over Lynn?

Alles weten over de functionaliteiten van Lynn? Wil je weten op welke wijze Lynn binnen jouw organisatie kan worden toegepast? Onze legal tech specialisten denken graag vrijblijvend met je mee.