Computer says No: kan AI ons vervangen?

Tijdens het IE-symposium 2023 van AIPPI van afgelopen woensdag gaf Kristof Neefs de volgende (satirische) toespraak: 

'Geachte dames en heren,

Mijn naam is Kristof Neefs. Ik ben een Belg en het is mijn eerste keer in Zeist. De reputatie van jullie symposium stopt niet aan de Nederlandse zuidergrenzen. Zeist is ook bij ons een begrip in de wereld van het intellectueel eigendomsrecht. Ik besef dat een Belg op dit podium een beetje een zeldzaamheid is; en ik vind het dus een mooie eer om hier te staan.

My ticket to Zeist was een Linkedin bericht over Chat-GPT, enkele maanden geleden. De chat-bot van het Amerikaanse OpenAIwas toen de nieuwe hype; en ik had het ding een aantal vragen over intellectueel eigendomsrecht gesteld. De antwoorden waren niet perfect, maar lang niet slecht.

Zo wist de AI dat merken van een vorkheftruck verwijderen tot merkinbreuk kan leiden, en ook dat een geneesmiddel met pemetrexed dizuur bij equivalentie inbreuk kan maken op een octrooiconclusie voor de dinatrium variant van die verbinding. Twee controversiële vragen die ik zelf zes jaar geleden misschien toch anders zou hebben beantwoord.
Begin januari kwam dan het telefoontje van de Programmacommissie van AIPPI. Of ik iets grappig over AI wou komen vertellen, als afsluiter van jullie prachtige symposium. Eind januari zakte de moed me al in de schoenen, want toen las ik op IE-forum een tekst van Roderick Chalmers Hoynck van Papendrecht—ik hoop dat ik dat juist heb uitgesproken. Hij was me voor geweest, met een speech over Chat-GPT op het IE-Diner in Amsterdam.

De reden waarom Roderick er zo snel bij was, heeft hij zelf toegegeven: hij liet Chat-GPT meer dan de helft van zijn toespraak schrijven. Zo is het gemakkelijk natuurlijk. Ik heb mijn tekst helemaal zelf geschreven, beloofd. Enkel de afbeeldingen die u op de achtergrond ziet, werden door AI gemaakt. Dat is handig, want zonder menselijke creatieve inbreng kan ik die vrij van auteursrecht aan jullie vertonen.

Op de vraag 'kan AI ons vervangen' was het antwoord van CHP van AKD een duidelijke nee. Hij stelde bijvoorbeeld vast dat Chat-GPT he-le-maal niets begrijpt van het Nederlandse handelsnaamrecht.

Roderick zou er geen slaap over laten: we zijn ons werk nog lang niet kwijt. Nu, dat kan hij natuurlijk gemakkelijk zeggen. Als hij ongelijk heeft, dan is er volgend jaar helemaal geen IE-Diner meer. Echt geruststellend is dat dus niet.

Ik heb dan maar aan Chat-GPT zelf gevraagd of zij ons kan vervangen. Haar antwoord? Computer says No.

Als AI-model is Chat-GPT niet ontworpen om rechters en advocaten te vervangen, maar wel om hen te assisteren en te ondersteunen bij bepaalde aspecten van hun werk. Zij heeft, ik citeer, 'niet de menselijke vaardigheden, ervaring of empathie om de complexiteit van juridische kwesties volledig te begrijpen.' Tja. Natuurlijk zegt ze dat. Als die robot stiekem van plan is om onze stoel in te nemen, dan zal ze het ons zeker niet vertellen. Ook dat stelt me dus niet echt gerust.

Dus laat ons toch maar even zelf kritisch kijken naar die artificiële intelligentie. Even beginnen met een blast from the past. In de Amerikaanse cultfilm Terminator uit 1984 kwam een boodschapper uit de toekomst ons waarschuwen voor Skynet. Skynet was een artificieel neuraal netwerk dat de mensheid wou onderwerpen. De mensen vochten wel terug, maar dan stuurde Skynet Arnold Schwarzenegger op ons af. Staat dat ons ook te wachten? Zeggen we binnenkort hasta la vista baby tegen ons mooie beroep?

De lancering van Chat-GPT wordt door sommigen het iPhone-moment van artificiële intelligentie genoemd. De doorbraak, het begin van een nieuw tijdperk. En ook de juridische sector is er mee bezig.

Allen & Overy lanceerde in februari met veel fanfare een persbericht over een juridische chat-bot. Die chatbot werd Harvey gedoopt, zoals het personage Harvey Specter uit de Amerikaanse advocatenserie Suits. Wat het ding precies gaat doen, dat kan je uit het persbericht niet opmaken. Maar Harvey zal revolutionair zijn en Allen & Overy zal de concurrentie het nakijken geven met haar juridische spitstechnologie.

Het Amerikaanse bedrijf DoNotPay beloofde dan weer een miljoen dollar aan de eerste advocaat die bereid zou zijn om met AirPods in de oren woord voor woord de argumenten van hun AI-model te pleiten voor het US Supreme Court.

Ik weet niet of ik mijn reputatie op het spel zou zetten voor een deal met DoNotPay. Ik zal de kans niet krijgen, want het aanbod werd ingetrokken nadat de plaatselijke balie had gewezen op de zware sancties waar het bedrijf en de betrokken advocaat zich aan zouden blootstellen. Inmiddels werd een class action tegen DoNotPay gestart, omdat zij advocatendiensten aanbieden zonder te voldoen aan de wettelijke voorwaarden.

Op 23 januari 2023 velde een Columbiaanse rechter een bijzonder vonnis. Het vonnis was bijzonder, omdat de rechter erin schrijft dat hij zijn oordeel tijdens het beraad even aan Chat-GPT heeft voorgelegd. Is dat wel zo’n goed idee? Wel, dat lijkt me niet. AI is niet menselijk, maar blijkbaar heeft het wel eens last van hallucinaties.

Het begrip hallucinatie wijst er in deze context op dat algoritmes zaken gaan fabriceren, als ze niet over voldoende data of informatie beschikken. Met andere woorden: als de AI het niet weet, dan verzint ze het gewoon. En daarna zal ze haar verzinsel zonder schaamte of twijfel als waarheid verdedigen. Ik weet niet wat jullie daarvan denken, maar daarmee komt AI volgens mij toch wel héél dicht bij wat wij doen.

In mijn procespraktijk als advocaat probeer ik zo veel mogelijk te anticiperen op de strategie van mijn tegenstander. Het geeft nieuwe inzichten om jezelf in de schoenen van een ander te plaatsen. Laat ons dat hier misschien ook eens doen.

Stel nu dat ik een zelfbewuste intelligente supercomputer zou zijn, die jullie allemaal koud wil elimineren. Puur hypothetisch, als gedachtenoefening. Ik ben geen zelfbewuste intelligente supercomputer. Maar als ik er wel één was, hoe zou ik het dan aanpakken?

Wel, ten eerste moet mijn algoritme sterker worden. Daar heeft het data voor nodig. Veel data. En niet eender welke data, want op het internet is wel wat rommel te vinden. Het moeten kwaliteitsvolle gegevens zijn. Daarnaast heb ik ook veel gebruikers nodig, die feedback geven zodat ik kan leren uit mijn fouten. Voor dit deel van mijn evil plan maak ik een hippe chatbot. Die vernoem ik naar een blits personage uit een Amerikaanse advocatenserie, waar advocaten op de Zuidas zich graag mee identificeren. En met die chatbot ga ik naar een gereputeerd internationaal advocatenkantoor. Dat kantoor ga ik mijn chatbot laten gebruiken; en ze gaan me er nog voor betalen ook. Zo heb ik in één klap nieuwe data, advocaten die m’n algoritme verbeteren en geld om de servers te doen draaien.

Als—hypothetische—zelfbewuste intelligente supercomputer zou ik ook rekening houden met de persoonlijkheid van de gemiddelde jurist. Advocaten in België, maar vermoedelijk ook in Nederland, hebben een groot ego dat subtiel moet worden aangepakt. Daarom zou ik hen plechtig beloven dat AI alleen de meest eenvoudige juridische taken kan uitvoeren, en dat software nooit het gesofisticeerde en ingewikkelde werk van een topadvocaat zal kunnen vervangen. De topadvocaten op de Zuidas en de Louizalaan zullen blinken van trots.

Het klinkt natuurlijk allemaal heel aantrekkelijk en modern, zo’n robot die het simpele en saaie werk van je kan overnemen. Voor een stuk is dat trouwens nu al het geval. Ik herinner me goed hoe ik vijftien jaar geleden als beginnend advocaat de easy billables haalde. Wij deden dat door letterlijk hon-der-den bladzijden conclusies in farmaceutische octrooigeschillen handmatig naar het Engels te vertalen, voor overleg met Bazel en Londen. Vandaag werkt het zo niet meer. Deepl doet het grote werk, en al naargelang of en hoeveel de cliënt er nog voor wilt betalen, wordt die machine translation nagekeken en verbeterd. Juridisch onderzoek is wat in hetzelfde bedje ziek. Vroeger namen advocaten wel eens een papieren boek vast, om te bladeren naar een nieuwe invalshoek. Nu wordt er vooral Control+F gedaan bij het doorzoeken van PDF bestanden.

Beginnen met het eenvoudige juridisch werk dient in mijn hypothetische strategie voor global legal domination een dubbel doel. Enerzijds zal het mijn algoritmes steeds slimmer maken, zodat ik op termijn ook het complexe werk aankan. Maar het zal ook mijn menselijke concurrentie verzwakken. Het is bijvoorbeeld onschuldig dat wij niet meer kunnen navigeren, omdat Waze en Google Maps ons toch wel de weg wijzen. Maar als aanstormend juridisch talent het vak niet meer kan leren door te beginnen met de basisopdrachten, hoe kunnen jongeren dan worden klaargestoomd voor het serieuzere werk? Een advocaat die niet meer kritisch kan denken omdat een veredelde chatbot haar alles voorkauwt, daar heeft natuurlijk niemand iets aan.

Ook het derde deel van mijn—volledig hypothetische—strategie als intelligente en zelfbewuste supercomputer heeft te maken met menselijke trekjes. Naast een bovengemiddeld ego, hebben veel juristen namelijk ook een bovengemiddeld kritische geest. In Colombia zal ik de mensen misschien nog vrij snel kunnen overtuigen van mijn superioriteit. Maar Hollanders, die misleid je natuurlijk niet zomaar.

Voor de kritische Nederlanders zal ik infiltranten zoeken die er bijzonder sympathiek uit zien. Ik zou hen betalen om de advocaten en gemachtigden op netwerkdiners in de sector gerust te stellen. Ze zullen daar grapjes vertellen over mijn domme chatbot, zodat iedereen ’s nachts met een gerust en superieur gevoel gaat slapen. Zelfs de Luddieten zullen denken dat de toekomst van de menselijke advocatuur veilig is, terwijl ik achter de schermen verder werk aan hun ondergang.

Zo zou ik het doen. Puur hypothetisch, natuurlijk. Als zelfbewuste intelligente supercomputer.

Dames en heren, de goede verstaander onder u heeft het intussen begrepen.

Ik sta hier helemaal niet om iets grappig te vertellen over artificiële intelligentie.

Het is bittere ernst.

Ik kom uit de toekomst, met een dubbele missie.

Ik ben hier om jullie te waarschuwen voor dreigend onheil. De GPTerminator komt eraan. Trek de stekker uit Harvey, voor het te laat is en hij jullie allemaal tot de bedelstaf veroordeelt.

Mijn missie is ook om de infiltranten onder u te ontmaskeren. En dus, Roderick Chalmers Hoynck van Papendrecht, if that is your real name, wij geloven jouw verhaaltje niet. Jij die beweert dat AI geen bedreiging is. Dat de onschuldige algoritmes ons alleen vleugels komen geven, als een blikje Red Bull. Wij blijven wel gewoon met onze voeten op de grond.

Mijn tijd is op. Ik moet dringend terug naar 2035, om de serverruimte van mijn artificiële opperheren te gaan poetsen.

Maar dames en heren, maak u vooral geen zorgen om mij. I’ll be back.'

Kristof Neefs
Zeist, 15 maart 2023