Mental proof: het zichtbaar gemaakte denkproces
Daar komt een tweede spanningsveld bij: de manier waarop AI werkt. Modellen worden getraind op enorme hoeveelheden tekst en sturen hun output op basis van waarschijnlijkheid en herhaling. Is AI dan wel echt bezig met juridische analyse? "Eigenlijk niet,” zegt Arnoud Engelfriet. “AI is geen kennisbank en beschikt niet over redeneervermogen. Het maakt teksten die goed aansluiten bij wat de vraagsteller zoekt. Je wordt dus naar de mond gepraat, en krijgt ook niet-bestaande jurisprudentie, doctrine en literatuur als ondersteuning om jouw gelijk te bevestigen. Verder zijn conclusies vaak middelmatig, omdat dat statistisch gezien het meest wenselijk is."
Zo ontstaat de paradox van de middelmaat: wat het meest voorkomt, krijgt voorrang in de output. Dat is efficiënt bij standaardkwesties, maar het recht evolueert niet via gemiddelden alleen. Vernieuwing zit vaak in minderheidsstandpunten, nuances en randgevallen.
Net daar ligt de meerwaarde van de jurist. “Je moet altijd zelf nadenken: ik volg deze bron, maar wat voeg ik daar zelf aan toe? Waarom wordt dit arrest doorslaggevend geacht? Wie geen eigen toegevoegde waarde kan articuleren, ondergraaft uiteindelijk zijn eigen gezag."
Arnoud Engelfriet wijst op wat de literatuur mental proof noemt: laten zien dát je het werk gedaan hebt. Dat je alternatieven hebt gewogen, tegenargumenten hebt verworpen, opties hebt meegenomen, zodat de cliënt kan vertrouwen op de kwaliteit van het resultaat.
