AI wordt steeds vaker gebruikt en vervangt deels traditionele zoekmachines. Dat is efficiënt, maar brengt ook risico’s met zich mee: antwoorden kunnen onvolledig of onjuist zijn. Dit komt doordat veel AI-systemen taalmodellen zijn en geen zoekmachines. Zij genereren antwoorden op basis van patronen in data, zonder actief en gecontroleerd informatie op te zoeken. Daarom blijft het essentieel om uitkomsten te verifiëren met betrouwbare bronnen.
De kwaliteit van AI staat of valt met uw input
De kwaliteit van een AI-antwoord hangt nauw samen met de input. Ontbreekt context of een belangrijk detail, dan kan het antwoord afwijken of zelfs onjuist zijn. Omdat taalmodellen werken met waarschijnlijkheden in plaats van feitelijke controle, vullen zij ontbrekende informatie als het ware zelf in.
Bij eenvoudige vragen levert dat doorgaans weinig problemen op. Bij complexe of impactvolle vraagstukken is nuance echter cruciaal. Die vraagt om volledige context, ervaring en een zorgvuldige, professionele beoordeling.
Schijnzekerheid: de valkuil van AI in het recht
In de juridische praktijk kan AI schijnzekerheid creëren. Antwoorden zijn gebaseerd op waarschijnlijkheid en patronen, waardoor ze overtuigend kunnen klinken, maar juridisch onjuist of verouderd kunnen zijn.
Denk bijvoorbeeld aan:
- onjuist weergegeven wet- en regelgeving
- niet-bestaande of achterhaalde jurisprudentie
- gebrek aan nuance of uitzonderingen
Beslissingen op basis hiervan kunnen grote juridische of financiële gevolgen hebben. In het recht zijn details en actualiteit vaak doorslaggevend.
Procederen met behulp van AI
Procederen met AI brengt risico’s met zich mee. Zo oordeelde het Gerechtshof Den Haag (ECLI:NL:GHDHA:2024:1771) dat een AI-analyse niet bepalend is bij het vaststellen van de marktprijs van een auto. Doorslaggevend is wat een consument als vergelijkbaar beschouwt, niet wat een AI berekent.
In een andere zaak leidde het ongecontroleerd gebruiken van door AI gegenereerde processtukken mede tot een volledige proceskostenveroordeling. Dit onderstreept dat blind vertrouwen op AI aanzienlijke risico’s kent.
Vertrouwelijke informatie en AI
AI-systemen ontwikkelen zich mede op basis van gebruikersinput. Het delen van contracten, dossiers of strategische informatie kan risico’s opleveren, omdat deze gegevens mogelijk worden opgeslagen of verwerkt. Hierdoor kan vertrouwelijke informatie onbedoeld buiten de organisatie terechtkomen.
AI maakt geen onderscheid tussen gevoelige en niet-gevoelige informatie; die verantwoordelijkheid ligt bij de gebruiker.
Hulpmiddel, geen vervanging
AI kan een waardevol hulpmiddel zijn. Bij juridische, strategische of vertrouwelijke vraagstukken blijft deskundig maatwerk echter onmisbaar. Actuele kennis, ervaring en professionele verantwoordelijkheid zijn doorslaggevend.
Voor uw juridische vraagstukken bent u daarom nog steeds bij ons aan het juiste adres.