Chatbots en agents implementeren in de onderneming: juridische aandachtspunten

Deze tekst werd gegenereerd via GenIA-L, de AI-tool van Larcier-Intersentia en vervolgens aangepast

Wat wordt vooreerst juridisch verstaan onder een klassieke AI‑chatbot en een AI‑agent?​

Een chatbot is een geautomatiseerde gesprekspartner die via natuurlijke taal met eindgebruikers interageert.

Onder de AI Act worden AI‑systemen die bedoeld zijn voor directe interactie met natuurlijke personen (zoals chatbots en AI‑assistenten) aangemerkt als ‘beperkt risico’, waarvoor specifieke transparantieverplichtingen gelden: de gebruiker moet geïnformeerd worden dat hij met een AI‑systeem interageert, en door AI gegenereerde content moet als kunstmatig gemarkeerd worden, tenzij contextuele uitzonderingen van toepassing zijn.

Een AI‑agent kan juridisch worden opgevat als een AI‑systeem dat, voorbij louter conversatie, beslissingen neemt of acties uitvoert binnen een toegewezen taakdomein, onder controle van een ‘operator’.

De operator is de persoon die beslist over het gebruik van een specifiek AI‑systeem in een bepaalde context en die beslissende controle uitoefent over de risico’s en voordelen en er wordt een onderscheid gemaakt tussen backend‑ en frontend‑operatoren naargelang van de aard van de controle.

General‑purpose AI‑modellen (GPAI) en generatieve AI (zoals ChatGPT of DALL‑E) kunnen fungeren als onderliggende modellen voor chatbots en AI‑agents.

GPAI wordt gekenmerkt door een aanzienlijk algemeen karakter en inzetbaarheid over uiteenlopende taken, terwijl generatieve AI nieuwe content creëert op basis van prompts in natuurlijke taal.

Bij chatbots kan men denken aan systemen zoals ChatGPT, Gemini of Copilot, die primair in een chatinterface werken.

Bij agenten gaat het dan eerder om oplossingen zoals Operator, Claude 3.5 met agentfunctionaliteit of Agentforce van Salesforce, die zelfstandig workflows kunnen uitvoeren.​

Uit de praktijk blijkt dat AI‑chatbots en ‑agenten soms ontsporen: ze schelden klanten uit, verzinnen terugbetalingsvoorwaarden of geven foutieve juridische of commerciële informatie. Dat is niet louter technisch; het creëert concrete juridische risico’s zoals contractuele aansprakelijkheid, misleidende informatie en imagoschade.​

Wat concrete casussen betreft:

• In Walters v. OpenAI werd ChatGPT verweten lasterlijke informatie te hebben uitgevonden over een radiopresentator, maar de rechtbank oordeelde op 19 mei 2025 dat OpenAI niet aansprakelijk was, onder meer omdat duidelijke disclaimers maakten dat de output niet als vaststaand feit mocht worden gezien. Meer info over deze zaak is onder meer hier te lezen:  Walters v. OpenAI, L.L.C. (Loeb & Loeb).
• In Mofatt v. Air Canada daarentegen is een beslissing van de Civil Resolution Tribunal van British Columbia (Canada) uit februari 2024, waarbij de luchtvaartmaatschappij wél aansprakelijk werd gehouden omdat hun chatbot een niet‑bestaand terugbetalingsbeleid had uitgevonden en consumenten daardoor verkeerd geïnformeerd werden. De zaak wordt internationaal aangehaald als vroeg voorbeeld dat bedrijven aansprakelijk kunnen zijn voor foutieve of misleidende informatie van hun AI‑chatbots, en dat ze een zorgplicht hebben om de output van zulke systemen correct en niet‑misleidend te houden. Meer info over deze zaak is onder meer hier te lezen: Moffatt v. Air Canada: A Misrepresentation by an AI Chatbot (McCarthy Tétrault). 

Contractuele waarborgen en privaatrechtelijke zorgvuldigheid

Wanneer het AI‑systeem zelf het voorwerp van de overeenkomst is, moet de verbintenis tot levering/terbeschikkingstelling worden beoordeeld in functie van de «kwalitatieve werking» van het systeem. Prestatieniveaus, test- en toezichtverplichtingen en explainability moeten dus contractueel worden vastgelegd.

Vanuit het gemeen privaatrecht geldt een zorgvuldigheidsnorm: het nemen van redelijke voorzorgsmaatregelen (trainingsdata‑kwaliteit, testen, menselijk toezicht, transparantie over risico’s) om aansprakelijkheid te vermijden, met een redelijke bovengrens aan inspanningen.

Wanneer de software er is, komt de training. Welke juridische vragen rijzen daar?​

Bij het aankopen en trainen van chatbots en AI‑agents zijn er vier clusters van juridische aandachtspunten rond training:

1. Gegevensbescherming bij het gebruik van (gevoelige) persoonsgegevens in trainingssets en de keuze van een geldige verwerkingsgrond
   
   
2. Auteursrecht en naburige rechten bij het scrapen/tekst‑ en datamining van content, bewijs van gebruik in training en (nieuwe) transparantieplichten voor ‘GPAI‑aanbieders’. GPAI (general purpose AI) duidt in de AI‑Verordening op AI‑modellen met een aanzienlijk algemeen karakter die competent een breed scala aan taken kunnen uitvoeren en in uiteenlopende downstream‑systemen of ‑toepassingen kunnen worden geïntegreerd. ‘GPAI‑aanbieders’ zijn dan de natuurlijke of rechtspersonen die zulke GPAI‑modellen in de handel brengen of in gebruik stellen onder hun eigen naam of merk, en op wie specifieke verplichtingen rusten inzake o.a. transparantie over trainingsdata, naleving van auteursrecht en, voor modellen met systeemrisico, model‑ en risico‑evaluaties en cyberbeveiliging.
   
   
3. AI‑specifieke transparantie- en kwaliteitsvereisten uit de AI Act, met onderscheid tussen hoog risico, beperkt risico (o.a. chatbots/deepfakes) en algemene‑doeleindenmodellen
   
   
4. Buitencontractuele en contractuele aansprakelijkheidsrisico’s bij foutieve of misleidende output, waarbij redelijke voorzorgsmaatregelen in de training, validatie, testen en menselijk toezicht absoluut noodzakelijk zijn.

Deze punten bepalen samen inkoopclausules, technische due diligence, datastromen, en intern governance‑ en compliance‑by‑design bij training en her‑training gebruiker.
Nalatigheid kan dus leiden tot beroeps‑ of tuchtrechtelijke consequenties.

Wanneer een chatbot of AI‑agent online gaat, gelden cumulatieve informatieplichten uit het Belgische economisch recht, het consumentenrecht op afstand, en – indien relevant – sectorspecifieke en EU‑AI‑verplichtingen.

Niet‑naleving kan leiden tot ongebondenheid van de consument, precontractuele/foutaansprakelijkheid en, in gereguleerde domeinen, bijkomende sancties.

Voor schade door een AI‑chatbot of agent (beledigende uitlatingen, foutieve kortingen, onjuiste claims) is in België in de regel het gemeenrecht van de buitencontractuele foutaansprakelijkheid (art. 6.5 BW; voorheen art. 1382‑1383 oud BW) het vertrekpunt, aangevuld met regels over schade, causaliteit en eventueel verlies van een kans.

Er bestaat momenteel geen algemene objectieve aansprakelijkheid specifiek voor AI‑systemen; voorstellen of sectorale denkpistes bestaan wel, maar zijn (nog) geen geldend recht.

Gebruiksvoorwaarden en disclaimers bepalen contractueel het speelveld voor chatbots en AI Agents, maar zij opereren naast – en nooit in de plaats van – dwingende normen uit de AI Act, het gegevensbeschermingsrecht, het consumenten- en mededingingsrecht en het gemeen recht inzake (pre)contractuele en buitencontractuele aansprakelijkheid.

Voor AI-systemen met beperkt risico, waaronder chatbots en generatieve modellen, legt artikel 50 AI Act transparantieplichten op (identificeer AI-interactie en label AI-output), terwijl artikel 53 AI Act voor GPAI‑modellen aanvullende documentatie- en transparantievereisten oplegt (samenvatting trainingsdata, auteursrechtbeleid).

In gereguleerde sectoren (bv. kredietverlening) gelden bijkomende, levenscyclusbrede transparantieplichten en controleverantwoordelijkheden, die niet door disclaimers kunnen worden uitgehold.

In het Belgische en EU‑contractenrecht kan een overeenkomst tot stand komen via een AI‑systeem dat autonoom aanbiedingen en aanvaardingen genereert, mits de rechtssubjecten achter het systeem gebonden willen zijn; het AI‑systeem zelf heeft geen rechtssubjectiviteit.

De geldigheid en toerekening verlopen via bestaande leerstukken (vertegenwoordiging/middelen van contractsluiting, wilsgebreken zoals dwaling/bedrog) en via rolallocatie tussen aanbieder/gebruiksverantwoordelijke onder de AI Act.

Precontractuele en contractuele aansprakelijkheidsvragen (zorgvuldigheid, bewijs, transparantie) blijven centraal en kunnen door bewijslastvermoedens en conformiteits-/transparantienormen worden gestuurd.

In specifieke domeinen (bv. financiële diensten) leggen EU‑kaders bijkomende transparantie‑eisen op bij geautomatiseerde besluitvorming met AI.

Toepassingsgebied, verbodsbepalingen en transparantie (AI Act)

1. Inventariseer of de beoogde chatbot/AI‑agent binnen het toepassingsgebied van de AI Act  valt en vermijd verboden praktijken; pas de transparantieregels voor beperkt‑risico‑systemen strikt toe.
Voorbeelden van verboden praktijken volgen uit artikel 5 AI Act (o.a. manipulatieve systemen, misbruik van kwetsbaarheden, social scoring door overheden, bepaalde emotieherkenning en scraping voor gezichtsherkenning).

2. Voor AI‑systemen met beperkt risico, waaronder chatbots, AI‑assistenten, generatieve systemen en deepfakes, gelden specifieke transparantieverplichtingen: informeer gebruikers dat zij met een AI‑systeem interageren en label AI‑gegenereerde of gemanipuleerde content in machineleesbaar formaat; bezorg deze informatie duidelijk en bij eerste interactie, met beperkte uitzonderingen.

3. Beoordeel de onvoorspelbaarheid en “zwarte‑doos”-eigenschappen van het systeem en organiseer passend menselijk toezicht en testing; kies waar mogelijk voor verklaarbare systemen.

4. Houd rekening met de inherente mogelijkheid tot occasioneel incorrecte of bevooroordeelde output en zorg dat beslissingen niet blind op het systeem steunen.

7. Wanneer AI wordt ingezet ter ondersteuning van besluitvorming of als chatbot richting wederpartijen/consumenten, toets dan het dwalings- en bedrogskader en de algemene zorgvuldigheidsnorm.

Informatie via een AI‑chatbot wordt aan de gebruiker toegerekend; misleidende informatie kan precontractuele aansprakelijkheid activeren en in bepaalde omstandigheden als een mogelijk bedrog kunnen geïnterpreteerd worden.

8. Redelijk AI‑gebruik vergt o.m. investeren in optimalisatie, certificering/standaarden, menselijk toezicht en verklaarbaarheid. Redelijkheid begrenst de te nemen voorzorgsmaatregelen.

9. Wees ervan bewust dat een rechter de inzet van moderne tools kan verwachten in functie van efficiënte dienstverlening.

Slimmer werken met AI? Maak kennis met GenIA‑L Assistant, onze juridische en fiscale AI-assistent die u helpt sneller analyseren, samenvatten en schrijven, veilig en volledig in lijn met uw juridische praktijk.

Ontdek hoe GenIA-L Assistant hoe kan helpen: https://www.larcier-intersentia.com/nl/genial-assistant