Chatbots et agents dans l’entreprise : points d’attention juridiques

Ce texte a été généré via GenIA-L, l’outil IA de Larcier-Intersentia puis adapté.

Que faut‑il entendre juridiquement par chatbot IA classique et agent IA ?​

Un chatbot est un interlocuteur automatisé qui interagit avec les utilisateurs finaux via le langage naturel.

Selon l’AI Act, les systèmes d’IA destinés à une interaction directe avec des personnes physiques (comme les chatbots et assistants IA) sont qualifiés de systèmes « à risque limité ». Ils sont soumis à des obligations spécifiques de transparence : l’utilisateur doit être informé qu’il interagit avec un système d’IA, et le contenu généré par l’IA doit être signalé comme artificiel, sauf exceptions contextuelles.

Un agent IA peut être juridiquement compris comme un système d’IA qui, au‑delà de la simple conversation, prend des décisions ou exécute des actions dans un domaine de tâches déterminé, sous le contrôle d’un « opérateur ».

L’opérateur est la personne qui décide de l’utilisation d’un système d’IA dans un contexte donné et qui exerce un contrôle déterminant sur les risques et bénéfices. On distingue les opérateurs backend et frontend selon la nature du contrôle exercé.

Les modèles d’IA à usage général (GPAI) et l’IA générative (comme ChatGPT ou DALL·E) peuvent servir de modèles sous‑jacents aux chatbots et agents IA.

Les GPAI se caractérisent par un large spectre d’applications, tandis que l’IA générative crée de nouveaux contenus à partir de prompts en langage naturel.

Pour les chatbots : ChatGPT, Gemini ou Copilot, fonctionnant principalement via une interface de chat.

Pour les agents : Operator, Claude 3.5 avec fonctionnalités d’agent, ou Agentforce de Salesforce, capables d’exécuter des workflows de manière autonome.

Dans la pratique, les chatbots et agents IA peuvent déraper : insulter des clients, inventer des conditions de remboursement ou fournir des informations juridiques ou commerciales erronées.

Ce ne sont pas de simples problèmes techniques : ils créent des risques juridiques concrets (responsabilité contractuelle, information trompeuse, atteinte à l’image).

Cas emblématiques :

• Walters v. OpenAI (19 mai 2025) : ChatGPT était accusé d’avoir inventé des informations diffamatoires sur un animateur radio. Le tribunal a jugé OpenAI non responsable, notamment en raison de disclaimers clairs indiquant que la sortie ne devait pas être considérée comme factuelle. Pour plus d’informations sur cette affaire, cliquez ici : Walters v. OpenAI, L.L.C. (Loeb & Loeb).
• Moffatt v. Air Canada (février 2024) : la compagnie aérienne a été jugée responsable car son chatbot avait inventé une politique de remboursement inexistante, induisant les consommateurs en erreur. Cette affaire est citée internationalement comme un exemple précoce de responsabilité des entreprises pour les informations erronées fournies par leurs chatbots IA. Pour plus d’informations sur cette affaire, cliquez ici : Moffatt v. Air Canada: A Misrepresentation by an AI Chatbot (McCarthy Tétrault).

Garanties contractuelles et diligence privée

Lorsque le système d’IA est l’objet même du contrat, l’obligation de livraison doit être évaluée en fonction du « fonctionnement qualitatif » du système. Les niveaux de performance, obligations de test et de supervision, et l’explainability doivent être contractualisés.

En droit privé, une norme de diligence s’applique : prendre des mesures raisonnables (qualité des données d’entraînement, tests, supervision humaine, transparence sur les risques) pour éviter la responsabilité, dans des limites raisonnables.

Une fois la solution achetée, vient l’entraînement : quelles questions juridiques ?​

Lors de l’achat et de la formation de chatbots et d’agents IA, il existe quatre groupes de points d’attention juridiques autour de la formation :

1. Protection des données lors de l’utilisation de données personnelles (y compris sensibles) dans les jeux d’entraînement et choix d’une base légale valable.
2. Droit d’auteur et droits voisins lors du scraping/text & data mining, preuve de l’utilisation dans l’entraînement, et nouvelles obligations de transparence pour les « fournisseurs de GPAI ». GPAI (general purpose AI) désigne, dans le règlement sur l’IA, des modèles d’IA à caractère largement général, capables d’exécuter de manière compétente un large éventail de tâches et pouvant être intégrés dans divers systèmes ou applications en aval. Les « fournisseurs de GPAI » sont alors les personnes physiques ou morales qui mettent de tels modèles GPAI sur le marché ou en service sous leur propre nom ou marque, et sur lesquelles reposent des obligations spécifiques, notamment en matière de transparence sur les données d’entraînement, de respect du droit d’auteur et, pour les modèles présentant un risque systémique, d’évaluations du modèle et des risques ainsi que de cybersécurité.
3. Exigences de transparence et de qualité de l’AI Act, selon les catégories : haut risque, risque limité (chatbots, deepfakes), modèles à usage général.
4. Risques de responsabilité contractuelle et extracontractuelle en cas de sortie erronée ou trompeuse, nécessitant des mesures raisonnables en matière d’entraînement, validation, test et supervision humaine.

Ces points déterminent ensemble les clauses d’achat, la due diligence technique, les flux de données, ainsi que la gouvernance interne et la conformité by design lors de la formation et de la reformation par l’utilisateur. La négligence peut donc conduire à des conséquences professionnelles ou disciplinaires.

Lorsqu’un chatbot ou un agent IA est mis en ligne, des obligations d’information cumulatives issues du droit économique belge, du droit de la consommation à distance et – si pertinent – d’obligations sectorielles et européennes en matière d’IA s’appliquent.

Le non‑respect peut entraîner l’inopposabilité au consommateur, une responsabilité précontractuelle/délictuelle et, dans les domaines réglementés, des sanctions supplémentaires.

Pour les dommages causés par un chatbot ou un agent IA (propos insultants, remises erronées, affirmations incorrectes), le point de départ en Belgique est en règle générale le droit commun de la responsabilité extracontractuelle (art. 6.5 C. civ., anciennement art. 1382–1383 ancien C. civ.), complété par les règles relatives au dommage, au lien causal et éventuellement à la perte d’une chance.

Il n’existe actuellement aucune responsabilité objective générale spécifique aux systèmes d’IA ; des propositions ou pistes sectorielles existent, mais ne constituent pas (encore) du droit en vigueur.

Les conditions d’utilisation et les disclaimers déterminent contractuellement le cadre d’utilisation des chatbots et agents IA, mais ils opèrent à côté – et jamais à la place – des normes impératives issues de l’AI Act, du droit de la protection des données, du droit de la consommation et de la concurrence, ainsi que du droit commun en matière de responsabilité (pré)contractuelle et extracontractuelle.

Pour les systèmes d’IA à risque limité, y compris les chatbots et les modèles génératifs, l’article 50 de l’AI Act impose des obligations de transparence (identifier l’interaction IA et étiqueter la sortie IA), tandis que l’article 53 impose pour les modèles GPAI des exigences supplémentaires de documentation et de transparence (résumé des données d’entraînement, politique de droit d’auteur).

Dans les secteurs réglementés (ex. crédit), des obligations supplémentaires de transparence et de contrôle couvrant tout le cycle de vie s’appliquent, que les disclaimers ne peuvent pas neutraliser.

En droit belge et européen des contrats, un accord peut être conclu via un système d’IA générant de manière autonome des offres et acceptations, pour autant que les sujets de droit derrière le système souhaitent être liés ; le système d’IA lui‑même n’a pas de personnalité juridique.

La validité et l’imputation se font via les concepts existants (représentation/moyens de conclusion, vices du consentement tels que l’erreur/le dol) et via l’allocation des rôles entre fournisseur/responsable d’usage selon l’AI Act.

Les questions de responsabilité précontractuelle et contractuelle (diligence, preuve, transparence) restent centrales et peuvent être influencées par les présomptions de preuve et les normes de conformité/transparence.

Dans certains domaines (ex. services financiers), les cadres européens imposent des exigences supplémentaires de transparence lors de la prise de décision automatisée avec IA.

Champ d’application, interdictions et transparence (AI Act)

1. Inventorier si le chatbot/agent IA envisagé tombe dans le champ d’application de l’AI Act et éviter les pratiques interdites ; appliquer strictement les règles de transparence pour les systèmes à risque limité. Exemples de pratiques interdites : article 5 AI Act (systèmes manipulateurs, exploitation de vulnérabilités, scoring social par les autorités, certaines formes de reconnaissance émotionnelle et scraping pour reconnaissance faciale).

2. Pour les systèmes d’IA à risque limité, y compris chatbots, assistants IA, systèmes génératifs et deepfakes, des obligations spécifiques de transparence s’appliquent : informer les utilisateurs qu’ils interagissent avec un système d’IA et étiqueter le contenu généré ou manipulé par IA dans un format lisible par machine ; fournir ces informations clairement et dès la première interaction, avec des exceptions limitées.

3. Évaluer l’imprévisibilité et les caractéristiques de « boîte noire » du système et organiser une supervision humaine et des tests appropriés ; choisir des systèmes explicables lorsque possible.

4. Tenir compte de la possibilité inhérente d’une sortie occasionnellement incorrecte ou biaisée et veiller à ce que les décisions ne reposent pas aveuglément sur le système.

7. Lorsque l’IA est utilisée pour soutenir la prise de décision ou comme chatbot envers des contreparties/consommateurs, vérifier le cadre de l’erreur, du dol et la norme générale de diligence.

L’information fournie via un chatbot IA est imputée à l’utilisateur ; une information trompeuse peut engager la responsabilité précontractuelle et, dans certaines circonstances, être interprétée comme un possible dol.

8. Un usage raisonnable de l’IA implique notamment d’investir dans l’optimisation, la certification/les standards, la supervision humaine et l’explicabilité. La raisonnabilité limite les mesures de précaution à prendre.

9. Être conscient qu’un juge peut s’attendre à l’utilisation d’outils modernes en vue d’un service efficace.

Travailler plus intelligemment grâce à l’IA ?
Découvrez GenIA‑L Assistant, notre assistant juridique et fiscal qui vous aide à analyser, résumer et rédiger plus rapidement, avec un outil parfaitement adapté à votre pratique professionnelle, en toute sécurité.

Découvrez comment GenIA‑L Assistant peut vous aider: https://www.larcier-intersentia.com/fr/genial-assistant