Aller au contenu
Alaisia · Éditeurs Un site du réseau Alaisia

Guide

Assistant ou copilote IA : lequel ajouter à son logiciel ?

Un assistant répond, un copilote agit dans le logiciel. Quand passer de l'un à l'autre, et les garde-fous : confirmation, droits, journal, retour arrière.

Mis à jour le

Un assistant répond : il explique une fonction, retrouve une procédure, oriente vers la bonne page. Un copilote agit : il remplit un formulaire, crée un dossier, lance un export, modifie un enregistrement, toujours pour le compte de l'utilisateur connecté. Pour un logiciel métier, le bon ordre est presque toujours le même : on commence par l'assistant, on ajoute des actions de lecture, puis, seulement si les mesures le justifient, des actions qui écrivent.

Ce n'est pas une question de technologie, c'est une question de conséquences. Une mauvaise réponse d'assistant fait perdre dix minutes ; une mauvaise action de copilote peut envoyer un devis erroné ou écraser une donnée.

Ce qui change entre les deux

Assistant Copilote
Ce qu'il fait Répond, cite, oriente Lit et écrit dans le logiciel
Source principale La documentation La documentation et l'interface de programmation (API) du produit
Risque d'une erreur Une information fausse Une donnée modifiée, un message envoyé
Identité de l'utilisateur Utile pour personnaliser Indispensable : l'action doit se faire avec ses droits
Preuve à conserver Questions et réponses Questions, actions demandées, actions exécutées
Délai de mise en place Court Plus long : il faut exposer des actions propres

Les briques d'un assistant, décrites dans l'assistant d'aide en ligne et la documentation pour l'IA, restent valables pour un copilote. Ce qui s'ajoute, c'est une couche d'actions et tout ce qui la protège.

Quand passer de l'assistant au copilote

Quatre signaux, à lire dans les questions réellement posées à votre assistant :

  1. Des questions du type « comment faire X » sur des tâches répétitives. Si les utilisateurs demandent souvent comment créer le même type de fiche, c'est que la tâche est candidate à l'automatisation.
  2. Des transferts au support pour des opérations simples. Un changement d'adresse, un export, une relance : ce sont de bonnes premières actions.
  3. Une documentation à jour et des réponses justes. Un copilote bâti sur un assistant qui se trompe amplifie l'erreur.
  4. Des actions déjà exposées proprement dans votre produit. Sans interface de programmation stable, le copilote devra imiter des clics, ce qui casse à chaque évolution.

Si l'un de ces points manque, restez à l'assistant. Cette progression est une méthode que nous proposons, pas une règle.

Les garde-fous à prévoir avant la première action

  • Les droits de l'utilisateur, pas ceux de l'assistant. Le copilote ne doit jamais pouvoir faire plus que la personne qui le sollicite. Chaque appel passe par l'identité de l'utilisateur connecté et par les contrôles d'accès déjà en place dans le produit, et non par un compte technique tout-puissant.
  • Confirmation avant toute écriture. Le copilote annonce ce qu'il va faire (« Je vais créer le client X avec ces champs »), l'utilisateur valide d'un clic. Pour les actions irréversibles ou qui sortent du logiciel (envoi d'un mail, paiement, suppression), la confirmation reste obligatoire, même quand les autres sont assouplies.
  • Lecture d'abord. Commencez par des actions qui ne modifient rien : rechercher, résumer, préparer un brouillon. L'écriture arrive ensuite, action par action.
  • Une liste fermée d'actions. Le copilote ne reçoit que les actions que vous avez décidé d'exposer, avec des paramètres contrôlés. Pas d'accès général à la base ni à l'interface d'administration.
  • Journal et retour arrière. Chaque action est enregistrée (qui, quoi, quand, sur la demande de qui) et, quand c'est possible, annulable. Ce journal sert aussi à résoudre les litiges avec vos clients.
  • Protection contre les contenus piégés. L'OWASP, qui publie des référentiels de sécurité applicative, décrit l'« injection de prompt » : une entrée de l'utilisateur ou un contenu externe peut modifier le comportement du modèle. Parmi les mesures qu'elle cite figurent la définition précise du rôle et des limites du modèle, et la séparation des contenus non fiables. Quand le copilote peut agir, ce risque change de nature : une consigne cachée dans un champ de texte ou un document importé ne doit pas pouvoir déclencher une action.
  • Plafonds. Limitez le nombre d'actions par conversation et par heure, et demandez une validation renforcée au-delà.

Une méthode de déploiement en trois étapes

  1. Assistant seul, sur la documentation. Mesurez les questions fréquentes et le taux de réponses justes sur un jeu de questions que vous avez écrit vous-même.
  2. Assistant avec actions de lecture : « montre-moi les factures en retard de ce client ». Vérifiez que les droits sont respectés en testant avec des comptes de profils différents.
  3. Copilote avec écriture confirmée, sur deux ou trois actions seulement, avec un groupe restreint de clients volontaires. Mesurez les actions annulées par l'utilisateur : c'est votre meilleur indicateur d'erreur.

Côté données personnelles

Dès que le copilote lit des fiches clients, l'assistant traite des données personnelles pour votre compte et pour celui de vos clients. La CNIL, dans sa fiche du 08/04/2024, rappelle que la qualification (responsable de traitement ou sous-traitant) se fait au cas par cas, selon qui décide des finalités et des moyens. Ce sujet est traité dans données des clients et entraînement. Cette page donne une information générale, pas un avis juridique.

Le point à retenir

Le copilote n'est pas une version plus ambitieuse de l'assistant : c'est un produit différent, avec ses propres risques. Si vous hésitez encore sur la façon de le réaliser, la grille de construire ou intégrer s'applique de la même manière, avec une question en plus : qui maintient la couche d'actions quand votre interface change ?

Questions fréquentes

Quelle est la différence entre un assistant et un copilote ?

L'assistant répond à des questions, à partir de la documentation par exemple. Le copilote agit dans le logiciel : il crée, modifie ou envoie quelque chose au nom de l'utilisateur. Le second demande beaucoup plus de garde-fous.

Faut-il commencer par un assistant ?

C'est la voie prudente : l'assistant se mesure vite (questions posées, réponses justes) et prépare le terrain, puisque la documentation et l'identité de l'utilisateur sont les mêmes briques que celles du copilote.

Le copilote peut-il agir sans confirmation ?

Techniquement oui, mais c'est déconseillé au départ. Une confirmation explicite avant toute écriture est la règle de base, que l'on peut assouplir action par action une fois les erreurs mesurées.

Sources

Pages consultées pour écrire cet article :

  1. https://genai.owasp.org/llmrisk/llm01-prompt-injection/
  2. https://www.cnil.fr/fr/determiner-la-qualification-juridique-des-fournisseurs-de-systemes-dia

À lire aussi