SOUVERAINETÉ ET GOUVERNANCE DE L’IA

Définir ce que l’IA peut faire. Et qui en reste responsable.

Avant qu’un processus d’IA utilise les informations d’une organisation ou propose une action, quelqu’un doit en définir les limites. Voici les questions de gouvernance qui orientent notre moteur : autorisations, surveillance humaine, souveraineté des données et éléments probants pour la validation.

01 / RESPONSABILITÉ

Partir de la décision.

Prenons une réponse préparée à partir de consignes internes. Qui peut accéder à la source ? La réponse peut-elle être partagée ? Qui la vérifie et qui peut arrêter le processus ? Définir ces responsabilités transforme l’ambition d’une IA responsable en exigences qu’un projet peut tester.

L’accès à une source n’autorise pas la modification d’un dossier ni l’envoi d’un message.
Une première version doit être examinée par une personne désignée avant de devenir une référence approuvée.
Une autorisation manquante ou une exception non résolue doit suivre une procédure convenue d’arrêt et de transmission à un responsable.

02 / ÉLÉMENTS À EXAMINER

Pouvoir examiner ce qui s’est passé.

Pour notre moteur, la visibilité et la traçabilité consistent à prévoir des registres qui relient une tâche à ses sources, à ses actions et aux décisions humaines. Le périmètre de ces registres serait convenu pour chaque cas d’usage.

Sources et autorisations

Identifier les documents et les versions accessibles pour la tâche, les règles d’accès applicables ainsi que le modèle ou l’outil utilisé.

Actions et approbations

Définir les actions qui nécessitent une surveillance humaine, les personnes autorisées à les approuver et la façon de consigner les approbations, les refus et les modifications.

Résultats et corrections

Relier le résultat proposé à sa validation, y compris les corrections et les questions non résolues, pour soutenir de futures évaluations de la gouvernance et évaluations de la conformité.

03 / CHOIX DE L’ORGANISATION

Définir la maîtrise selon vos exigences.

La souveraineté des données implique des choix sur les données stratégiques, la propriété intellectuelle et les fournisseurs. Elle doit se traduire concrètement. Pour un déploiement envisagé, ces choix devraient être documentés, mis en œuvre et validés.

Résidence des données et accès

Où les informations peuvent-elles être stockées et traitées ? Qui peut y accéder, combien de temps doivent-elles être conservées et comment doivent-elles être supprimées ?

Choix des fournisseurs

Quels modèles, outils et fournisseurs sont acceptables ? Quelles exigences d’interopérabilité et d’exportation aideraient l’organisation à changer un composant par la suite ?

Propriété intellectuelle

Qui possède les ressources sources et les résultats validés ? Quelles utilisations sont autorisées et quelles connaissances l’organisation doit-elle conserver ?

04 / VÉRIFIER LES CONTRÔLES

Tester aussi les cas difficiles.

Une évaluation doit inclure une source périmée, deux documents contradictoires, une demande qui dépasse les autorisations de la personne et une action nécessitant une approbation. Pour chaque cas, il faut définir la limite attendue : ce que le processus peut renvoyer, quand il doit s’arrêter et qui examine l’exception. Ces cas rendent les exigences de gouvernance concrètement vérifiables dans un projet.

Convenir des mesures de base et des éléments probants nécessaires pour évaluer le processus.
Documenter qui examine les exceptions et qui peut approuver une modification du périmètre.
Utiliser l’évaluation pour décider de réviser, d’élargir ou d’arrêter le cas d’usage.

PARLONS-EN

Quelles décisions doivent rester entre vos mains ?

Présentez la tâche envisagée et les exigences de données, d’approbation ou de déploiement qui l’encadreraient.

connect@connectedlabs.tech