Déclaration d'utilisation de l'IA
Où nous utilisons un modèle, où nous ne l'utilisons pas, quelles données vont où, et qui approuve. Nous la fournissons par écrit, adaptée au mandat, avant le début des travaux.
Étape par étape
| Étape | Modèle en jeu | Données quittant votre périmètre | Point de contrôle humain |
|---|---|---|---|
| Analyse du code source en arbres syntaxiques et graphes d'appels | Aucun | Aucune ; hors ligne | Aucun requis |
| Construction du graphe et détection de communautés | Aucun | Aucune ; hors ligne | Aucun requis |
| Lecture des documents en nœuds sémantiques | Oui | Aucune avec un modèle auto-hébergé ; sinon le texte des documents | Revue des exigences |
| Inférence des dépendances | Oui, un appel par exigence sur un ensemble borné de candidats | Texte des exigences et voisins candidats, même règle que ci-dessus | Revue des dépendances |
| Rédaction des scénarios Gherkin à partir des règles extraites et des notes d'entrevue | Oui | Même règle que ci-dessus | Revue des livrables ; chaque scénario cite la source de sa règle |
| Planification des itérations et ordre de construction | Aucun | Aucune ; hors ligne | Approbation du plan |
| Estimation du prix fixe | Oui, pour proposer la taille de chaque scénario en citant ses lignes ; le calcul s'exécute sans modèle | Texte des scénarios, même règle que ci-dessus | Approbation de la soumission par une personne nommée |
| Réalisation | Oui, à l'intérieur du cycle à points de contrôle | Code en cours de modification, même règle de résidence | Tests scellés, revue de conception, durcissement |
| Vérification de parité et d'acceptation | Aucun | Aucune | Approbation de l'acceptation |
Règles qui s'appliquent partout
- Un modèle propose ; il ne décide jamais. Les résultats réglementés et contractuels, l'ordre de construction, l'ordonnancement des dépendances et la parité sont calculés de façon déterministe ou décidés par une personne nommée.
- L'ancrage est obligatoire. Chaque fait proposé par un modèle cite la construction source exacte d'où il vient, et la citation est vérifiée mécaniquement avant usage. Les valeurs non étayées sont rejetées.
- Défaillance sécuritaire. Ce qui ne peut être vérifié est marqué inconnu et acheminé à une personne.
- La résidence est une configuration, validée au démarrage. Les étapes qui font appel à un modèle peuvent s'exécuter sur un modèle à poids ouverts auto-hébergé au Canada. Là où la résidence est exigée, un fournisseur hors de la région permise fait échouer le déploiement, jamais une seule requête.
- La provenance est consignée. Chaque exigence, arête et décision porte la façon dont elle a été produite et qui l'a confirmée, pour qu'un vérificateur puisse rejouer la chaîne.
Pourquoi c'est écrit
Les acheteurs du secteur public ontarien travaillent désormais sous une directive sur l'utilisation responsable de l'intelligence artificielle qui vise les services dotés de fonctions d'IA, et les acheteurs du secteur privé réglementé font face à des attentes équivalentes de leurs propres autorités. Une déclaration écrite qui nomme chaque étape, modèle, flux de données et point de contrôle humain est la réponse pratique aux deux. Elle nous garde aussi honnêtes : une affirmation sur cette page est une affirmation que nous devons pouvoir démontrer dans l'outillage.