./thesis / trust
Une IA digne de confiance.
Les entreprises confieront un vrai travail aux agents IA le jour où elles pourront prouver ce que ces agents ont fait. Pas le résumer. Le prouver.
Les logs ne sont pas une preuve
Tous les systèmes d'IA tiennent des logs. Un log, c'est du texte dans une base de données, et du texte dans une base de données peut être modifié, tronqué ou discrètement perdu. Quand un agent approuve un remboursement, rejette un candidat ou déplace de l'argent, « nous avons des logs » n'est pas une réponse qu'un régulateur, un client ou un tribunal acceptera. La barre, c'est l'infalsifiabilité : un enregistrement qu'on ne peut pas réécrire après coup sans que la réécriture soit évidente.
La décision est une chaîne, pas un instant
L'action d'un agent est le dernier maillon d'une chaîne : les données qu'il a vues, le contexte qu'on lui a donné, le modèle qu'il a appelé, les outils qu'il a touchés, les étapes intermédiaires qu'il a franchies. S'il manque un maillon, l'action est inexplicable. Pour nous, l'unité d'audit est la chaîne entière, capturée au moment où elle se produit, hachée et scellée pour que chaque étape puisse être rejouée et vérifiée plus tard.
On ne peut pas prouver ce qu'un modèle a pensé
Les modèles fermés n'exposent pas leurs poids, et aucune cryptographie n'y changera rien. L'affirmation honnête, et utile, est ailleurs : on peut prouver ce qui est entré, ce qui est sorti, ce qui en a été fait, et que notre analyse de la décision est fidèle à l'enregistrement. Cela suffit pour répondre aux questions qui comptent : qui a décidé, sur quelle base, et peut-on le vérifier.
La régulation arrive plus vite que l'outillage
Des règles exigeant exactement ce type d'enregistrement sont déjà programmées dans l'UE, aux États-Unis et ailleurs, avec des sanctions assez lourdes pour changer l'ordre du jour des conseils d'administration. La plupart des entreprises affronteront cette vague avec des captures d'écran et de bonnes intentions. Celles qui font tourner des agents à grande échelle auront besoin d'une infrastructure de confiance conçue pour cela. Nous construisons cette couche en premier, parce que sans elle, rien de ce que nous construisons n'a de sens.