Guillaume Braux, directeur technique Europe du Sud chez Box, explique comment l’IA peut transformer la gestion documentaire sans ouvrir la porte aux fuites d’informations sensibles.

🎤 INVITÉ : Guillaume Braux - Directeur technique Europe du Sud chez Box

En partenariat avec Box

Punchlines
L’IA travaille avec une masse d’informations que personne ne maîtrise vraiment.
Rien ne différencie un PDF d’un autre PDF sans gouvernance des données.
Le plus gros risque de fuite de données reste le facteur humain.
L’IA peut devenir un générateur de fuite de données plutôt qu’un outil de productivité.
Un agent IA seul ne garantit pas la cohérence d’un processus métier.

=================================

En quoi l’IA transforme-t-elle l’exploitation des documents en entreprise ?

Aujourd’hui, près de 90 % des données des entreprises sont des données non structurées : contrats, présentations, vidéos, images, plans techniques ou documents bureautiques. Avec l’IA générative, nous ne cherchons plus simplement des documents, nous cherchons directement l’information contenue dans ces documents. L’IA permet aussi d’automatiser certains processus métiers. Par exemple, nous pouvons identifier automatiquement tous les contenus contenant le logo d’un client, même parmi des milliers de vidéos, d’images ou de présentations. Cela permet ensuite d’agir très rapidement si ce contenu ne doit plus être utilisé.

Pourquoi l’IA pose-t-elle un problème de gouvernance des données ?

Le principal danger vient du fait que les entreprises stockent énormément de documents dans des silos mal organisés. Si l’on branche une IA sur cet ensemble de données sans gouvernance préalable, elle peut faire remonter des informations sensibles auxquelles les collaborateurs n’auraient jamais dû accéder. L’IA agit comme un révélateur des faiblesses documentaires de l’entreprise. Un chatbot capable d’explorer des centaines de téraoctets de données peut potentiellement retrouver des informations confidentielles, comme des contrats, des salaires ou des projets stratégiques. Pour limiter ce risque, il faut classifier les documents et associer à chaque contenu un niveau de confidentialité et des droits d’accès précis.

Pourquoi le “Shadow AI” inquiète autant les entreprises ?

Le Shadow AI représente un vrai risque parce que beaucoup de collaborateurs utilisent des outils d’IA grand public pour analyser des documents internes. Le problème, c’est que les entreprises ne savent pas toujours ce que deviennent ces contenus une fois envoyés à des services externes. Certaines données sensibles pourraient même être utilisées pour entraîner des modèles d’IA. C’est pourquoi nous défendons une approche sécurisée où les outils d’IA n’accèdent qu’aux informations auxquelles un collaborateur est déjà autorisé. Même lorsqu’un chatbot externe interagit avec les données de l’entreprise, les droits d’accès restent strictement contrôlés.

Les agents IA peuvent-ils remplacer les humains ?

Je reste prudent sur les promesses d’automatisation totale. Les agents IA peuvent intervenir dans certaines étapes précises d’un processus, mais ils ne doivent pas agir seuls. Un agent peut, par exemple, vérifier automatiquement la conformité d’un contrat ou détecter certaines clauses. Mais si son niveau de confiance est insuffisant, un humain doit reprendre la main. Je crois davantage à des modèles hybrides, associant automatisation intelligente et validation humaine, plutôt qu’à des agents totalement autonomes.

Hébergé par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.

🎤 IA en entreprise : comment garder le contrôle des données ? (Guillaume Braux, Box)

Monde Numérique | Actualité Tech & IA

🎤 IA en entreprise : comment garder le contrôle des données ? (Guillaume Braux, Box)