Intelligence artificielle : Mahamadi Rouamba appelle à anticiper les risques liés aux agents IA

Mahamadi Rouamba, fondateur de Ticanalyse, a alerté sur les risques liés aux agents d'intelligence artificielle lors d'une conférence en ligne organisée dans le cadre de la deuxième édition de Le Faso Digital. Il a souligné que ces systèmes, capables de planifier et d'exécuter des tâches de manière autonome, imposent aux organisations de repenser leurs mécanismes de contrôle et de sécurité au-delà de la simple utilisation d'outils classiques.

Le conférencier a distingué la gouvernance, qui relève du pouvoir de décision, de la sécurisation, qui concerne les moyens techniques de vérification. Il a mis en garde contre les pratiques à risque, telles que l'usage de comptes personnels ou le partage non validé de documents internes, ainsi que contre le phénomène du « Shadow AI », où des solutions non contrôlées par la hiérarchie sont utilisées sans supervision adéquate.

Pour illustrer les dangers, Mahamadi Rouamba a présenté « Panguin », une solution destinée à orchestrer et superviser les agents d'IA. Ce dispositif permet de contrôler les accès et les actions des systèmes, empêchant par exemple un agent de mobiliser des ressources inutiles ou inappropriées pour accomplir une mission simple, garantissant ainsi le respect des règles institutionnelles.

En conclusion, l'intervenant a insisté sur la nécessité d'une approche collective à l'échelle régionale pour renforcer la souveraineté numérique des pays africains face aux fournisseurs internationaux. Il a appelé les institutions à intégrer des dispositifs techniques de contrôle, comparés à une « police des frontières numériques », afin de maîtriser les données et les décisions confiées aux systèmes d'intelligence artificielle.

Synthèse rédigée par KasoNews avec l'aide de l'IA, à partir de l'article de Lefaso.net. Retrouvez tous les détails dans l'article original.