Évaluation de la sécurité et de l’exposition aux données des systèmes d’IA dans les plateformes agroalimentaires

Les systèmes d’IA peuvent traiter des données sensibles, interagir avec les utilisateurs et s’intégrer à des services tiers, ce qui peut entraîner des risques pour la sécurité ou une exposition involontaire aux données. Avant l'évaluation, ces problèmes pourraient ne pas être détectés. Après le service, le client reçoit un rapport détaillé identifiant les faiblesses de sécurité, leur gravité et des recommandations exploitables pour les atténuer. Cela contribue à améliorer la robustesse et la résilience, la transparence et la préparation du marché de la solution.

Le service est fourni à distance. Le client doit donner accès à une version de travail ou à un environnement de test du système (URL, identifiants de test, points de terminaison d'API), ainsi qu'à une brève description technique du système d'IA à évaluer. L'élément livrable est un rapport structuré comprenant les risques et les vulnérabilités identifiés, la classification de la gravité et les stratégies d'atténuation recommandées. Des réunions peuvent être programmées au cours du processus d'évaluation afin de clarifier les aspects fonctionnels ou d'aborder des questions spécifiques. Une séance de suivi peut également être organisée sur demande pour discuter des résultats et appuyer la prise de décision. Il n'y a pas de restrictions liées à la période de l'année; le service peut être fourni à tout moment.

Le service peut être adapté à différents types de systèmes d’IA, en se concentrant sur leur interaction avec les utilisateurs, les services externes et les sources de données. L'analyse combine l'utilisation d'outils automatisés et l'inspection manuelle pour identifier les faiblesses liées au contrôle d'accès, au traitement des entrées et à la divulgation de l'information. Il s'applique aux systèmes dotés d'une version fonctionnelle ou d'un environnement de test et suit une méthodologie structurée et non intrusive alignée sur les principes de sécurité dès la conception.