Plan de cours détaillé
Module 1 — Concepts d'IA et de données pour la cybersécurité
- Concepts d'IA et principaux types d'IA
- IA générative et transformers
- Machine learning et deep learning
- Traitement du langage naturel (NLP)
- Approches d'entraînement des modèles d'IA
- Fondamentaux du prompt engineering
- Considérations de sécurité des modèles
- Types de données IA et techniques de sécurisation des données
- Concepts de RAG (génération augmentée par récupération)
- Intégrité des données et contrôles de traitement
Module 2 — Modélisation des menaces et sécurisation des systèmes d'IA
- Fondamentaux de la modélisation des menaces IA
- Processus et prérequis de la modélisation des menaces
- Cadres de modélisation des menaces IA
- Types de contrôles de sécurité IA
- Guardrails de modèles et templates de prompts
- Contrôles de passerelle et d'interface
- Quotas d'utilisation et contrôles de limitation
- Tests des contrôles de sécurité
Module 3 — Contrôles d'accès pour l'IA
- Principes et modèles de contrôle d'accès pour l'IA
- Contrôles d'accès aux modèles et agents
- Sécurité des accès API et réseau
- Contrôles de sécurité des données IA
- Mesures de chiffrement et de protection des données
- Surveillance et journalisation des systèmes IA
- Suivi des performances et des coûts
- Audit IA et suivi de conformité
Module 4 — Menaces IA et contrôles compensatoires
- Sécurité du cycle de vie de l'IA
- Considérations éthiques de conception de l'IA
- Types et techniques d'attaques sur l'IA
- Attaques de type backdoor et cheval de Troie sur les modèles
- Empoisonnement et inversion de modèle
- Risques de vol de modèle
- Stratégies de contrôles compensatoires
- Analyse post-incident IA
Module 5 — Exploiter l'IA dans les opérations de sécurité
- Outils de sécurité dotés d'IA
- Cas d'usage de l'IA en détection et analyse
- IA pour l'évaluation des vulnérabilités
- Vecteurs d'attaque renforcés par l'IA
- IA pour l'ingénierie sociale et la tromperie
- Techniques de reconnaissance par IA
- Automatisation pilotée par IA
- IA dans les workflows DevSecOps
- Scripting et synthèse assistés par IA
Module 6 — Gouvernance, risques et conformité de l'IA
- Structures de gouvernance IA
- Rôles organisationnels liés à l'IA
- Principes d'IA responsable
- Identification et évaluation des risques IA
- Thématiques réglementaires liées à l'IA
- Cadres de conformité pour l'IA
- Conception de politiques IA organisationnelles
- Reporting de conformité