Vertex AI and Generative AI Security (VAIGAS) – Outline

Detailed Course Outline

Module 01 - Introduction aux principes de sécurité de Vertex AI

Sujets

  • Sécurité sur Google Cloud
  • Composants de Vertex AI
  • Enjeux de sécurité de Vertex AI

Objectifs

  • Revoir les fondamentaux de la sécurité sur Google Cloud.
  • Acquérir une compréhension de base de Vertex AI.
  • Énumérer les préoccupations de sécurité liées aux fonctionnalités et composants de Vertex AI.

Activités

  • Lab : Vertex AI : Entraînement et déploiement d’un modèle personnalisé

Module 02 - Gestion des identités et des accès (IAM) dans Vertex AI

Sujets

  • Présentation d’IAM dans Google Cloud

Objectifs

  • Contrôler l’accès avec la gestion des identités et des accès.
  • Simplifier les autorisations à l’aide des hiérarchies et politiques d’organisation.
  • Utiliser des comptes de service pour un accès avec privilèges minimaux.

Activités

  • Lab : Comptes de service et rôles : fondamentaux

Module 03 - Sécurité des données et confidentialité

Sujets

  • Chiffrement des données
  • Protection des données sensibles
  • Contrôles de service VPC
  • Planification de la reprise après sinistre

Objectifs

  • Configurer le chiffrement au repos et en transit.
  • Chiffrer les données avec des clés de chiffrement gérées par le client.
  • Protéger les données sensibles à l’aide du service de prévention des pertes de données (DLP).
  • Empêcher l’exfiltration de données à l’aide des contrôles de service VPC.
  • Concevoir des systèmes tenant compte de la reprise après sinistre.

Activités

  • Lab : Premiers pas avec Cloud KMS
  • Lab : Création d’une copie désidentifiée de données dans Cloud Storage

Module 04 - Sécurisation des points de terminaison Vertex AI et déploiement de modèles

Sujets

  • Sécurité réseau
  • Sécurisation des points de terminaison des modèles

Objectifs

  • Déployer des modèles ML à l’aide des points de terminaison.
  • Sécuriser les points de terminaison des modèles.

Activités

  • Lab : Configuration de l’accès privé à Google et de Cloud NAT

Module 05 - Supervision et journalisation dans Vertex AI

Sujets

  • Journalisation
  • Supervision

Objectifs

  • Écrire dans les journaux et les analyser.
  • Mettre en place la supervision et les alertes.

Module 06 - Risques de sécurité dans les applications d’IA générative

Sujets

  • Aperçu des risques de sécurité liés à l’IA générative
  • Aperçu de la sécurité de l’IA
  • Sécurité des invites
  • Mécanismes de protection des LLM

Objectifs

  • Identifier les risques de sécurité spécifiques aux LLM et aux applications d’IA générative.
  • Comprendre les méthodes pour atténuer le piratage des invites et les attaques par injection.
  • Explorer les bases de la sécurisation des modèles et applications d’IA générative.
  • Introduire les fondamentaux de la sécurité de l’IA.

Activités

  • Lab : Sécurisation avec l’API Vertex AI Gemini
  • Lab : Sécurité Gen AI & LLM pour les développeurs

Module 07 - Test et évaluation des réponses de modèles d’IA générative

Sujets

  • Test des réponses des modèles d’IA générative
  • Évaluation des réponses
  • Ajustement fin des LLM

Objectifs

  • Mettre en œuvre les bonnes pratiques pour tester les réponses des modèles.
  • Appliquer des techniques pour améliorer la sécurité des réponses dans les applications d’IA générative.

Activités

  • Lab : Mesurer les performances Gen AI avec le service d’évaluation de l’IA générative
  • Lab : Tests unitaires d’applications d’IA générative

Module 08 - Sécurisation des systèmes RAG (Retrieval-Augmented Generation)

Sujets

  • Principes de base de la génération augmentée par récupération
  • Sécurité dans les systèmes RAG

Objectifs

  • Comprendre l’architecture RAG et ses implications en matière de sécurité.
  • Mettre en œuvre les bonnes pratiques pour l’ancrage et la sécurisation des sources de données dans les systèmes RAG.

Activités

  • Lab : RAG multimodal avec l’API Vertex AI Gemini
  • Lab : Introduction à l’appel de fonctions avec Gemini