Robustesse des systèmes multi-agents LLM : évaluation et optimisation
- Intervenant·e
- Quentin Macé (ILLUIN)
- Date
- Lieu
- Salle 306, bâtiment IMAG + visio
Séminaire interne RAVE, avec un invité extérieur : Quentin Macé, doctorant chez ILLUIN.
Orchestrer plusieurs agents LLM expose le système à des vulnérabilités en cascade : une API défaillante ou une information corrompue sur un seul nœud peut faire s’effondrer l’ensemble. Pourtant, il n’y a pas encore de méthode systématique des dynamiques d’échecs de ces système et encore moins de leur optimisation. Cette présentation abordera deux questions liées à ce sujet : d’une part comment évaluer concrètement la robustesse d’un système multi-agents, au delà de la simple évaluation de la réponse finale. D’autre part comment optimiser ces systèmes pour les rendre plus robustes aux perturbations.
