Stage - Red Teaming des applications basées sur LLM et agents (Zurich)

À propos de cette offre

Contrat à durée déterminée (typiquement 3 mois) · 80–100% · Zurich · Étudiants (niveau Licence, Master ou Doctorat)

« Comprendre les données est la compétence gagnante dans toutes les industries. »

Nous construisons D ONE avec la conviction que chaque entreprise sera une entreprise de données. Depuis nos débuts, nous aidons nos clients à comprendre leurs données et à générer de la valeur.

Dans ce stage, vous travaillerez de manière autonome sur un sujet dans le domaine de la sécurité et des tests de sûreté de l'IA. Vous testerez les systèmes d'IA générative pour détecter leurs faiblesses, et transformerez ce que vous apprenez en outils et directives que d'autres pourront réutiliser.

Vos tâches incluront :

• Revue du paysage actuel des attaques et défenses pour les applications basées sur LLM et agents.
• Conception et mise en œuvre de cas de test adverses et automatisation de leur exécution en Python.
• Évaluation des systèmes selon des cadres reconnus de sécurité et de gouvernance.
• Analyse des résultats, évaluation de leur gravité et proposition de mesures d'atténuation.
• Documentation de votre travail et présentation à un public technique et non technique.

Ce que vous apportez :

• Inscription actuelle dans un programme de Licence, Master ou Doctorat en Informatique, Science des données, Linguistique informatique, Ingénierie, Mathématiques ou domaine comparable.
• Intérêt pour au moins un domaine industriel et curiosité sur la manière dont les données créent de la valeur dans ce domaine.
• Attitude pragmatique, terre-à-terre et orientée résultats.
• Expérience de travail avec de grands ensembles de données et bases de données.
• Connaissances des technologies et langages de programmation pertinents (par ex. Python, SQL, Git, Spark, plateformes cloud).
• Excellentes compétences en communication en anglais ; l'allemand est un atout important.

Qualifications préférées :

• Compréhension pratique des grands modèles de langage, génération augmentée par récupération et agents utilisant des outils.
• Familiarité avec les classes d'attaques spécifiques aux LLM : injection de prompt (directe et indirecte), jailbreaks, exfiltration de données et de prompt système, gestion non sécurisée des sorties, excès d'autonomie et mauvaise utilisation des outils.
• Connaissance des OWASP Top 10 pour les applications LLM, du cadre de gestion des risques IA du NIST et de la loi européenne sur l'IA.
• Expérience avec des outils de red teaming ou de tests de sécurité tels que Garak, PyRIT, promptfoo ou équivalent, ou expérience générale en tests d'intrusion.
• Capacité à automatiser la génération et l'évaluation des attaques, y compris les stratégies adaptatives et multi-tours.
• Connaissance des mesures défensives : garde-fous d'entrée et de sortie, sandboxing, conception d'outils à privilèges minimaux, filtrage de contenu.
• Discipline en ingénierie logicielle : frameworks Python extensibles, architectures de plugins, suites de tests automatisés, CI.
• Rapports rigoureux et reproductibles et état d'esprit de divulgation responsable ; forte éthique professionnelle dans la gestion des résultats sensibles.

Ce que nous offrons :

• Un environnement simple et calme qui permet de se concentrer sur l'essentiel.
• Une équipe internationale de personnes talentueuses issues de divers horizons, ambitieuses, appréciant les défis supplémentaires et sachant s'amuser au travail.
• Un mentorat direct par des consultants seniors de D ONE, ainsi qu'un accès à notre D ONE Academy incluant des sessions de partage de connaissances, des groupes d'experts et de travail.
• Un sujet clairement défini qui vous appartient, avec la liberté de choisir votre approche.
• Des événements sociaux hors site fréquents.
• Une voie réaliste pour rejoindre D ONE en tant que consultant après un stage réussi.

Pour réussir dans ce rôle, vous devrez :

• Vous efforcer de comprendre les besoins de vos clients.
• Fournir des résultats exceptionnels avec une grande valeur commerciale sous une forme compréhensible.
• Avoir l'agilité intellectuelle nécessaire pour accomplir la tâche de manière simple et agréable à gérer.
• Valoriser un jeu d'équipe intelligent et créatif.
• Travailler de manière autonome et structurer votre propre progression, tout en sachant quand faire appel à un collègue senior.

Êtes-vous intéressé à rejoindre une excellente équipe avec un parcours éprouvé et à travailler sur un sujet qui vous mettra constamment au défi ?

Nous serons heureux de recevoir votre candidature en référence à :

D ONE Value Creation AG

Sihlfeldstrasse 58

8003 Zurich