Pause
Lecture
Moteur de recherche d'offres d'emploi CEA

Stage - Utilisabilité et expérimentation d'un outil de vérification de réseaux de neurones


Détail de l'offre

Informations générales

Entité de rattachement

Le Commissariat à l'énergie atomique et aux énergies alternatives (CEA) est un organisme public de recherche.

Acteur majeur de la recherche, du développement et de l'innovation, le CEA intervient dans le cadre de ses quatre missions :
. la défense et la sécurité
. l'énergie nucléaire (fission et fusion)
. la recherche technologique pour l'industrie
. la recherche fondamentale (sciences de la matière et sciences de la vie).

Avec ses 16000 salariés -techniciens, ingénieurs, chercheurs, et personnel en soutien à la recherche- le CEA participe à de nombreux projets de collaboration aux côtés de ses partenaires académiques et industriels.  

Référence

2022-21996  

Description de l'unité

Sur le campus Paris-Saclay, le rôle du Laboratoire Sûreté et Sécurité des Logiciels du CEA List est de développer des outils d'analyse pour augmenter la
confiance dans les systèmes logiciels, en détecter des vulnérabilités, garantir la conformité à leurs spécifications, et en accélérer l'évaluation y compris dans des démarches de certification. Nos outils open-source sont développés afin d'être utilisés par l'industrie et leur développement est guidé par ses besoins.

Description du poste

Domaine

Systèmes d'information

Contrat

Stage

Intitulé de l'offre

Stage - Utilisabilité et expérimentation d'un outil de vérification de réseaux de neurones

Sujet de stage

Amélioration de l'utilisabilité d'un outil de vérification de réseaux de neurones et benchmark de ses capacités.

Durée du contrat (en mois)

6

Description de l'offre


PyRAT est un outil de vérification formelle de réseaux de neurones développé au sein de notre laboratoire qui a pour but d'en garantir la sûreté et la sécurité. Développé en Python en utilisant des librairies de calcul matriciel, il cherche à répondre à l'utilisation croissante de systèmes IAs par des industriels dans des cas d'usages où la sûreté est importante et où les logiciels habituels de vérification formelle ne passent pas à l'échelle.

PyRAT se base sur les principes de l’interprétation abstraite pour propager les entrées d'un réseau (représentées par un domaine abstrait) à travers les différentes couches de celui ci dans le but de déterminer les sorties atteignables. Actuellement l'usage principal de PyRAT est de vérifier la robustesse d'un petit ou moyen réseau à des perturbations autour des entrées de celui-ci. Néanmoins, l'usage de PyRAT reste à ce moment très limité par une ligne de commande et est souvent un obstacle à une utilisation facile pour tous.

Le but de ce stage est d'améliorer l'utilisabilité de PyRAT ainsi que d'évaluer à travers la création d'un benchmark la précision de l'outil. Après une première familiarisation avec l'outil, l'objectif sera de simplifier le point d'entrée de PyRAT avec une ligne de commande plus claire. Il sera aussi nécessaire de générer une documentation structurée à partir des docstring existantes. Le stagiaire pourra pour tout cela se reposer sur les connaissances et le suport du reste de l'équipe de développement de PyRAT.

De plus, un second but du stage sera de réaliser un benchmark de la performance de PyRAT sur différents cas d’usages. Ce benchmark sera effectué avec d'autres outils de vérification mais aussi sur les différentes options de PyRAT. En effet, de nombreuses options ont été implémentées dans PyRAT mais non pas encore été testées avec différentes heuristiques. En plus de celles-ci, des nouvelles heuristiques pourront être pensées et testées pour ces features et sur le benchmark.

Moyens / Méthodes / Logiciels

Python, Pytorch, Tensorflow/Keras,

Profil du candidat

Étudiant en Bac +4/5 dans le domaine de l'informatique avec des connaissances en Python et des notions de réseaux de neurones.

Localisation du poste

Site

Saclay

Localisation du poste

France, Ile-de-France, Essonne (91)

Ville

Palaiseau

Demandeur

Disponibilité du poste

01/01/2023