Pause
Lecture
Moteur de recherche d'offres d'emploi CEA

Noise symbols reduction and explainability for neural network analysis H/F


Détail de l'offre

Informations générales

Entité de rattachement

Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat.

Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un socle de recherche fondamentale. Le CEA s'engage depuis plus de 75 ans au service de la souveraineté scientifique, technologique et industrielle de la France et de l'Europe pour un présent et un avenir mieux maîtrisés et plus sûrs.

Implanté au cœur des territoires équipés de très grandes infrastructures de recherche, le CEA dispose d'un large éventail de partenaires académiques et industriels en France, en Europe et à l'international.

Les 20 000 collaboratrices et collaborateurs du CEA partagent trois valeurs fondamentales :

• La conscience des responsabilités
• La coopération
• La curiosité
  

Référence

2023-29172  

Description de l'unité

Sur le campus Paris-Saclay, le rôle du Laboratoire Sûreté et Sécurité des Logiciels du #CEA-List est de développer des outils d'analyse pour augmenter la
confiance dans les systèmes logiciels, en détecter des vulnérabilités, garantir la conformité à leurs spécifications, et en accélérer l'évaluation y compris dans des démarches de certification. Nos outils open-source sont développés afin d'être utilisés par l'industrie et leur développement est guidé par ses besoins.

Description du poste

Domaine

Autre

Contrat

Stage

Intitulé de l'offre

Noise symbols reduction and explainability for neural network analysis H/F

Sujet de stage

Avec les récents développements en matière d'IA, son utilisation est de plus en plus répandue et soulève de plus en plus de questions quant à sa robustesse, son respect de la vie privée ou autre. Un certain nombre de travaux ont émergés pour augmenter la confiance dans les IAs en se basant sur des méthodes formelles afin d'obtenir des garanties mathématiques de leur sûreté.
Dans ce contexte, ce stage a pour but d'étudier des heuristiques pour réduire l'imprécision introduite dans l'analyse formelle d'un réseau de neurone ainsi que d'utiliser l'analyse effectué pour expliquer la décision d'un modèle.

Durée du contrat (en mois)

4 à 6 mois

Description de l'offre

Contexte

L'analyse formelle d'un réseau de neurone peut s'effectuer avec un certain nombre de techniques et un grand nombre d'outils ont émergés pour cela. Dans notre laboratoire, l'outil PyRAT se base sur des techniques d’interprétation abstraite pour obtenir à partir d'un ensemble d'entrées, l'ensemble des sorties possibles d'un réseau. Néanmoins, face aux non linéarités présentes dans les réseaux de neurones (ReLU, Sigmoid, TanH, ...), des surapproximations doivent être réalisées. Celles-ci introduisent ce que l'on appelle des symboles de bruits dans notre analyse.

Au vu de la taille des dernières architectures de réseaux, le nombre de symboles de bruits introduits dans l'analyse est très important. C'est pour cela qu'il devient nécessaire de définir des approches pour réduire ce nombre de symbole de bruits avec différentes heuristiques.

Dans le même temps, ces symboles de bruits introduits dans l'analyse sont de bons indicateurs de l'influence de différents paramètres sur le résultat des prédictions du modèle. Ils peuvent donc être utilisés pour proposer une méthode d'explicabilité sur le réseau de neurones.

Stage

Le but de ce stage est donc d'implémenter et de réfléchir à des heuristiques de réduction des symboles de bruit ainsi que d'explorer des façons d'utiliser ces symboles pour l'explicabilité du réseau.

Les tâches suivantes seront effectuées:

  • Exploration de l'état de l'art sur les techniques de réduction de symboles de bruits
  • Implémentation et tests des méthodes de réduction sur différents type de problème
  • Exploration et test de méthodes d'explicabilité avec des symboles de bruit.

Profil du candidat

Qu’attendons-nous de vous ?

Vous préparez un diplôme de niveau M1 ou M2 dans le domaine l'informatique. Vous possédez des connaissances en développement Python, intelligence artificielle et optionnellement des bases en interprétation abstraites.

Rejoignez-nous, venez développer vos compétences et en acquérir de nouvelles !

 

Vous avez encore un doute ? Nous vous proposons :

  • L'opportunité de travailler au sein d'une organisation de renommée mondiale dans le domaine de la recherche scientifique,
  • Un environnement unique dédié à des projets ambitieux au profit des grands enjeux sociétaux actuels,
  • Une expérience à la pointe de l’innovation, comportant un fort potentiel de développement industriel,
  • Des moyens expérimentaux exceptionnels et un encadrement de qualité,
  • De réelles opportunités de carrière à l’issue de votre stage,
  • Une participation aux transports en commun à hauteur de 75%,
  • Un équilibre vie privé – vie professionnelle reconnu,
  • Une politique diversité et inclusion,
  • Un CSE actif en termes de loisirs et d’activités extra-professionnelles.
     

Tous nos postes sont ouverts aux personnes en situation de Handicap. La Mission Handicap du CEA vous accompagne et met en place les aménagements nécessaires à vos besoins spécifiques.

Localisation du poste

Site

Saclay

Localisation du poste

France, Ile-de-France, Essonne (91)

Ville

Palaiseau

Critères candidat

Langues

Anglais (Intermédiaire)

Demandeur

Disponibilité du poste

01/02/2024