Green AI : l’intelligence artificielle responsable Mixte : présentiel / à distance

Désormais, les entreprises se doivent d'être durables et responsables. La sobriété numérique n'est plus une option et ce constat concerne bien évidemment l'Intelligence Artificielle.

Cette formation, à destination des data scientists et des CDO, pose un regard différent sur la matière manipulée et la méthodologie afin de questionner la recherche frénétique de performance, pour promouvoir une IA plus frugale.

Durant deux jours, nous passerons en revue les différentes étapes, entre la première idée et son implémentation en production, afin d'identifier les grands “postes de dépenses et gâchis énergétiques”. Nous aborderons également leur optimisation et réduction au travers des principaux leviers à votre disposition : code, hardware et méthodologie.

A la fin de cette formation, vous aurez une compréhension solide des bonnes pratiques et outils pour vous permettre d'établir le bilan énergétique de vos modèles de Machine Learning en production et d'éco-concevoir les nouveaux.

• Définir le périmètre du green AI
• Identifier les grands postes de dépenses et de gâchis en Machine Learning
• Assimiler l'état de l'art des alternatives en termes d'algorithmes de Machine Learning, notamment pour les réseaux neuronaux, ainsi qu'en termes de matériels hardware
• Découvrir les leviers méthodologiques que nous pouvons utiliser à très court terme dans une démarche de Data Science
• Contribuer à l'adoption d'un comportement d'éco-conception en Machine Learning
• Utiliser les outils d'éco-conception en Machine Learning
• Quantifier l'empreinte CO2 d'un modèle : de la conception à son usage en production

• Analyste
• Statisticien
• Data Scientist
• Chief Data Officer (CDO)
• Machine Learning Engineer

Une bonne connaissance des principaux algorithmes de ML (Machine Learning).

Connaissance des réseaux de neurones.

Cette formation est dispensée par un·e ou plusieurs consultant·es d'OCTO Technology ou de son réseau de partenaires, expert·es reconnus des sujets traités.

Le processus de sélection de nos formateurs et formatrices est exigeant et repose sur une évaluation rigoureuse leurs capacités techniques, de leur expérience professionnelle et de leurs compétences pédagogiques.

L'évaluation des acquis se fait tout au long de la session au travers des ateliers et des mises en pratique.

Afin de valider les compétences acquises lors de la formation, un formulaire d'auto-positionnement est envoyé en amont et en aval de celle-ci.

En l'absence de réponse d'un ou plusieurs participants, un temps sera consacré en ouverture de session pour prendre connaissance du positionnement de chaque stagiaire sur les objectifs pédagogiques évalués.

Une évaluation à chaud est également effectuée en fin de session pour mesurer la satisfaction des stagiaires et un certificat de réalisation leur est adressé individuellement.

Jour 1

ENJEUX et CONSTATS

• Introduction - pourquoi parler de Green AI 
• Le paradoxe de la loi Moore et la loi de Wirth
• Impacts environnementaux du numérique : énergie, eau, métaux
• Optimisation : trois exemples concrets de gains d'efficacité extrêmes
• Notre responsabilité en tant qu'experts 

PERFORMANCE VS. FRUGALITÉ

• Retour aux bases : d'où viennent nos algorithmes de ML ?
• La quête de la performance : limites et dérives industrielles
• Red AI vs. Green AI : vers une IA plus sobre
• Introduction au coût algorithmique : E, D, H
• Mise en pratique : "calculs de FLOPs sur un réseau simple"

ARTEFACTS NUMÉRIQUES & BIOMIMÉTISME

• Les artefacts du Deep Learning : gradient vanishing, exploding, etc.
• Limites biologiques de la backpropagation
• Inspiration biologiques : spike-based, equilibrium propagation, etc.
• Vers une nouvelle génération de neurones ?

MÉTHODOLOGIE & OUTILS

• Pourquoi mesurer est essentiel
• Les métriques encore absentes (ex : CO2)
• Présentation de la toolbox d'éco-modélisation
• Démonstration : "Atelier d'analyse énergétique d'un modèle"

Jour 2

LES ALGORITHMES DE MACHINE LEARNING EN QUESTION

• La performance
• Coût algorithmique
• La backpropagation
• Les artefacts numériques et gâchis
• Vers des neurones artificiels moins...artificiels
• État de l'art des alternatives actuelles 

LE HARDWARE

• Limites des matériels actuels
• Neurones à impulsions 
• Puces neuromorphiques, crossbar arrays, memristors
• Vers une nouvelle ère technologique

LA MÉTHODOLOGIE

• Expérimentation, apprentissage, inférence
• Évaluer la bonne performance
• Chiffrer le coût énergétique d'une erreur
• Mise en pratique : "Atelier, un exemple concret d'éco-modélisation qui challenge la performance algorithmique"

CLÔTURE ET BILAN

• Synthèse des points abordés
• Partage sur la formation
• Et demain par quoi je commence pour démarrer l'éco modélisation?
• Questions/Réponses additionnelles