IA responsable : développer son discernement pour un usage éclairé

Utiliser l'IA, c'est déjà faire un choix. Chaque interaction consiste à arbitrer ce que l'on décide de lui confier. Or ces choix ne sont pas neutres : l'IA a des impacts systémiques, énergétiques, économiques, environnementaux et cognitifs. La bonne question n'est donc pas seulement « Est-ce que je peux utiliser l'IA ? », mais surtout « Est-ce pertinent et utile dans ce contexte ? » 

Cette formation s'adresse à toute personne utilisant l'IA dans son activité, ainsi qu'aux concepteurs de produits et de services numériques. Elle propose de dépasser aussi bien l'enthousiasme sans recul que le rejet de principe, afin de développer un regard critique et de prendre des décisions éclairées.

Tout au long de la journée, vous explorerez les bénéfices de l'IA, gains de productivité, amélioration du confort de travail, créativité, exploration de nouvelles possibilités, mais aussi ses limites, ses risques et ses externalités. Vous apprendrez à analyser ces enjeux, à évaluer la pertinence des usages selon les contextes et à mobiliser des méthodes permettant d'en limiter les effets indésirables.

À l'issue de cette formation, vous serez en mesure de comprendre les principaux enjeux de l'IA, d'évaluer la pertinence de ses usages et d'exercer un discernement éclairé pour l'utiliser de manière responsable, raisonnée et consciente, au quotidien comme dans vos projets.

À l'issue de la formation, les participants seront capables de :

• Identifier les principaux risques associés à un projet d'intelligence artificielle
• Déterminer si le recours à l'IA est pertinent pour un projet donné et identifier les tâches pour lesquelles elle apporte une réelle valeur ajoutée
• Évaluer la qualité et l'adéquation des données, questionner les limites d'un modèle (biais, fiabilité, robustesse, explicabilité) et formuler les questions essentielles avant le lancement d'un projet
• Porter un regard critique sur les choix techniques proposés en étant capables de challenger un fournisseur ou une équipe technique et d'évaluer les risques de dépendance technologique
• Apprécier le niveau d'autonomie approprié d'un système d'IA et vérifier que les mécanismes de supervision humaine sont adaptés et réellement opérationnels
• Évaluer les coûts complets d'un système d'IA (développement, exploitation, maintenance, impacts environnementaux et sociaux) et identifier les principaux leviers de maîtrise et de réduction de ces coûts
• Exercer son discernement dans les usages quotidiens de l'IA en arbitrant le recours à l'IA selon les tâches, choisissant le modèle le plus adapté, optimisant les ressources consommées (notamment les tokens) et identifiant les informations qui ne doivent jamais être confiées à un système d'IA
• Mettre en œuvre une démarche structurée d'évaluation d'un projet d'IA et l'appliquer à un cas concret

• Manager et Responsable métier
• Product Manager (PM) et Product Owner (PO)
• UX/UI Designer Data Scientist et ML engineer
• Développeur
• Architecte

Cette formation est dispensée par un·e ou plusieurs consultant·es d'OCTO Technology ou de son réseau de partenaires, expert·es reconnus des sujets traités.

Le processus de sélection de nos formateurs et formatrices est exigeant et repose sur une évaluation rigoureuse leurs capacités techniques, de leur expérience professionnelle et de leurs compétences pédagogiques.

OUVERTURE DE SESSION

• Accueil des participants et tour de table des attentes
• Présentation du déroulé de la formation

INTRODUCTION

• Calibrage des usages, du niveau de connaissance et du rapport de chacun à l'IA
• Partager un vocabulaire commun : définir les principaux concepts (IA, IA générative, LLM, machine learning, etc.)
• Clarifier la notion d'IA responsable : distinguer les exigences réglementaires, les bonnes pratiques et les choix propres à l'organisation
• Le contrat de neutralité : différencier les faits établis, les estimations, les hypothèses et les positions des différents acteurs
• Définir le seuil de délégation : identifier ce qui peut être confié à une IA, ce qui doit rester sous responsabilité humaine, et les critères qui guident cette répartition

ENJEUX ET CONSTATS

• Comprendre les enjeux liés aux données : identifier leur provenance, leurs producteurs, les conditions de leur utilisation, leur représentativité et les angles morts susceptibles d'influencer les résultats
• Expliquer le fonctionnement des modèles : comprendre pourquoi un LLM produit le résultat le plus vraisemblable plutôt que le plus vrai, et comment ce mécanisme génère variabilité, biais et hallucinations
• Identifier les différentes sources de biais : distinguer les biais liés aux données, au modèle et aux choix éditoriaux, tout en comprenant les limites de l'explicabilité des systèmes d'IA
• Évaluer les coûts réels de l'IA : appréhender les coûts financiers, humains et environnementaux, et comprendre pourquoi l'inférence constitue souvent le principal poste de consommation à grande échelle
• Mesurer les risques de dépendance technologique : anticiper les conséquences d'une dépendance à un fournisseur (évolution des prix, disponibilité des services, modifications des performances ou des fonctionnalités)
• Maîtriser les principaux risques : identifier les enjeux de confidentialité, de cybersécurité (injection de prompts, fuite de données, etc.), de conformité juridique et d'atteinte à la réputation afin de mettre en œuvre les mesures de prévention adaptées

L’IA DANS SON USAGE PERSONNEL

• Développer un usage réfléchi de l'IA : se poser les bonnes questions avant chaque utilisation (« Est-ce utile ici ? », « Est-ce pertinent ? », « Suis-je prêt à déléguer cette tâche à une IA ? »)
• Conserver son esprit critique : reconnaître les risques de surconfiance, les effets de flagornerie du modèle, ainsi que les phénomènes de délestage ou de surcharge cognitive induits par un usage inadapté
• Adopter des pratiques efficaces et responsables : choisir un modèle adapté à la tâche, rédiger des prompts précis, limiter les itérations inutiles, gérer le contexte de conversation et optimiser sa consommation de tokens
• S'équiper et piloter ses usages : sélectionner les outils adaptés à ses besoins, comprendre les indicateurs de consommation (tokens, coûts, empreinte) et suivre ses usages pour gagner en efficacité et en sobriété

L'IA DANS LA CONCEPTION ET LE DÉVELOPPEMENT D'UN PRODUIT NUMÉRIQUE

• Évaluer la pertinence du recours à l'IA : déterminer si l'IA constitue la meilleure réponse au besoin, en comparant sa valeur attendue, le coût de l'erreur et les alternatives disponibles (règles métier, algorithmes classiques, automatisation, etc.)
• Cadrer un projet d'IA de manière responsable : définir la gouvernance des données, le choix de la variable cible, l'identification et le suivi des biais tout au long du cycle de vie, ainsi que les scénarios de résilience en cas de défaillance
• Concevoir une supervision adaptée : définir un niveau d'autonomie proportionné aux risques et à la réversibilité des décisions, et mettre en place les conditions d'un contrôle humain, ou automatisé, réellement efficace
• Intégrer la sécurité dès la conception : prévenir les risques liés aux injections de prompts, aux fuites de données, aux vulnérabilités de la chaîne d'approvisionnement, ainsi qu'à une autonomie excessive des systèmes
• Garantir la transparence des systèmes : distinguer les enjeux de transparence, d'interprétabilité et d'explicabilité, et adapter les exigences au contexte d'usage et aux parties prenantes
• Maîtriser les dépendances technologiques : évaluer les fournisseurs, anticiper les risques de verrouillage de changement de performances, de disponibilité ou de modèle économique, et prévoir des stratégies de réversibilité

CLÔTURE DE SESSION

• Ouverture vers le futur, sources d’inspiration
• Revue des concepts clés, bilan et plan d’actions
• Questions et réponses additionnelles

• IA générative : comprendre les systèmes pour rester acteur des usages - Feriel Boukachabia
• Le Comptoir OCTO × La Grosse Conf — « L'IA au service de l'égalité » - Arielle Mimouni
• Lee et al. — The Impact of Generative AI on Critical Thinking (Microsoft Research / Carnegie Mellon, CHI 2025)
• IA Générative et mésinformation - Rapport de l’académie des technologies
• IA générative et réchauffement climatique : comment réduire la facture? - Emilie Greff et Arielle Villa Massone
• Is Wikipedia politically biaised - David Rozado, 2024
• https://arxiv.org/pdf/2506.08872, Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task ; Nataliya Kosmyna, Eugene Hauptmann, Ye Tong Yuan, Jessica Situ, Xian-Hao Liao, Ashly Vivian Beresnitzky, Iris Braunstein, Pattie Maes