Intelligence artificielle et éthique numérique

Exercice 1 — Maîtrise des notions
Éthique numérique : réflexion sur les valeurs (dignité, liberté, vie privée, justice) et les règles à respecter dans la conception et l'usage des technologies numériques. Biais algorithmique : discrimination produite par un système automatisé qui traite défavorablement certaines personnes, souvent parce qu'il reproduit les inégalités de ses données d'entraînement. Donnée personnelle : toute information se rapportant à une personne identifiée ou identifiable. Citoyenneté numérique : exercice des droits et devoirs du citoyen dans l'espace numérique (respect d'autrui, vérification de l'information, protection des données). Deux droits RGPD (au choix) : information/consentement, accès, rectification, effacement (droit à l'oubli), portabilité. Attribuer 1 pt par définition correcte.

Exercice 2 — Question problématisée : faut-il faire confiance à l'IA en médecine ?
Arguments attendus. Pour l'IA : elle peut accélérer et fiabiliser le diagnostic (détection de tumeurs en imagerie), réduire certaines erreurs humaines, personnaliser les traitements, élargir l'accès aux soins. Limites : risque de déresponsabilisation et de perte du regard humain ; opacité des décisions (boîte noire) qui empêche le contrôle ; biais possibles dans les données ; atteinte à la vie privée (données de santé sensibles) ; question de la responsabilité en cas d'erreur. Position nuancée attendue : l'IA doit rester une aide à la décision, non un substitut. La décision médicale finale doit demeurer humaine, au nom de la dignité, du consentement libre et éclairé et de l'autonomie du patient ; cela garantit la responsabilité et le dialogue. La régulation (lois de bioéthique 2021, RGPD, AI Act qui classe la santé en « haut risque ») encadre ces usages. Notation : 2 pts arguments « pour » et « contre » identifiés ; 2 pts mobilisation des principes de bioéthique ; 2 pts position nuancée structurée (intro, développement, conclusion).

Exercice 3 — Analyse de cas : la reconnaissance faciale dans l'espace public
Question 1 — Le projet illustre la tension entre sécurité (identifier des personnes recherchées) et libertés fondamentales. (1 pt.) Question 2 — Sont menacés : le droit à la vie privée, la liberté d'aller et venir, la liberté de manifester et de réunion ; risque d'une société de surveillance généralisée et de biais discriminatoires de la reconnaissance faciale. (2 pts pour au moins deux droits bien identifiés.) Question 3 — Le principe de proportionnalité doit encadrer le dispositif : l'atteinte aux libertés doit être limitée, justifiée, contrôlée et nécessaire au but poursuivi. En France, la reconnaissance faciale en temps réel dans l'espace public est très encadrée et largement interdite ; l'AI Act européen interdit aussi en principe ce type d'usage. (2 pts : 1 pt principe, 1 pt règle française/européenne.)

Exercice 4 — Étude de document statistique : la confiance dans l'IA
Question 1 — L'usage le plus méfiant est le tri automatisé de candidatures (28 %). Explication possible : crainte des biais algorithmiques et des discriminations à l'embauche, sentiment d'injustice face à une décision opaque qui touche directement à l'emploi et à l'égalité des chances. (1,5 pt.) Question 2 — Les écarts montrent que la confiance dépend des risques perçus pour les droits (vie privée, égalité, libertés). Une régulation claire (RGPD, AI Act, transparence, recours humain) est nécessaire pour restaurer la confiance, encadrer les usages à haut risque et garantir que l'innovation respecte les droits fondamentaux. (1,5 pt pour le lien confiance / régulation / droits.)

Exercice 5 — Argumentation : réguler ou laisser libre l'IA ?
Attentes. Le paragraphe doit prendre une position claire et l'argumenter. En faveur d'une régulation : sans cadre commun, les abus (biais, surveillance, atteinte aux données) ne sont pas sanctionnés et la confiance s'effondre ; l'exemple du RGPD (qui a contraint les plateformes à demander le consentement) ou de l'AI Act (interdiction de la notation sociale) montre l'efficacité du droit. Nuance possible : la régulation ne doit pas étouffer l'innovation, d'où l'approche « par les risques » de l'UE qui module les contraintes. Une simple autorégulation est insuffisante car les intérêts économiques peuvent l'emporter sur les droits. Notation : 1 pt position argumentée, 1 pt exemple précis et pertinent (RGPD, AI Act, CNIL, crédit social chinois...).