Les outils d'IA générative (ChatGPT, Gemini, Copilot, Claude…) produisent des textes, des images ou du code de façon impressionnante. Mais leur fonctionnement repose sur un principe statistique : ils prédisent le mot le plus probable à partir de ce qu'ils ont appris dans d'énormes quantités de textes. Ils ne « savent » rien, ne « comprennent » rien et ne vérifient jamais la véracité de ce qu'ils écrivent. C'est la source de plusieurs limites majeures qu'un lycéen doit connaître avant d'utiliser ces outils.
Hallucination : réponse fausse, inventée ou incohérente qu'une IA générative produit avec la même assurance et le même ton qu'une réponse exacte. L'IA ne signale jamais qu'elle « invente » — rien dans sa formulation ne permet de distinguer une hallucination d'une information vérifiée.
Les hallucinations apparaissent souvent sur des données précises : dates, chiffres, noms propres, références bibliographiques, citations ou liens internet. Plus la question porte sur un sujet pointu ou récent, plus le risque d'erreur augmente, car le modèle « comble les trous » de ses connaissances par la formulation la plus plausible statistiquement — pas la plus vraie.
Risque de désinformation à grande échelle : une IA générative peut produire, en quelques secondes et en très grande quantité, des textes convaincants mais faux (fausses actualités, faux témoignages, fausses citations d'experts). Diffusés sur les réseaux sociaux, ces contenus peuvent tromper des millions de personnes avant d'être démentis.
Biais dans les réponses : une IA est entraînée sur des textes rédigés par des humains, qui contiennent déjà des stéréotypes et des points de vue partiaux (sur le genre, l'origine, la religion, la profession…). L'IA reproduit et parfois amplifie ces biais dans ses réponses, sans en avoir « conscience ».
Un élève demande à une IA générative de lui indiquer trois sources d'un livre scolaire sur l'histoire du Congo, avec les numéros de page. L'IA répond avec assurance en donnant un titre d'ouvrage, un auteur et des numéros de page — mais le livre n'existe pas : l'IA a assemblé un titre plausible et un nom d'auteur crédible à partir de motifs statistiques, sans qu'aucune de ces informations ne corresponde à un ouvrage réel. C'est une hallucination typique, particulièrement fréquente pour les références bibliographiques.
Au-delà des erreurs factuelles, l'usage de l'IA générative soulève des questions éthiques profondes, qui concernent la société tout entière et pas seulement l'exactitude des réponses.
| Enjeu éthique | En quoi il consiste | Conséquence possible |
|---|---|---|
| Biais algorithmique | L'IA reproduit les préjugés présents dans les données d'entraînement (textes, images, statistiques rédigés par des humains). | Réponses discriminatoires, stéréotypes renforcés sur le genre, l'origine ou le milieu social. |
| Vie privée | Les modèles sont entraînés à partir d'immenses volumes de données collectées en ligne, parfois personnelles, sans consentement explicite des personnes concernées. | Informations privées mémorisées ou reproduites par le modèle ; profilage des utilisateurs. |
| Propriété intellectuelle | Les contenus générés (textes, images, musiques) s'appuient sur des œuvres existantes, protégées par le droit d'auteur, utilisées sans autorisation des créateurs. | Litiges juridiques ; dévalorisation du travail des auteurs, artistes et créateurs originaux. |
Ces trois enjeux ne sont pas de simples défauts techniques à corriger : ils posent la question de la responsabilité des concepteurs d'IA et de celle des utilisateurs. Un usage éclairé suppose de garder ces limites à l'esprit à chaque utilisation.
L'IA générative peut être une aide précieuse pour reformuler une idée, débloquer une page blanche ou expliquer une notion autrement. Mais elle ne doit jamais remplacer ta réflexion ni tes sources documentaires.
Aucun résultat d'IA générative ne doit être utilisé sans contrôle. Voici la méthode à appliquer systématiquement avant d'exploiter une réponse.
Cette démarche de vérification développe ton esprit critique : elle t'habitue à ne jamais accepter une information seulement parce qu'elle est formulée avec assurance.
Le développement de l'IA a fait émerger de nouveaux métiers, très recherchés sur le marché du travail, qui mêlent compétences techniques et responsabilité éthique.
| Métier | Rôle principal |
|---|---|
| Data scientist | Analyse de grandes quantités de données pour en extraire des tendances utiles à la prise de décision et à l'entraînement des modèles d'IA. |
| Ingénieur IA | Conception, entraînement et amélioration des modèles d'intelligence artificielle et de leurs algorithmes d'apprentissage. |
| Éthicien de l'IA | Évaluation des risques éthiques d'un système d'IA (biais, discrimination, respect de la vie privée) avant et pendant son déploiement. |
| Prompt engineer | Conception de consignes (« prompts ») précises et efficaces pour obtenir les meilleurs résultats possibles d'une IA générative. |
Ces métiers montrent que l'IA n'est pas seulement une affaire d'informaticiens : elle nécessite aussi des compétences en philosophie, en droit et en communication pour être développée de façon responsable.
Chaque message que tu saisis dans un chatbot d'IA peut être conservé, analysé, et parfois réutilisé pour entraîner de futures versions du modèle. Il est donc essentiel de rester prudent sur ce que tu partages.
Ce que deviennent tes données : selon les conditions d'utilisation du service, les messages envoyés à une IA peuvent être stockés sur des serveurs, consultés par des employés de l'entreprise pour améliorer le modèle, ou intégrés aux données d'entraînement futures. Une fois envoyée, une information n'est plus totalement sous ton contrôle.
Sois prudent : ne saisis jamais dans un outil d'IA ton nom complet associé à une adresse, un numéro de téléphone, un mot de passe, une photo de toi ou d'un tiers, des informations médicales ou familiales sensibles. Ce que tu ne partagerais pas publiquement sur Internet, ne le partage pas non plus avec une IA.
Une même technologie peut être utilisée de façon éclairée ou de façon dangereuse selon le comportement de l'utilisateur.
| Situation | Usage responsable | Usage irresponsable |
|---|---|---|
| Exposé scolaire | Demander des pistes de recherche à l'IA, puis vérifier chaque fait dans un manuel ou une source fiable. | Copier-coller la réponse de l'IA telle quelle sans rien vérifier ni citer. |
| Aide en programmation | Demander une explication d'un bout de code, puis le tester et le comprendre avant de le réutiliser. | Intégrer un code généré par l'IA sans le comprendre ni le tester, au risque d'erreurs ou de failles. |
| Données personnelles | Poser une question générale sans donner d'informations identifiantes sur soi ou sur autrui. | Saisir son adresse, une photo de sa carte d'identité ou des informations médicales dans un chatbot. |
| Image ou contenu créatif | Utiliser l'IA pour s'inspirer, en respectant les droits d'auteur et en créditant l'outil utilisé. | Générer une image imitant le style d'un artiste précis puis la revendiquer comme une création 100 % personnelle. |
Un élève demande à une IA générative : « Qui a écrit le roman Les Enfants du fleuve et en quelle année a-t-il été publié ? » L'IA répond : « Les Enfants du fleuve a été écrit par l'auteur congolais Jean Mavinga et publié en 1987 aux éditions Kinshasa Lettres. C'est un roman qui a reçu le prix littéraire de l'Afrique centrale en 1988. »
Une entreprise utilise une IA pour trier automatiquement les CV reçus lors d'un recrutement. Après plusieurs mois d'utilisation, elle constate que l'IA élimine systématiquement davantage de candidatures venant de certains quartiers, alors que les compétences des candidats sont équivalentes.
Pour chacune des situations suivantes, indique s'il s'agit d'un usage responsable ou irresponsable de l'IA générative, et justifie ta réponse en une phrase.
Rédige une « charte personnelle » de 5 règles que tu t'engages à respecter chaque fois que tu utilises un outil d'IA générative pour tes études. Chaque règle doit être formulée clairement et justifiée en une phrase.
10 questions · Correction immédiate
Qu'appelle-t-on une « hallucination » d'une IA générative ?
Sur quel type d'information une IA générative se trompe-t-elle le plus fréquemment ?
Le « biais algorithmique » désigne le fait que…
Quel enjeu éthique concerne le fait que des contenus générés par IA s'appuient sur des œuvres existantes sans l'accord de leurs créateurs ?
Pour une recherche scolaire, quelle est la bonne façon d'utiliser une IA générative ?
Quelle est la première étape pour vérifier une réponse produite par une IA ?
Pourquoi faut-il reformuler avec ses propres mots une information trouvée grâce à une IA ?
Quel métier consiste à évaluer les risques éthiques d'un système d'IA (biais, discrimination, vie privée) ?
Que risque-t-il d'arriver aux données personnelles saisies dans un chatbot d'IA ?
Laquelle de ces situations correspond à un usage responsable de l'IA ?
