Mars 2023
Cette fiche est rédigée à l’attention des tou·tes les enseignant·es et éducateur·rices de secondaire. Elle propose différentes pistes de réflexion parmi lesquelles choisir afin de mener une discussion de 15 minutes (ou plus si le contexte le permet).
Les faits
ChatGPT (pour Generative Pretrained Transformer, soit Transformateur générique pré-entrainé) est une interface de conversation en ligne basée sur l’intelligence artificielle (IA). Depuis novembre 2022, ChatGPT est accessible gratuitement sur Internet. Son succès a été immédiat : 5 jours après son lancement, ChatGPT avait déjà été téléchargé 1 million de fois. En janvier 2023, le cap des 100 millions d’utilisateur·rices a été dépassé. Jamais une application – pas même Tik Tok ou Instagram – n’avait connu un démarrage aussi fulgurant.
Avant de nous plonger dans le fonctionnement et les usages de ChatGPT, rappelons d’abord ce qu’est l’intelligence artificielle (IA). C’est un ensemble de théories et de techniques mises en œuvre pour concevoir des machines capables de stimuler certains traits de l’intelligence humaine. ChatGPT est donc un système informatique, qui a été longuement entraîné, et qui calcule : il a appris à mettre les mots dans le bon ordre. Aujourd’hui, ChatGPT est capable de tenir des conversations sensées avec un utilisateur : c’est ce que l’on appelle un chatbot. Il peut aussi répondre à des questions ou écrire des textes sur un sujet donné. Il peut faire des suggestions ou créer du contenu. Il est aussi capable d’écrire des lignes de code pour une page web.
ChatGPT a été conçu par la société américaine OpenAI dont le but était, dès sa création en 2015, de « bâtir une intelligence artificielle équivalente à un être humain ». Cette société a d’ailleurs lancé, en juillet 2022, Dall.E, une IA capable de générer des images sur la base d’une description de l’utilisateur. Le fondateur et actuel président d’OpenAI est l’homme d’affaires Sam Altman qui, dans le passé, avait notamment poussé et développé des sociétés comme Airbnb, Twitch ou Dropbox. L’entrepreneur et milliardaire Elon Musk (directeur de la société astronautique SpaceX et de la société automobile Tesla) était un des cofondateurs de la société OpenAI, mais il l’a quittée depuis : il n’a donc pas assisté au développement et au lancement de ChatGPT.
Les utilisateur·rices de ChatGPT ont, d’une manière générale, été impressionné·es par la qualité de ses productions. D’où ces questions et ces craintes qui ont surgi, notamment dans le monde de l’enseignement. Comment distinguer une production d’un humain de celle d’une machine ? Cette dernière poussera-t-elle les élèves à la triche ou à la fainéantise ? Depuis janvier 2023, ChatGPT est d’ailleurs interdite dans les écoles de New-York : son accès est bloqué sur les ordinateurs des établissements scolaires.
Jusqu’où faut-il craindre l’utilisation de ChatGPT ? Pour répondre à cette question, il faut avoir à l’esprit que cette AI commet des erreurs, notamment parce que les données auxquelles elle a été soumise pour s’entraîner datent, au mieux, de 2021. Rappelons aussi que ChatGPT ne fait que traiter des informations et les calculer : il ne « comprend » donc pas les textes qui sont générés. Il n’est pas non plus capable de faire preuve d’imagination et de créativité, et ne peut pas résoudre un problème. ChatGPT n’est pas non plus, comme les êtres humains, doué d’un esprit critique pouvant poser un jugement sur la base de faits.
Anouck Thibaut
Penser les faits : quelques pistes
Nouveau rapport au savoir ?
Le progrès technique permet de disposer de plus en plus rapidement d’informations dans un certain nombre de domaines. ChatGPT illustre parfaitement ce gain de temps. Le Soir[1] a consacré un article à Sam Altman, patron d’Open AI, l’entreprise qui a lancé ChatGPT en 2012 : « Il y a certains avantages à être une machine. Nous, les humains, sommes limités par notre taux d’inputs et outputs. Nous n’apprenons que deux bits par seconde. Pour une machine, nous devons ressembler à des chants de baleine au ralenti. »
Est-il encore nécessaire d’étudier par cœur la liste des provinces belges et des capitales européennes alors que l’information est accessible en un clic ? Le fait que, depuis quelques années, le meilleur ordinateur batte le meilleur être humain au jeu d’échecs enlève-t-il quelque chose à l’intérêt de ce jeu ? Est-il nécessaire, pour être pleinement humain, de connaître des informations sans avoir à s’en remettre à la technologie ?
Selon vous, qu’est-ce qui fait la spécificité des êtres humains ? Faut-il préserver l’Humanité du risque d’une « prise de pouvoir » par cette intelligence artificielle plus performante ? Pour quelles raisons ?
[1] Philippe LALOUX, Sam Altman, le cerveau, tordu, de l’intelligence artificielle, Le Soir – Week-end des samedi 21 et dimanche 22 janvier 2023, pp 4 et 5.
Du gratuit qui rapporte
Si, dans un premier temps, les concepteurs de ChatGPT expliquaient vouloir « faire progresser l’intelligence numérique de la manière la plus susceptible de profiter à l’humanité dans son ensemble, sans être limité par la nécessité de générer un rendement financier ».[1] Quelques années plus tard, ce positionnement a changé : OpenAI est désormais une entreprise à but lucratif plafonné.[2] La « connaissance » est-elle une denrée monnayable ?
Pour répondre à une question, ChatGPT consulte tout le net. A priori, la variété de sources d’information est donc conséquente. Est-ce pour autant un gage de fiabilité ?
Ce libre arbitre était-il davantage garanti dans la vie quotidienne pré-ChatGPT ? Ne sommes-nous pas déjà influencé·es par les personnes que nous rencontrons, les informations qui nous entourent, les influenceur·ses sur les réseaux sociaux ?
[1] Hugo Jay, « Qui se cache derrière ChatGPT ? » Le Soir – GEEKO, 15 Janvier 2023 – URL : https://geeko.lesoir.be/2023/01/15/qui-se-cache-derriere-chatgpt/
[2] Idem
Responsabilité du ChatGPT
ChatGPT dit de lui-même : « Les modèles de traitement automatique du langage (…) peuvent faire des erreurs ou des imprécisions dans leurs réponses, il est important de définir les responsabilités en cas d’erreur pour minimiser les risques pour les utilisateurs ».
Quelle différence existe-t-il entre des affirmations positives (vérifiables telles que 2 + 2 = 4, Rome est la capitale de l’Italie) et des affirmations normatives (qui portent en elles des jugements de valeur implicites ou explicites, telles que « il faut abolir la peine de mort ») ? Peut-on pareillement confier à l’intelligence artificielle de répondre aux questions « positives » et aux questions « normatives » ?
Travail menacé
L’OCDE estime que l’intelligence artificielle en général (pas seulement ChatGPT) menacerait plus de 40 % des emplois avant 2040. Sam Altman, le fondateur de ChatGPT, rêve d’un monde où les êtres humains ne devraient plus travailler, des machines « intelligentes » s’en chargeant à leur place. Les êtres humains bénéficieraient d’un revenu de base universel et de tout le temps libre souhaité pour s’accomplir.
Cette vision présente le travail comme désagréable, à éviter. Qu’en pensez-vous ? Le travail ne peut-il pas contribuer à l’accomplissement personnel des gens ? Sous quelles conditions ? La machine n’impose-t-elle pas son rythme au travailleur ou à la travailleuse ? La machine amène-t-elle un réel confort de travail et de vie ?
Des gardes-fous… à quels prix ?
ChatGPT annonce que des garde-fous ont été mis en place pour éviter que les internautes soient exposé·es à des contenus à caractère sexiste, raciste, xénophobe etc.
Une enquête publiée en janvier 2023 par le Time[1] révèle que des travailleur·euses kenyan·es ont été engagé·es pour un salaire dérisoire à visionner des images violentes afin d’entraîner le logiciel à reconnaître les propos toxiques. D’après certains témoignages de travailleur·euses, assister au visionnage de ces images était un véritable supplice. Protéger les un·es, justifie-t-il que l’élaboration de ces garde-fous porte gravement atteinte à la santé mentale d’autres personnes ? Porter atteinte à l’intégrité mentale de quelques un·es pour le bien-être d’un grand nombre est-il acceptable ? N’existe-t-il pas là un parallèle avec ce qui se passe assez souvent dans le secteur de la production de smartphones et de vêtements, en lien avec la violation des droits des travailleur·euses ?
L’exclusion de contenus toxiques n’est-elle pas aussi une forme de censure qui pourrait s’appliquer à d’autres paramètres ou dans d’autres circonstances moins louables ? Quels types d’informations seront priorisés ? De qui émaneront-elles, qui va les sélectionner ? Risque-t-on de renforcer une pensée unique ? N’y-a-t-il pas là une possibilité de contrôle massif des masses ?
[1] ChatGPT : des travailleurs kényans payés 2 $ de l’heure pour rendre le robot plus sûr, selon une enquête du Time – rtbf.be
Impact écologique
Comme pour le streaming, l’usage de ChatGPT repose sur des quantités massives de calculs algorithmiques générant eux-mêmes des grandes quantités de dioxyde de carbone. Des étudiants danois ont créé un programme permettant de quantifier cet impact écologique : le programme « Carbontracker ».[1] D’après eux, « une seule session d’entraînement pour ce modèle génère l’équivalent d’une année de consommation énergétique de 126 foyers danois et émet la même quantité de CO2 qu’un trajet de 700 000 kilomètres effectué par un véhicule à essence. Dans quelques années, il y aura probablement plusieurs modèles qui seront beaucoup plus grands (…) ». Est-il souhaitable de laisser se développer la technologie sans régulation ? A-t-on une responsabilité de positionnement par rapport à nos descendant·es ?
[1]https://www.ladepeche.fr/2020/11/05/avez-vous-une-idee-de-lempreinte-carbone-qui-se-cache-derriere-un-algorithme-de-deep-learning-9184196.php
Mythe de Prométhée
Prométhée a volé le feu des dieux pour le donner aux humains, leur permettant ainsi de développer la civilisation, l’art, la science et la technologie. Ce faisant, il a défié les dieux et a été puni de manière sévère. Le mythe soulève donc des questions sur la place de l’homme dans l’ordre du cosmos, la nature de la connaissance ainsi que les conséquences de l’ambition et de la désobéissance à l’ordre naturel. Le développement de la technologie est-il une bonne chose ou l’humanité risque-t-elle de se « dénaturer ». Les nouvelles technologies, (l’intelligence artificielle, transhumanisme, etc.) présentent-elle le risque que les êtres humains « se prennent pour des dieux », s’émancipent des lois de la nature ? Et serait-ce une mauvaise chose ?
Pour en savoir plus :
Intelligence artificielle : discussion avec ChatGPT, le nouveau robot d’OpenAI, à découvrir sur le site de la RTBF :
https://www.rtbf.be/article/intelligence-artificielle-discussion-avec-chatgpt-le-nouveau-robot-d-openai-11117723
ChatGPT, une nouvelle révolution numérique, un podcast de l’émission Zoom Zoom Zen, à écouter ici :
https://www.radiofrance.fr/franceinter/podcasts/zoom-zoom-zen/zoom-zoom-zen-du-vendredi-03-fevrier-2023-7761098
Google et Microsoft menacés par le robot conversationnel ChatGPT ?
https://www.rtbf.be/article/google-et-microsoft-menaces-par-le-robot-conversationnel-chatgpt-ils-affirment-quils-seront-bientot-les-leaders-mondiaux-de-lintelligence-artificielle-11149357
ChatGPT : L’intelligence artificielle du futur? – Une vidéo d’RTBF Info :
https://www.youtube.com/watch?v=Oil23VSzz70
ChatGPT et enseignement : faut-il vraiment se sentir démunis, voire menacés par cette intelligence artificielle ?
https://www.rtbf.be/article/chatgpt-et-enseignement-faut-il-vraiment-se-sentir-demunis-voire-menaces-par-cette-intelligence-artificielle-11134463
Avec ChatGPT, est-il encore utile d’étudier et d’apprendre à rédiger ? Un podcast « Déclic-Tournant » à écouter ici :
https://www.rtbf.be/article/avec-chatgpt-est-il-encore-utile-detudier-et-dapprendre-a-rediger-11168149
Crédit photo : Dilok Klaisataporn sur iStock
Black Friday : à prendre ou à laisser ?
NOVEMBRE 2024 Cette fiche est rédigée à l'attention des tou·te·s les enseignant·e·s et éducateur·rice·s de secondaire. Elle propose différentes pistes de réflexion parmi lesquelles choisir afin de mener une discussion de 15 minutes (ou plus si le...
Les élections du 9 juin : et après ?
JUIN 2024Note Ce document est rédigé à l'attention de tou·tes les enseignant·es et éducateur·rices de secondaire. Il propose différentes pistes de réflexion parmi lesquelles choisir afin de mener une discussion de 15 minutes (ou plus si le...
Conflit Israël – Territoires palestinies occupés
NOVEMBRE 2023AVERTISSEMENT Le sujet abordé est sensible et nécessite une grande prudence. Nous ne pouvons être tenus responsables des difficultés qui pourraient en résulter. Ces fiches sont un appui pédagogique destiné à développer la réflexion...