Aller au contenu principal

ChatGPT et intelligence artificielle générative

Utilisation de ChatGPT en contexte universitaire

Pensée critique

Les IA apportent de grands changements partout dans le monde et à une vitesse accélérée. Ces innovations technologiques bouleversent nos modes de fonctionnement ce qui nous poussent à nous questionner sur sa nature et sur les conséquences qu’elles engendrent.

En effet, si les technologies engendrent certains bienfaits indéniables à la société, elles apportent aussi parfois des effets négatifs. De fait, les technologies ne sont pas neutres car elles sont porteuses de valeurs qui viennent transformer la société (Marin et Steinert, 2022, p. 124).

Quelles sont ces valeurs? Ces valeurs sont-elles compatibles avec celles du bien commun?

La technologie, dont les valeurs reposent notamment sur les principes d’efficacité, est un instrument de pouvoir au service d’intérêts économiques. Ne pas s’interroger sur les effets sociaux qu’engendrent les nouvelles technologies, c’est faire un réel acte de foi concevant leur apport comme étant strictement « neutre, bienveillant et sûr » pour la société (Mathieu, 1987, p.120).

Les valeurs qu’elles incarnent ne sont pas une fatalité, elles peuvent être façonnées en fonction de nos objectifs choisis collectivement, des valeurs qui fait passer l’humain avant tout.  

Adopter une pensée critique coïncide à un élan réflexif qui rend possible l’affirmation d’un jugement de valeurs telle que les principes d’équité, de justice sociale et démocratiques (Fastrez et Philippette, 2017, p. 91).

La pensée critique, centrée sur les valeurs sociétales, questionne les rapports de pouvoir et analyse cet alignement entre technologies et valeurs.

S’informer permet d’être conscient des enjeux pour se donner les moyens de devenir acteur de changement social. Sur le plan individuel, cela s’incarne dans les décisions que l’on prend alors que sur le plan collectif, il s’agira d'exiger que « l’apport technologique » soit subordonné à l’humain et ses rapports (Mathieu, 1987, p. 119).

Réflexion critique concernant ChatGPT

Les questions qui suivent ont pour but de stimuler une réflexion critique en regard de ChatGPT (et des outils d’IA en général), des réponses qu'il génère et du contexte dans lequel il s'inscrit.

  • Qui est le créateur de cet outil ?
  • Qui a travaillé à l'entrainement de l'outil ?
  • Quel ensemble de données a été utilisé pour entrainer l'outil ? Comment la diversité (ou le manque de diversité) de l'ensemble de données influe-t-elle sur les résultats de l'outil ?
  • Pour quelles raisons cet outil a-t-il été créé ?
  • Quels sont les objectifs, les buts et les valeurs du concepteur de l'outil ?
  • Quel bénéfice tire le concepteur de l'outil à ce que vous utilisiez cet outil ?
  • Comment le concepteur de l'outil obtient-il de l'argent grâce à cet outil ?
  • Que stipule leur politique sur la confidentialité ? Quelles sont les conditions d'utilisation et quel est le degré d'autonomie de l'utilisateur en ce qui concerne sa participation et sa vie privée ? Ces politiques sont-elles faciles à lire et à comprendre ? Pour quelle raison pensez-vous que c'est le cas ?
  • Quelles sont les limites de cet outil ? (par exemple, ChatGPT n'est pas connecté à Internet et ne peut donc pas établir de liens avec des événements actuels; ChatGPT a une limite quant à la quantité de texte que vous pouvez téléverser)
  • Quel est le public cible de cet outil ? Comment le savez-vous ?
  • Qui sont lésés par et qui bénéficient de cet outil ?
  • Quels sont les avantages et les conséquences involontaires et inattendues liés à l'utilisation de cet outil ?

Traduction libre et adaptation de : Maloy, R. W., Trust, T., Butler, A., et Xu, C. (2021). Critical Media Literacy and Civic Learning. EdTech Books. https://edtechbooks.org/mediaandciviclearning

Merci à Collimateur - Veille pédagonumérique d'avoir attiré notre attention sur ce guide.

  • Quelles informations sont présentées dans le résultat généré ?
  • Quelles informations sont manquantes dans le résultat généré ? Pourquoi pensez-vous que ces informations sont manquantes ? (considérer que ChatGPT génère un texte basé sur son ensemble de données d'entraînement)
  • Quels types de langage et de choix de mots sont employés pour transmettre les idées et les informations dans le texte ?
  • En quoi le langage et le choix de mots sont-ils différents ou similaires à la façon dont les humains rédigent ? Pour quelle raison pensez-vous que c'est le cas ?
  • Nommez trois adjectifs qui représentent votre réaction au texte. Vos adjectifs peuvent être basés sur votre réaction émotionnelle immédiate ou sur des réflexions à plus long terme. Pourquoi avez-vous choisi ces adjectifs ?
  • Quels sont le ou les publics cibles de ce texte ? Comment le savez-vous ?
  • Considérez-vous le texte produit comme étant fiable, précis et crédible ? Comment avez-vous déterminé cela ?
  • Le cas échéant, quelles sources sont citées ? Dans quelle mesure ces sources sont-elles exactes et pertinentes ?
  • Quels sont les préjugés présents dans le texte ? Pourquoi pensez-vous qu'ils soient présents dans le texte ?
  • Quelles pourraient être les sources originales employées pour produire ce texte ? Effectuez une recherche sur le Web et voyez si vous pouvez trouver les sources originales (il y a probablement plus d'une source !) que l'outil d'IA a utilisées pour générer ce texte.
  • Après avoir répondu aux questions de la section « Questions sur un outil d'IA », comment cela influence-t-il votre réflexion sur le texte généré par l'outil ayant recours à l'IA ?

 

Traduction libre et adaptation de : Maloy, R. W., Trust, T., Butler, A., et Xu, C. (2021). Critical Media Literacy and Civic Learning. EdTech Books. https://edtechbooks.org/mediaandciviclearning

Merci à Collimateur - Veille pédagonumérique d'avoir attiré notre attention sur ce guide.

Références

Bailin, S., Case, R., Coombs, J. R., et Daniels, L. B. (1999). Conceptualizing critical thinking. Journal of Curriculum Studies, 31(3), 285–302. https://doi.org/10.1080/002202799183133

Fastrez, P. et Philippette, T. (2017). Un modèle pour repenser l’éducation critique aux médias à l’ère du numérique. Tic & société, 11(1), 85-110. https://doi.org/10.4000/ticetsociete.2266

Marin, L., et Steinert, S. (2022). Twisted thinking: technology, values and critical thinking. Prometheus, 38(1), 124-140. https://doi.org/10.13169/prometheus.38.1.0124

Mathieu, R. (1987). Signification et conséquences sociales des changements technologiques. Service Social, 36(1), 119–128. https://doi.org/10.7202/706344ar