Chatgpt

[homer]

ChatGPT, fameux sujet !
Pour le démystifier, je vous conseille de regarder cette vidéo qui sera plus pédagogique que ce que j'arriverai à faire par écrit https://youtu.be/7ell8KEbhJo

Il y a effectivement un danger à mettre cet outil entre n'importe quelle main qui ne comprendrait pas ce qu'il fait, et cela pourrait devenir dommageable dans l'enseignement. Il ne prédit que des probabilités d'utiliser un mot conditionné au contexte précédent, ce qui ne saurait garantir une quelconque capacité à générer des résultats vrais.
[...]

En comparaison, depuis une 20ene d'années, l'ingénieur en conception utilise souvent des outils de simulation qui donnent toujours un résultat, dont la pertinence dépend de la définition du problème, comme chatGPT. On ne fait pas pour autant des avions ou des centrales nucléaires moins fiables parce que comme pour chatGPT, notre capacité d'analyse reste prépondérante dans l'utilisation qui est faite de ces résultats.

En effet @black, à mon sens les réactions humaines à des outils comme chatGPT sont plus embarrassantes que chatGPT lui-même. Des collègues bossant dans le domaine de l'IA m'ont rapporté que les managers de certaines entreprises avec qui ils ont des collaborations cherchent à faire développer par des informaticiens des "IA" en s'appuyant sur la pensée magique que les IA "ça peut tout résoudre". Et ces clients n'ont pas envie d'entendre que ce type d'outil ne peut pas tout.
Ta comparaison avec les ingénieurs en conception me parle beaucoup : des industriels rapportent à mes collègues formateurs en conception que depuis l'avènement d'outils de conception 3D (et ça commence à dater) et des approches par éléments finis, il peut exister une tendance à la paresse chez de nouveaux ingénieurs, qui peuvent se laisser aller à dire "pourquoi je m'embête à réfléchir puisque ma bécane fait les calculs". Les chercheurs expérimentés dans le domaine sont évidemment conscients de la nécessité d'avoir des bonnes pratiques, et une réflexion de fond. Mais pour certains étudiants, tant que leurs outils sortent des résultats en couleur et en 3D, pourquoi s'en faire ? J'ai rencontré ce frein psychologique dans des enseignements en modélisation moléculaire. Évidemment une fois qu'ils sont sur le terrain ils peuvent se poser la question différemment, parce que là il faut que ça marche ! Mais développer les bons réflexes à ce moment est plus délicat que pendant les études

[black]

Cette tendance à la paresse haha.
Elles m'embêtent, je les trouve trop restrictives, que ce soient les normes, les contractualisations des relations commerciales, bref tout ce qui cadre nos relations de travail. Je vais cependant leur trouver un avantage ici : aussi flegmatique que puissent être ou devenir nos étudiants, l'environnement professionnel et l'orientation résultats des entreprises ne leur permettra pas de le rester !

[Amae]

Quant aux inquiétudes que peut apporter Chatgpt dans l'enseignement : ne serait-ce pas là une opportunité de travailler de façon ouverte avec les élèves le développement de leur sens critique? Ma question est peut être naive, mais ne serait-ce pas plus intéressant d'utiliser cette IA comme un outil permettant de prendre du recul par rapport à une information, un résultat fourni aussi rapidement? Vous avez bien démontré les limites de l'IA dans la production de texte "dans le style de" par exemple. Au lieu de demander aux élèves de faire l'exercice de style par eux-mêmes, ça pourrait être très stimulant de leur demander de générer un texte via l'IA et d'en faire la discussion. Je pense que ça peut permettre de proposer des pensées constructives et d'apprendre à reconnaitre des biais, des erreurs, des approximations, et d'être potentiellement plus à même de se détacher d'un modèle. Peut être que des enseignants ici ont déjà mis en place ce genre d'approche?