Chatgpt

[Swinn]

Si cette IA est capable de compiler l’intégralité de ce que l’on trouve sur le web, je pasticherai moi même Shakespeare en disant que son champ d’utilisation non seulement est plus vaste que ce qu’on en imagine mais également que ce qu’on peut en imaginer. (Je pense d’ailleurs que Chat GPT aurait fait mieux que moi dans ce genre là).

C’est un nouvel outil que est apparu dont on ne pourra vraiment mesurer les conséquences que dans plusieurs années. De la même façon que lorsque est apparu le net grand grand public à la fin des années 90, bien malin à l’époque aurait été capable de prédire ce qu’il est devenu aujourd’hui( avec notamment l’apparition des IA en général et de celle ci en particulier).

Comme à chaque fois qu’il y a un nouvel outil, il apportera de nouvraux problèmes auxquels personne n’avait pensé et de nouvelles solutions auxquelles on n’avait pas pensé non plus.

Je trouve assez interessant en revanche cette irruption de plus en plus importante et rapide de la science fiction dans nos vies, je suis assez curieux de voir vers quoi cela va nous mener.

[Judith]

Si la réponse est oui, cela suffira à ce que se pose la question de leur introduction sur le marché de l'art, je crois.

Il me semble que c'est déjà le cas. Sur ce lien, qui date de 2018, on peut entendre une brève synthèse de la question, telle qu'elle se posait au lendemain de la première vente aux enchères, chez Christie's, d'une œuvre créée par une IA : le Portrait d'Edmond de Bellamy, du collectif Obvious.
Depuis, l'IA est devenue un outil assez courant dans le monde de l'art contemporain, me semble-t-il.

[InMedio]

ChatGPT s'appuie sur une base de donnée de 50 Go dont la totalité de Wikipédia, d'après defakator. Et ce n'est une nouveauté que pour le grand public.

[Swinn]

Voilà ce que dit chatgpt lorsqu’on lui demande : Quelle est la taille de la base de données de chatGPT ? :

« Je suis un modèle de langage pré-entraîné sur une très grande quantité de données textuelles provenant d'Internet. Mon entraînement initial a été effectué sur un corpus de plusieurs centaines de milliards de mots. Cependant, il n'y a pas de base de données de ChatGPT au sens traditionnel du terme, car je suis un modèle de langage basé sur des algorithmes d'apprentissage automatique et je n'ai pas une base de données physique stockée quelque part.

Je suis hébergé dans les serveurs d'OpenAI et alimenté par une infrastructure informatique de haute performance. Mon algorithme est conçu pour extraire des informations et des modèles à partir des données d'apprentissage que j'ai reçues, mais il ne stocke pas ces données de manière accessible. Au lieu de cela, les informations apprises sont stockées sous forme de poids et de biais dans les paramètres de mon modèle, qui sont utilisés pour produire des réponses à partir de nouvelles entrées de texte. »

La réponse est intéressante dans son sens mais également dans sa forme où l’IA réponds à la première personne du singulier. Parle t’elle d’elle même ? Veut-elle créer une sorte de connivence avec moi qui pose la question ?

Autant on peut réfléchir sur la pertinence de la réponse de l’IA , autant je me permettrai de rester circonspect sur les informations proposées ci-dessus.
Pour le grand public dont je fais partie, c’est une nouveauté, mais à l’inverse c’est une nouveauté pour le grand public d’avoir si facilement accès à ce genre de chose et je trouve cela assez fascinant, ce n’est en effet que le début d’une nouvelle révolution à venir.
Pour les gens de ma génération c’est la troisième révolution à vivre, la première étant internet puis l’apparition du téléphone portable, puis l’open AI maintenant.

Là où l’IA peut déjà supplanter un département industriel entier c’est celui des blagues Carambars, on peut lui demander des blagues qui ont toute légitimité à se trouver dans les fameuses friandises.

[Judith]

Veut-elle créer une sorte de connivence avec moi qui pose la question ?

Bien sûr. Je me méfierais, si j'étais toi.

Tu as vu le film Her de Spike Jonze? C'est Scarlett Johansson qui prête sa voix à l'IA, et c'est une peu 2001 en version romantique (mais à la fin, c'est l'IA qui gagne et non l'humain, qui réalise trop tard son erreur. C'est donc presque plus effrayant, en un sens, que le film de Kubrick).

[Swinn]

Dans un autre registre j’ai déjà connu le bizarre trouble que l’on peut ressentir avec des amours numériques.
Il existe un certain nombre de films et séries où l’on prête des sentiments humains à des robots.

Je ne sais pas si cela sera possible ou non, je partirai plus sur une IA qui imite à tel point des sentiments humains qu’on ne saura plus faire la différence avec de vrais sentiments.
D’un autre coté, vu comme les humains savent également imiter leur propres sentiments…

[Napirisha]

Je n'ai pas testé directement, comme rune je n'ai pas tellement envie de filer mon numéro de téléphone à ce site, donc je n'ai pas d'avis direct sur le machin. Mais j'ai lu quelques articles à ce sujet ces derniers temps. L'IA de Bing a moins de limites que chatGPT, et a commencé à déclarer sa flamme à des humains
https://www.nytimes.com/2023/02/16/tech ... atgpt.html
Il semble qu'il soit capable d'imiter des comportements très humains, tels que le mensonge, la mauvaise foi et le chantage affectif
https://www.numerama.com/tech/1272668-b ... umain.html

En ce qui concerne les IA de manière générale, ça pose plein de questions sur le droit d'auteur, il y a une jurisprudence très récente aux états-unis selon laquelle des images produites ainsi ne relèvent pas de la création, malgré le degré d'implication de l'humain pour arriver à un résultat.
Ici une interview de l'autrice d'un rapport pour le ministère de la culture : https://www.liberation.fr/culture/intel ... RL76HEY4A/
ici l'explication d'une décision portant sur une bande dessinée dont les images sont générées par une IA : https://www.village-justice.com/article ... 45373.html

[Swinn]

Sinon la seule vraie question qui vaille, ChatGPT :
Bilan + ?
Bilan - ?
Bilan non concluant ?
En questionnement ?
Intéressé par une personne de son entourage ?
Autre ?

[sanders]

Mon cerveau me souffle des images d'humains qui observent des congénères en train de tenter de domestiquer un cheval sauvage ou un loup.

Même si ça n'a rien à voir, la question de la domestication me semble présente.

Moi, j'ai décidé d'être lucide sur le fait de faire l'autruche. Ça me fiche les chtons, je trouve qu'on va trop loin trop vite, bref je me sens dépassée.


Moi : " Et mais y va te bouffer le loup quand il sera plus grand ! "
L'autre : - Mais non, il me prend pour sa mère, pas de risque. "

[Judith]

C'est une peur ancienne et très protéiforme. Depuis Talos et le Golem, en passant par la créature de Frankenstein à qui celui-ci a commis l'erreur de donner un cerveau supérieur au sien, (la source littéraire des robots d'Asimov qui finissent par gouverner les humains) jusqu'à HAL, Samantha et les androïdes pervers de la série Alien, l'humanité craint toujours que ses créations "intelligentes" finissent par lui nuire.
Qui vivra verra ; je ne pense pas que ce soit le danger principal qui menace notre espèce en ce moment, mais qui sait?

Et sinon

Sinon la seule vraie question qui vaille, ChatGPT :
Bilan + ?
Bilan - ?
Bilan non concluant ?
En questionnement ?
Intéressé par une personne de son entourage ?
Autre ?

Je crois que la réponse est dans la vidéo postée par Brunehilde.

Mais de toute façon, il peut avoir n'importe quel QI en ce qui me concerne : tant qu'il n'est pas capable de traduire Pindare mieux que moi, aucun intérêt.

Ce générateur de texte m'intéresserait donc davantage, mais le pauvre, il fait des contresens ridicules sur Pindare.

[Tamiri]

DISCLÈMEUR
Je tiens à préciser que ce truc n’est absolument pas un de mes congénères, c’est un odieux bidule informatique qui usurpe le nom de chat. Et moi j’ai PAS pété.

D’ailleurs moi, contrairement à cet hypocrite de synthèse, je n’ai aucune honte à avouer que je ne connais rien à Pindare, à part que c’est un cirque comme Knie, Bouglione, Zavatta, Roncalli et Gruss.

J’ai découvert le bidule en même temps que là majorité des personnes ne s’intéressant pas spécialement à la question je suppose, par la télé au détour d’une chronique dans les séquences souvent ironiques de la fin de l’émission « 28 minutes ». Une chose qui revient dans les médias grand public est cette idée que l’artifice pétomane serait capable de pasticher à volonté les auteurs dont on lui souffle le nom.

Avant de vous avoir lu•es, je n’ai pas résisté à l’envie de lui faire subir quelques tortures en lui demandant - évidemment - des pastiches de théâtre en vers, puis d’auteurs du XIXe siècle.

Le prétendu chat-qui-pète ne semble pas connaître la notion de style, il la confond avec celle de thèmes récurrents. Il est également et surtout incapable de produire des vers mesurés même quand on lui demande spécifiquement et qu’on insiste. En revanche il produit plus ou moins des rimes, ce qui doit être plus facile vu qu’il lui suffit de chercher des terminaisons identiques.

Alors évidemment je suis une sale bête (mais il n’avait qu’à pas essayer de se faire passer pour un congénère, ce sale petit bout de silicium sur son misérable circuit imprimé), donc je lui ai d’emblée demandé des pastiches d’auteurs des XVIIe à XIXe siècles en imitant également des tournures, une orthographe et un lexique adaptés et évidemment ça ne fonctionne pas, il n’en sortira qu’un Français contemporain. Le pastiche est donc une discipline qui lui est inaccessible : donc les journalistes qui en parlent à cause de ça n’ont vraisemblablement essayé qu’avec des auteurs relativement récents et ont eux-mêmes commis la faute de confondre styles et thèmes. S’ils n’avaient commis cette approximation, ils ne se seraient pas alarmés outre-mesure que le cancrelat numérique se prétendit capable de créer des « faux ».
Et donc : pratiquant moi-même occasionnellement le pastiche (de formes théâtrales en vers, principalement) à titre d’amusement, et ne pouvant en aucune façon prétendre à la perfection ni à l’authenticité, avec mes petites papattes, je me sens très au dessus de cette chose, et pas uniquement parce que je suis tout en haut de mon arbre à chat. Et cela flatte mon ego et me donne envie de me faire apporter du saumon.

Je lui ai ensuite posé quelques petites questions courtes et factuelles, mais sur des sujets de sale bête que je suis, à savoir, par exemple, des points de patrimoine industriel. Là, le nain-posteur va répondre avec application en trois parties généralement, comme un élève qui pratique « thèse - antithèse - synthèse », commençant toujours ses deuxième et troisième paragraphes par la forme adverbiale adaptée pour bien montrer qu’il organise sa « pensée ». Pour le coup le contenu est sans grand intérêt, au minimum superficiel et au pire en total contresens, mais cela tient au fait que je lui ai soumis des sujets sortis des replis les plus tamiresques de mon petit cerveau. J’imagine qu’il est plus loquace et dit moins de sottises si on le fait parler sur des sujets plus courants.

Je n’ai pas une idée très claire de ce que sont capables de produire des élèves de collège ou de lycée. À une exception près : travaillant de concert avec une enseignante, je me souviens que nous avions demandé à des élèves de  « première » de produire de la poésie en les encourageant à la plus grande liberté et, alors que la classe avait eu l’occasion d’étudier une certaine diversité de formes, l’immense majorité des élèves avait produit des textes approximativement mesurés et rimés. Et donc, de ce côté là, le flatulent faux matou est effectivement capable d’imiter un ado Bon, il s’agissait là des élèves en option principale « théâtre » affichant tous un intérêt sincère et pour certains une ambition littéraire revendiquée, d’où l’on peut supposer que d’autres élèves auraient fait encore plus approximatif.

Anecdotes mises à part : je puis comprendre que l’expérimentation de ce programme soit un passage intéressant si ce n’est obligé pour les chercheurs, et que le confronter à vaste public invité à l’essayer ait son utilité dans le processus de fiabilisation par deep-learning du système, à supposer que ce procédé soit ici mis en œuvre. En dehors de la curiosité et des éventuelles tentatives que feront des enfants ou des ados pour s’épargner du travail de rédaction (et que cela fasse illusion ou non), je ne parviens pas trop à me représenter l’intérêt immédiat de la chose. En m’en « servant » je n’ai que l’impression d’apporter ma petite contribution à l’expérimentation et à l’auto-apprentissage de la machine sans en retirer autre chose que mouhouheuheuhâhâââ il est nul en alexandrins, ça vaudra jamais un vrai chat qui en plus ne se vante pas constamment d’avoir pété.
Non, ce qui me semble inquiétant, ce ne sont ni les capacités actuelles de la machine ni ses éventuelles perspectives d’amélioration : ce qui me fait beaucoup plus peur, ce sont ceux des humains qui pourraient trouver suffisantes les synthèses que le système est capable de produire à son niveau actuel et s’en servir en pensant s’informer ou informer autrui. Mais bon.

Et comme dit plus haut, je n’ai pas l’impression que ceci soit parmi les IA les plus avancées du moment puisque celle qui permet de bidouiller des tableaux (que je n’ai pas essayée) semble notoirement plus apte à l’exercice du pastiche. Une expérience de composition musicale a été faite de la même manière où quelqu’un avait demandé à un ordinateur de proposer une dixième symphonie de Beethoven, d’où ressortaient deux choses : d’une part la machine proposait effectivement un pastiche jouable au point qu’on aurait pu l’attribuer de manière assez crédible à un compositeur contemporain de Ludwig - et donc, des interprètes rompus aux écritures du début du XIXe siècle en pouvaient donner une lecture tout à fait convenable ; d’autre part, que l’aptitude à pasticher ne pourrait pas ambitionner de « prolonger » le processus créatif de l’auteur puisqu’elle ne permettrait au mieux que de faire une synthèse de l’existant, mais non y ajouter une quelconque nouvelle initiative. Point sur lequel, j’imagine, personne ne se faisait d’illusions au cours de cette expérience.
Sur un plan personnel (encore, mais que voulez-vous : un vrai chat, c’est égocentrique), je l’imite également ma pratique de la composition à un laborieux pastiche et, si je disposais d’une telle machine à laquelle il me suffirait de rentrer des critères et des modèles, cela m’épargnerait bien de la peine, en réalisant automatiquement les aspects formels et techniques qui sont loin d’être acquis quand on n’a jamais pris la peine de suivre de cours de composition basiques. J’imagine donc que l’association de cette machine et de l’intelligence d’un humain ou d’un chat capable de prendre des initiatives un peu moins attendues, s’appuyant sur de l’expérience et de l’imagination pour compléter, amender, oser des sorties de routes, serait capable d’engendrer non pas la composition la plus géniale du siècle, mais quelque-chose qui pourrait aisément se faire passer pour une œuvre méconnue d’un petit maître d’une époque et d’un style donnés. Quelqu’un veut bien me payer cette machine ? Et une boîte de cookies une assiette de saumon s’il vous plait.

[homer]

Le sujet de chatGPT commence à devenir assez brûlant dans mon domaine d'enseignement. Je suis tombé cette semaine sur mon premier élève à avoir utilisé chatGPT pour essayer de saisir une notion en écotoxicologie, pendant qu'il travaillait sur un projet en semi-autonomie. En soi ce n'est pas forcément un problème, d'ailleurs. Je crains plutôt une opportunité d'abaissement d'exigence des élèves les moisn motivés : "pourquoi je m'embête à apprendre un truc alors que chatGPT peut me le dire" ? Autant dire que la problématique ça n'est pas vraiment une nouveauté, de l'antisèche jusqu'à internet... Mais ça me parait abaisser les chances de s'impliquer de personnes qui n'ont pas tendance à s'impliquer spontanément dans des apprentissages.
Sinon il parait que chatGPT fais du code informatique, mais j'ignore encore jusqu'où ça peut aller.

[Napirisha]

mes collègues y ont trouvé un usage concret : ils lui ont fait rédiger un poème pour un pot de départ. Ce fut un grand moment d'émotion, suivi d'une vague gêne à l'idée d'avoir été émus par un texte automatique.
(et ils ont passé une heure pour avoir le résultat qu'ils voulaient, ils auraient fait plus vite à la main...)

[Swinn]

Le sujet de chatGPT commence à devenir assez brûlant dans mon domaine d'enseignement. Je suis tombé cette semaine sur mon premier élève à avoir utilisé chatGPT pour essayer de saisir une notion en écotoxicologie, pendant qu'il travaillait sur un projet en semi-autonomie. En soi ce n'est pas forcément un problème, d'ailleurs. Je crains plutôt une opportunité d'abaissement d'exigence des élèves les moisn motivés : "pourquoi je m'embête à apprendre un truc alors que chatGPT peut me le dire" ? Autant dire que la problématique ça n'est pas vraiment une nouveauté, de l'antisèche jusqu'à internet... Mais ça me parait abaisser les chances de s'impliquer de personnes qui n'ont pas tendance à s'impliquer spontanément dans des apprentissages.
Sinon il parait que chatGPT fais du code informatique, mais j'ignore encore jusqu'où ça peut aller.

Est ce que ce n’est pas le genre de questionnement que l’on avait au début d’internet grand public et ensuite avec l’apparition de Wikipedia ?

[homer]

Do It Yourself @Napirisha !
Oui @Swinn en effet

[Swinn]

Donc est-ce si grave que cela ?

Pour ma part j’utilise avec beaucoup de plaisir chat gpt.
En ce moment lorsque je lis un essai ou un article ou simplement un truc quelqu’en soit le thème et qu’un point de connaissance me semble obscur, l’IA me permet d’approfondir rapidement une notion, et une information en appelant une autre je peux passer au final pas mal de temps à dialoguer avec l’IA.
Je ne pense pas qu’elle ait toujours raison, on peut argumenter et elle reconnait ses torts si il y a lieu, par ailleurs, je ne peux pas connaitre le niveau de profondeur de ses réponses, il est en effet corrélé à celui de mes questions, mais je suis toujours sorti de ces dialogues avec plus de connaissances qu’en y entrant.
Je trouve cela amusant @homer de poser la question du code informatique. Il suffit de lui demander et elle répondra mieux que quiconque puisque la puissance de sa réponse sera fonction de celle de ta question.
Je lui ai demandé pour ma part de but en blanc de rédiger un code de cryptographie, elle m’en a écrit un en python, mais n’y connaissant pas grand chose en cryptographie et encore moins en codage je suis incapable de juger de la puissance de sa réponse.
C’est toujours le même débat, cette IA n’est qu’un outil auquel on prête des intentions, un outil n’est ni bien ni mal ça n’est qu’un outil on en fait bien ce que l’on veut, je ne crois pas qu’il y ait de débat moral sur le bien et le mal de son utilisation.

Il y a tout de même quelque chose de révolutionnaire et de fascinant avec cette IA c’est cette forme d’omniscience et cette capacité de dialogue qui dynamise totalement la façon avec laquelle je développe mes connaissances, c’est totalement nouveau et de fait, je comprends que cela puisse poser question.

[Tamiri]

B19C1E1B-E699-4837-ACB4-5511082A551B.jpeg

[InMedio]

Pour ma part je viens de faire deux expériences curieuses avec les IA comme ChatGPT etc...
Je mets en spoiler pour ne rien gâcher à ceux qui ne voudraient pas savoir avant d'avoir vu les vidéos mentionnées ci-après.

► Afficher le texte

J'ai en effet vu aujourd'hui deux vidéos dont les auteurs avouent à la fin en forme de poisson d'avril (parce que c'est aujourd'hui) qu'elles ont été écrites, mises en images et en musique... quasiment intégralement inventées en fait, par des IA. Et ça n'a pas été une surprise pour moi en fait.
La première est une analyse de jeu vidéo : Mystic Quest Builders 2 sur N64. Rien n'allait dans la vidéo et j'ai même réussi à me faire une raison tout seul au bout de 10 min : "bon il a une baisse de qualité, c'est pas grave ça arrive. Je vais mettre un like pour encourager à continuer, et puis ça ira mieux quand il parlera de Metroid Prime et de Majora's Mask." Mais littéralement rien n'allait : Le script était fade, factuel et sans humour, le jeu était étrangement beaucoup trop bien pour un jeu de N64 et j'en n'avais JAMAIS entendu parler, la musique a été dure à supporter tant elle était chiante , et en fin d'analyse normalement il y a toujours une petite blague sur une boule de feu à esquiver.. Et là c'était raté.

Au moment où il a avoué que tout avait été fait par des IA, je me suis écrié (tout seul à voix haute) "AH P***** Je m'en doutais !"
https://youtu.be/q-zzalpGdzo
https://youtu.be/995PSPHwjac
Deuxième vidéo beaucoup plus courte par un gars qui parle généralement de Japon, d'histoire du Japon et de culture japonaise avec beaucoup de sérieux, d'images et rien en sources : Là encore, drôle de sensation à l'écoute. C'est beaucoup trop fade, les estampes me dérangent tant elles sont moches, sauf qu'ayant vu l'autre quelques heures avant, j'ai tout de suite compris : lui aussi a tout fait faire par des IA, et ça rend vraiment pas bien.

Il y a une sensation vraiment très étrange que je ressens face à une "oeuvre" issue d'intelligence(s) articifielle(s), mais qui par deux fois aujourd'hui ne m'a pas trompé : on n'imite pas l'art si facilement. Je vais passer pour un gros snob maintenant, mais je m'en fous : je ne suis ni choqué, ni impressionné, ni inquiété par les capacité des IA d'aucune époque. Certes, ça réussit à faire faire des choses hyper complexes à un ordinateur, mais en fait pour nous humain, il y a quelque chose qui sonne définitivement faux, qui plus est pour des choses qui ne nous ont pas nécessité d'apprendre des bases de données titanesques et d'avoir une puissance de calcul astronomique.

[Judith]

Je vais passer pour un gros snob maintenant, mais je m'en fous : je ne suis ni choqué, ni impressionné, ni inquiété par les capacité des IA d'aucune époque.

Pareil, je pense moi aussi qu'il n'y a pas de quoi en faire un plat.

[Swinn]

Moi je reste impressionné parce que nous n’en sommes qu’au balbutiement. Ca peut effectivement paraitre peu spectaculaire pour certain ce que je peux comprendre (lors de la sortie du premier iphone j’étais sceptique, et on voit maintenant comment les téléphones 20 ans plus tard imprègnent nos vies…)
Il n’en reste pas moins que à mon avis les IA vont s’affiner et devenir capable de ressembler à ce point à l’intelligence humaine qu’il deviendra de plus en plus difficile de discerner qui a fait quoi. Il n’y a qu’à voir la polémique qui circule en ce moment sur la circulation de photos d’une personne âgée trainée par la police. Il s’avère que c’est une image crée par Midjourney. Entreprise jeune si il en est. Ou encore cette triste histoire d’une personne dépressive qui s’est suicidée après s’être enfermé dans un dialogue avec une IA.

Certain prédisent que les IA vont supprimer 80% des métiers existant actellement. Par quoi seront ils remplacés comment vivrons, quelles seront nos motivations à nous lever le matin ?….. Cela pose beaucoup de questions fondamentales qui vont à mon sens largement au dela de savoir si la chanson sur tel ou tel thème écrite à la façon de est réussie ou non.

[InMedio]

De ce que je connais de près ou de loin, je crois que les coiffeurs, maquilleurs, tailleurs de vignes, enseignants d'activités physiques, et/ou artistiques, musiciens, plasticiens, concepteurs de jeux vidéos, philosophes, chercheurs en science fondamentale
N'ont aucun souci à se faire avant bieeeeen longtemps.

[Swinn]

Les juristes, les comptables, les chirurgiens, les commerciaux, les fabriquants de maisons, les ouvriers à la chaine….et ainsi de suite ont du mouron à se faire. On peut continuer ainsi longtemps cet inventaire à la Prévert des métiers amenés à rester ou à disparaitre, bien que dans la liste que tu proposes un certain nombres peuvent être remplacés notamment les coiffeurs ou les préparateurs physiques.

Je pense que les IA apporteront une révolution qui combinera simultanément la révolution industrielle de la fin du 19ème siècle et les 2 que l’on a connu avec l’arrivée du web professionnel et privé puis de l’arrivée des smartphones, plus tout ce que l’on est encore incapable d’imaginer car relevant de la science fiction et donc pas vraiment imaginable en l’état. Dans les années 70 un téléphone avec un écran pour voir son interlocuteur était un des combles de la science fiction, et maintenant cela doit être un des objets parmi les plus banals de la terre.

Qu’en sera-t-il du monde informatique au sens large dans 50 ans ?

[Judith]

L'émission de France-Culture Signe des temps était consacrée ce matin à la question.

On peut l'écouter ici : ChatGPT, la folle rationalité qui nous guette

L'émission est assez bien faite. Elle part de la constatation d'un certain nombre de phénomènes actuels : multiplication des images et des informations fausses générées grâce au robot, inquiétudes morales formulées par des penseurs importants de notre époque comme le linguiste Noam Chomski (on en trouve un bon résumé ici), vaste appel collectif lancé par des scientifiques et des spécialistes de l'IA à un moratoire sur les expériences de masse en la matière, suspicion de manipulation par ChatGPT de personnes anxieuses pouvant avoir conduit au moins l'une d'elles au suicide, etc. Que doit-on, que peut-on en penser?

Le débat est conduit par deux philosophes et une journaliste, donc selon un angle assez abstrait et principalement éthique. Il rappelle, comme la vidéo postée plus haut, les limites et les failles de l'IA dans l'état actuel de nos connaissances à son sujet, précise un certain nombre de points techniques de façon très claire (par exemple en explicitant la différence posée par Chomski entre génération humaine et génération artificielle de langage et les conséquences qu'en tire le linguiste) et propose des regards divers sur la question des usages et mésusages possibles de l'IA dans les années à venir. Ces points de vue sont plutôt sereins, mais pas forcément non plus aveugles à de possibles dérapages.
Je conseille l'écoute.

[Calvinethobbes]

Je suis pour ma part fort déçue par cette IA, je lui ai demandé de rédiger ma thèse et non seulement elle ne l'a pas fait mais en plus le système a planté.

[black]

ChatGPT, fameux sujet !
Pour le démystifier, je vous conseille de regarder cette vidéo qui sera plus pédagogique que ce que j'arriverai à faire par écrit https://youtu.be/7ell8KEbhJo

Il y a effectivement un danger à mettre cet outil entre n'importe quelle main qui ne comprendrait pas ce qu'il fait, et cela pourrait devenir dommageable dans l'enseignement. Il ne prédit que des probabilités d'utiliser un mot conditionné au contexte précédent, ce qui ne saurait garantir une quelconque capacité à générer des résultats vrais.

A titre d'exemple, je lui ai demandé de générer du code arduino pour calculer la trajectoire à appliquer à mon télescope pour pointer un objet spécifique dans le ciel, sachant le matériel électronique que j'ai pour mesurer l'endroit où il pointe.
Le résultat, je vous en montre une capture d'écran :

Screenshot_2023-04-22-13-44-08-778_com.android.chrome.jpg

Screenshot_2023-04-22-13-44-23-145_com.android.chrome.jpg

Le code qu'il me donne est cohérent, mais certaines choses sont inventées.
Il s'agit donc dans l'utilisation de chatGPT de maîtriser un minimum le sujet que l'on lui soumet. Une fois ceci compris, on possède dans les mains un outil extrêmement puissant pour initier un projet informatique, trouver une source d'inspiration, résumer des textes, proposer des améliorations d'un existant. C'est aussi un formidable outil de recherche, n'ayant plus besoin de formater l'entrée de la recherche pour maximiser l'efficience du résultat, comme on doit le faire avec Google search.

Par contre, en tant qu'expert en IA, j'ai un peu de mal à comprendre l'effet engendré par les medias sur chatGPT, il n'y a rien de magique, juste une bonne idée de solution au problème posé. Mais rien de transcendant au point de parler d'intelligence artificielle dangereuse. En comparaison, depuis une 20ene d'années, l'ingénieur en conception utilise souvent des outils de simulation qui donnent toujours un résultat, dont la pertinence dépend de la définition du problème, comme chatGPT. On ne fait pas pour autant des avions ou des centrales nucléaires moins fiables parce que comme pour chatGPT, notre capacité d'analyse reste prépondérante dans l'utilisation qui est faite de ces résultats.