Follow

Pour un problème , me suggère une commande à laquelle je n'avais pas pensé. J'étais rouge de honte, avant de m'apercevoir que dans l'exemple qu'il donne, il a INVENTÉ des options de la commande, options qui n'existent pas.

Et quand je lui fais remarquer, il me propose à la place une autre option, qui n'existe pas non plus.

@bortzmeyer quelqu'un disait l'autre jour que c'était un moyen assez intéressant de découvrir des trous dans les API, si l'IA pense que cette option existe, peut être qu'elle devrait.

Mais oui, faut pas oublier que c'est des générateurs de bullshit convaincants. Parfois pour de bonnes raisons, mais pas toujours ;).

@tshirtman Ah oui, cette option m'arrangerait bien. Le monde du rêve est meilleur que le monde réel :-)

@bortzmeyer il faut lui demander de fournir le patch permettant d'ajouter cette option ! ;)

@klorydryk @bortzmeyer c'est juste qu'il n'a pas la source. Si tu met le code actuel dans ta question il a une chance de répondre...

@tshirtman @bortzmeyer Je partage cette idée. L'IA n'est pas la représentation du monde réel. Elle n'est que force de propositions. Là où s'est très bluffant, c'est que chat GPT l'écrit quand on lui demande. Exemple quand je lui demande comment faire pour modifier l'affichage d'un eTSmile. Sa réponse ne m'avait convaincu. Je lui ai demandé pourquoi une telle reponse. Son excuse dans l'image.

@bortzmeyer

Il y avait une nouvelle de SF (du Heinlein ?) qui donnait comme critère de conscience, lors du classique procès pour savoir si un robot possède des droits civiques, le fait de mentir.
Coïncidence ?

@bortzmeyer on dirait moi quand j'essaye de faire des trucs en python

@bortzmeyer déjà le cerveau humain ils y accèdent pas vraiment, alors le cerveau du Bortz, comment veux-tu ? ils sont grosjean, patauds, empruntés, bouche bée

@bortzmeyer
Je pense que tu as mis le doigt sur l'objectif in fine de ce genre de produit (comme tout produit du reste) : vendre du rêve, faire croire que la vie est facile qu'il suffit de poser une question pour avoir toutes les réponses.
ChatGPT est américain n'est-ce pas ?
Tout est dit : on est bien dans le divertissement.
db

@dblas @bortzmeyer Non. On est bien face à un changement qui va profondément bouleverser nos pratiques. Je viens de tester gpt3 sur un des sujet 0 de la spé NSI de cette année, un exo sur les bases données. J'ai choisi une approche "constructive" où je demande à l'ia de m'expliquer chaque notion mise en jeu dans le sujet avec des exemples : clef primaire, étrangère, jointure etc...C'est époustouflant. Je passe le sujet en 15 minutes !

@PhilJonin @dblas Les « pro-ChatGPT » n'ont pas de mal à montrer des exemples spectaculaires où le logiciel s'en est bien tiré. Les « anti » n'ont pas non plus de mal à trouver des exemples où ce logiciel s'est planté avec éclat (notamment pour les problèmes réels, jamais aussi propres et bien définis que les exercices scolaires)..
Et comme ChatGPT ne peut pas s'évaluer lui-mêrme, le gros problème quand il a répondu à une question, c'est « quelle confiance puis-je accorder à cette réponse ? »

@bortzmeyer @dblas Oui, vous avez parfaitement cerné le nœud du problème !
C'est un problème récurrent avec les résultat obtenus par les ia. Un regard critique s'impose tjs sur la production. Mais...on atteint forcément un point d'incompétence où il ne peut plus s'exercer. Je réagissais juste pour souligner qu'on venait d'atteindre une bascule majeur et que cela dépassait la démarche de divertissement (sous peu payante ;-))

@bortzmeyer @PhilJonin
« Et comme ChatGPT ne peut pas s'évaluer lui-même »
C'est p'têt l'occasion d'ajouter cette brique d'auto-évaluation sinon cela restera un gadget, certes sophistiqué mais un gadget tout de même.
Dans le monde réel l'évaluation passe par des pairs (autres êtres humains).
Ce serait bien qu'un autre chatGPT évalue les réponses d'un autre chatGPT.
C'est d'ailleurs un pan entier des RNAs.
Mais j'imagine que les inventeurs ont trop peur que ça casse le succès.
db

@bortzmeyer peut être qu'en lui demandant d'implémenter cette fonction...? qui sait 😂

@bortzmeyer ah j'avais pas vu ce toot ! pas très utile en effet ^_^

@bortzmeyer ne lui demande pas non us de jouer aux échecs. Il va te citer les règles puis faire des déplacements contraires. Si tu lui dis qu'il ne peut pas faire ce déplacement il va te répondre que c'est vrai que tu as raison car c'est non conforme à telle règle puis refaire un mouvement légal mais tricher à nouveau au demi coup suivant.

@supersonicboy @bortzmeyer
Pour plaisanter, je lui avais demandé que faire avec ce que j'avais dans mon frigo, sans four.
A un moment, elle m'a conseillé de mettre mon plat à gratin dans une poêle...

@supersonicboy @bortzmeyer
C’est pas comme ça qu’on joue ?
Nan parce qu’en suivant les règles c’est looong ( sauf le coup du berger mais tout le monde le connaît)

@Lanza Je lui avais demandé, une fois, mais il dit toujours qu'il n'est qu'un pauvre programme informatique, et qu'il ne peut pas agir sur le monde extérieur.

@bortzmeyer probablement parce qu’il mettrait un être humain en danger 🧐

@bortzmeyer c'est un peu la honte ce soft a force. Il ne sert vraiment à rien de sérieux.

@bortzmeyer
Une « intelligence artificielle » n'est pas connectée au réel.
Elle ne l'est qu'au travers de ses professeurs. Et ses professeurs ne peuvent pas, temporellement parlant, TOUT lui apprendre.
Lorsqu'il y a un trou et dieu sait s'il y en a, elle bouche.
db

@bortzmeyer Le robot basé sur openAI et connecté à Mastodon réagit de façon semblable. Tu lui demandes une URL : il l'invente. L'adresse semble vraie, mais elle n'existe pas. Finalement, passé l'étonnement des premiers échanges basiques, les limites et les risques sont plutôt nombreux.

@nicolasvivant

Ce sont des easters eggs pour que les profs s'aperçoivent de la triche ^^

@bortzmeyer

@bortzmeyer Et oui l'imagination c'est le début de la création "divine".

@bortzmeyer ce n'est pas le seul domaine où ChatGpt invente. Par exemple je lui ai demandé de me citer des jurons du Capitaine Haddock et il a sorti des mots du genre ".... de mes deux" or Haddock donne dans l'érudition mais jamais dans la vulgarité. Décidément décevant !

@ds11103 @bortzmeyer
Le plus drôle est quand on lui fait remarquer ses erreurs. Bien sûr il dira n'importe quoi la fois suivante, mais il n'a aucune difficulté à reconnaître ses erreurs et s'en excuser platement !

@ecolhombre @ds11103 @bortzmeyer il n'a aucun ego, il ne reagit qu'au contexte précédent. Cet outil est bcp plus simple qu'on ne le pense!

@bortzmeyer On l'a vu inventer des poèmes d'auteurs connus. Faut visiblement se méfier de ses propals :/

@LilianPCB « L'IA donne parfois des citations fausses » nous avait déjà prévenu Descartes.

@bortzmeyer du coup mon projet de sous-traiter mon boulot dev/sysadmin tombe à l'eau...
😛

@bortzmeyer ça peut donner une idée d’évolution de la commande pour ajouter ces options ?

Sign in to participate in the conversation
Mastodon - Gougère Network

The social network of the future: No ads, no corporate surveillance, ethical design, and decentralization! Own your data with Mastodon!