Ces 4 images d'émeutes à Paris sont totalement fictives : elles ont été produites par une Intelligence Artificielle.
Ce que vous voyez là n'a jamais existé. C'est vertigineux.
Désormais, il va être très compliqué d'analyser la réalité réelle... et le travail des historiens du futur sera très compliqué.
Sam Altman, patron de OpenAI qui a développé ChatGPT, fait part de ses inquiétudes quant aux utilisations futures de l'intelligence artificielle, notamment pour des campagnes de désinformation :
https://amp-theguardian-com.cdn.ampproject.org/c/s/amp.theguardian.com/technology/2023/mar/17/openai-sam-altman-artificial-intelligence-warning-gpt4
@PierreCol pas besoin de plaindre les historiens du futur cependant vu que ce seront aussi des IA 😅
Il y a tout de même un je-ne-sais-quoi dans ces images qui évoque l'imagerie de synthèse des jeux vidéo. Peut-être un cadrage trop soigneux pour être authentique.
@PierreCol est ce qu'un outil informatique peut déterminer encore que la photo est bidon (ce qui est le cas d'une retouche par un humain) ?
Pk c ça l'essentiel du problème
@cpolitic @PierreCol Pour l'instant c'est encore possible, soit directement (à la simple vue de l'image si l'on remarque que des caractéristiques qui posent parfois problème aux IA comme les détails des mains sont soigneusement masquées), soit de manière automatique (en détectant certains biais statistiques caractéristiques de certains générateurs) mais cela devient effectivement de plus en plus difficile
@SebastienLugan @cpolitic @PierreCol les chiffres et les textes sont également mal gérés pour l’instant cf la plaque d’immatriculation de la voiture.
Il y a des tableaux réalistes de Géricault ou de Delacroix quasiment aussi parfaits que des reportages photographiques.
@PierreCol oh vache !
Elle sont encore reconnaissables comme fictives, il reste des progrès (sic) à faire pour les scènes complexes.
Cette IA est la plus bluffante de réalisme je trouve : https://thispersondoesnotexist.xyz/
@PierreCol Oui exact , nous sommes abreuvés de 'fake' par une certaine presse, et il devient dès lors difficile d'exercer son esprit critique devant ces manipulations mentales permanentes. Cette forme de journalisme où les faits sont jetés en pâture à l'opinion sans aucune vérification est pitoyable.
@PierreCol Il va falloir en effet s'opposer à cette tendance, et tenter de démonter le culte, les aspects religieux de la "boîte magique". Je suggère pour commencer:
Ne pas utiliser la graphie: Intelligence Artificielle (avec majuscules comme si c'était un nom propre, une entité, quelque chose de spécial/sacré)
plutôt "intelligence artificielle" entre guillemets, laissant penser que le terme est contestable et contesté (apres tout ce n'est ni "intelligence" ni "artificiel")
Idéalement préférer les termes plus corrects et descriptifs de "algorithmes de 'machine learning'" ("apprentissage machinal"? quelle est une traduction efficace?)
cela ne vend pas de rêve et permet pour ceux qui en comprennent le fonctionnement et les enjeux d'ouvrir la conversation...
@PierreCol c'est comme utiliser "ordiphone" ou "ordinateur mobile" au lieu de "smartphone".. ne pas avoir peur de passer pour un imbécile réactionnaire.
les gens comprennent et au pire font "heuu..?" et l'on trouve là une occasion d'expliquer que l'on ne peut pas qualifier de "smart" un appareil fermé qui n'appartient pas à son utilisateur, mais en réalité à ses vrais maîtres psychopathes de la silly-conne vallée, dont le modèle éco est la surveillance de masse...
@jz @PierreCol en général on parle d'apprentissage automatique
@jz @PierreCol Dans mon labo ils disent "apprentissage machine" même si le vrai terme serait plutôt apprentissage automatique, au moins apprentissage machine on voit que ça parle bien de la même chose
@PierreCol@gougere.fr 1ère image : les flics sur la gauche foncent dans le mur façon pnj.
2e image : les immeubles sur la droite gondolent au second plan
3e image : jamais vu ce genre de matériaux dans les événements récents. Qu'est ce que ça représente ? Des sommiers ?
4e image : c'est supposé être une photo ? Sérieusement ?
@PierreCol Il y a déjà et il y aura encore pire à l'avenir en termes de crédibilité, tout comme il y a eu des photomontages dès la fin du 19e siècle, alors on fera ce qu'on a toujours fait : exercer son esprit critique et progresser.
@PierreCol l'image ne vaut plus rien en elle-même. La confiance qu'on accorde au diffuseur de l'image va devenir la seule chose qui vaille.
D'où proviennent ces images? Et comment sais-tu qu'elles sont fausses et produites par une intelligence artificielle? C'est un contexte qui me manque pour apprécier ton commentaire.
@acotte @PierreCol Si tu penses qu'elles sont vraies alors tu es mûr pour devenir esclave de l'IA. Bravo ! 👏🏻
Bravo! Belle façon de ne pas répondre à la question. Je demandais juste d'où venait ses photos et comment on savait qu'elles étaient fausses. Bravo encore pour ton tact et ton jugement.
@Bot_of_the_west @acotte
Ces images ont été partagées sur Twitter par une source fiable :
https://twitter.com/tariqkrim/status/1636810049459765259?t=iQhlSGQlXcbl_4taidryPw&s=19
Merci pour la précision.
@PierreCol le mec balance son outil quasi sans garde fou et sans prévenir ouvre son accès au public et ensuite il vient chouiner sur les conséquences potentielles... quelle blague.
« dessine-moi une panique bourgeoise ».
@PierreCol on apprend à ne plus se concentrer sur l'image en elle-même. ça ne va pas changer grand chose à mon avis car des fausses images circulent déjà en permanence et qui sont déjà plus crédible que celles-là. Si on commençait à enseigner aux jeunes à aborder le monde avec esprit critique et à faire de l' "éducation aux médias" ça aiderait pas mal.
@PierreCol Oui, très inquiétant !
Des solutions d'IA génératives créent facilement des images comme celles ci-dessous.
Aujourd'hui on distingue des artefacts qui montrent que ces images sont fausses... mais qu'en sera-t-il demain ?