ChatGPT, Grok, DeepSeek, etc...

[Poseidon]

J'étais étonné qu'il n'y ait pas un topic sur nos nouvelles amies les IA...

Comme je suis loin d'être suffisamment calé pour aborder un sujet pareil (mais n'hésitez pas à le faire!) je vais surtout me contenter de poster des images... 


Par exemple, du Ghibli made in chatgpt (qu'on aime ou pas, franchement moi je trouve ça excellent  )

[Bouloche le Foufounet]

Traitez-moi de vieux con, mais tous ces trucs d'IA en général, ChatGPT et consorts, mais surtout les Deepfakes en particulier, ça me fout réellement les jetons.

Ca va devenir de plus en plus difficile de savoir si une image ou une information est vraie ou fausse, et ça finira de devenir pratiquement impossible.

Les IA, pour le kiki moyen, c'est rigolo ; pour l'étudiant, c'est pratique.
Mais le gros problème, c'est qu'il y aura toujours une horde de gens fort mal intentionnés pour manipuler et tromper les masses.

[Le Passant]

Soyons clair d'entrée de jeu : j'avais songé à créer un sujet sur ce thème car il est intéressant, je soutiens donc sa création, mais.

1) Je ne veux aucun anathème, insulte, attaque contre des membres du forum ou qui que ce soit d'autres.
2) les opinions sont les bienvenues, tant qu'elles restent courtoises.
3) Les arguments, c'est bien, encore faut-il les exprimer. Les sourcer, c'est mieux. Si vous avez des articles intéressants, pour, contre ou neutre, n'hésitez pas à les partager mais éviter de laisser seulement un lien : si vous poster un lien, expliquez au moins pourquoi il est pertinent.

[Ben]

J'ai rien contre l'IA si on en a une utilisation ludique et surtout "maitrisée" mais franchement si j'avais pas lu le commentaire de Popo, je n'aurais pas capté de suite le "trait Ghibli". Je trouve vraiment qu'il y en a que 2 ou 3 qui ont un dessin s'en rapprochant un peu. 

[Byaku]

C'est quelle actu ça ? 

[Poseidon]

Tu as oublié l'homme à la pelle en slip? Bon ça remonte à 2015, mais l'image ressort régulièrement... 


https://www.charentelibre.fr/societe/insolite/l-homme-a-la-pelle-en-slip-heros-malgre-lui-des-reseaux-sociaux-recevra-10-000-euros-de-dommages-et-interets-de-france-tv-5883816.php

[Poseidon]

Traitez-moi de vieux con, mais tous ces trucs d'IA en général, ChatGPT et consorts, mais surtout les Deepfakes en particulier, ça me fout réellement les jetons.

Ca va devenir de plus en plus difficile de savoir si une image ou une information est vraie ou fausse, et ça finira de devenir pratiquement impossible.

Les IA, pour le kiki moyen, c'est rigolo ; pour l'étudiant, c'est pratique.
Mais le gros problème, c'est qu'il y aura toujours une horde de gens fort mal intentionnés pour manipuler et tromper les masses.

J'avoue, je trouve ça aussi "effrayant" pour tout ce que ça peut produire comme "faux".

D'ailleurs, je suis TRÈS étonné, vu les fausses déclarations avec copie de la voix, de la gestuelle, etc... que l'on sait maintenant faire, de ne pas en voir plus!

J'aurais cru qu'on serait vite inondés de vidéos de fausses déclarations, faux discours, etc. des différents dirigeants mondiaux au point de ne plus savoir ce qui est vrai ou faux. Surtout connaissant le passe-temps favori de nos amis russes qui est de foutre la merde. Vraiment je suis très étonné de la "retenue" dont les malfaisants du monde font preuve en matière de deep fakes...

Peut-être qu'ils se disent qu'on en ferait tout autant avec eux...? Ou bien ils préfèrent en rester aux trucs classiques, trollage de réseaux sociaux et piratages de systèmes à gauche à droite... 

[C.m.f.s.j.p]

Au boulot on pourrait aller dix fois plus vite avec l'IA, mais c'est impossible d'expliquer ça à la plupart des gens.

Je me suis tapé les allergiques à l'ordinateur et maintenant qu'ils sont presque tous à la retraite, rebelote avec les allergiques à l'IA.

[Sharivan]

Il est indéniable que l'IA peut être un outil très utile pour nous aider sur divers sujets, par exemple pour traduire un texte ou pour trouver des informations rapidement. Cependant, il est crucial de rester vigilant et de vérifier les informations fournies, car l'IA peut parfois dire des choses erronées ou inexactes.

Il est important de considérer l'IA comme un complément à notre apprentissage, et non comme une solution miracle qui fait tout à notre place. Récemment, j'ai entendu parler de plusieurs lycéens qui se sont fait prendre par leurs professeurs parce qu'ils avaient utilisé l'IA pour rédiger leurs devoirs sans vraiment comprendre le sujet. Cela montre qu'il est essentiel de ne pas se reposer uniquement sur ces outils.

[Byaku]

Tu as oublié l'homme à la pelle en slip? Bon ça remonte à 2015, mais l'image ressort régulièrement... 


https://www.charentelibre.fr/societe/insolite/l-homme-a-la-pelle-en-slip-heros-malgre-lui-des-reseaux-sociaux-recevra-10-000-euros-de-dommages-et-interets-de-france-tv-5883816.php

Anéfé je suis passé à côté de ça 



Moi j'attends avec non-impatience  le jour où circuleront des vidéos AI pour pédo... 

A moins que ce soit déjà fait... et pas encore légiféré...

[Bouloche le Foufounet]

Récemment, j'ai entendu parler de plusieurs lycéens qui se sont fait prendre par leurs professeurs parce qu'ils avaient utilisé l'IA pour rédiger leurs devoirs sans vraiment comprendre le sujet.

Oh mais les textes rédigés par IA par des lycéens, c'est totalement classique !
Tu peux même configurer le bazar par rapport au niveau de langage (pour que ça garde un vocabulaire raisonnablement simple et des phrases pas trop longues et alambiquées), et même le paramétrer pour que ça inclut quelques fautes d'orthographe pour plus d'authenticité !

[Sergorn]

L'IA Créative est une technologie super intéressante en soi mais le gros problème c'est qu'elle existe principalement en s'entrainement de manière illégale sur du travail d'artistes qui ne sont ni consulter ni n'autorise d'utiliser leur travail. (Récemment il a ainsi été établi que Meta a téléchargé illégalement pour 82 To de livres pour entraîner ses modèles IA - ne nous leurrons ils font pareil pour le reste). Du coup où est la limite ?

Il existe de IA dites "éthiques" qui s'entraînent uniquement sur du contenu libre de droit... mais ce ne sont évidemment pas celles créées par les GAFAM et assimilés, ni les plus utilisées.

Après en soi la technologie est très intéressante mais son utilisation potentielle est très problématique.

Si un artiste par exemple entraînait une AI uniquement sur son propre travail et l'utilisait pour créer ses pages, ça ne poserait de problème ni éthique ni légal. Ce serait même sans doute pas pire que les artistes qui vont faire du tracing par dessus des photos 

Mais au lieu de ça on aura plus probablement des grosses boites qui nourriront des IA des choses dont ils ont les droits pour se passer d'artistes.

L'IA pourrait être un bon moyen de simplifier le travail de beaucoup de gens mais au lieu de ça les studios et éditeurs vont s'en servir pour remplacer de vrais artistes - on a déjà vu des boites en Chines qui ont viré des artistes pour les remplacer par des IA en gardant un ou deux artistes pour "corriger" le travail. On réduit la main d'oeuvre et les coûts. (Dans le genre j'ai souvenir de certains réalisateur d'anime nippon lançant en gros "c'est super l'IA on pourra se passer des artistes qui en branlent pas une" gloups). De même certains streamers ont commencé à faire du doublage et des sous titres par IA au lieu d'embaucher des comédiens et traducteurs.

A côté de ça des productions commence à mettre des disclaimer pour annoncer quand elles n'utilisent pas d'IA.

Bref c'est pour ça qu'il faut que ce soit régulé au plus vite.

Après la boite de pandore est déjà ouverte, il sera trop tard pour faire marche arrière et si les IA-bros se prenant pour les artistes sont particulièrement irritants, les gens qui vont se mettre à insuler et harceler la moindre personne qui poste une image IA pour le fun sont tout aussi problématique et ne font que nuire à leur cause.

Y a des gens qui espérent que l'IA va s'auto détruire à se nourrir d'elle-même mais je pense que c'est un voeux pieux.

Enfin oui il reste le plus gros problème que pose cette technologie (et plus encore via le deep fake et assimilé alors que ce n'est pas une technologie néfaste en soi) : la manipulation d'image et de médias à des fins de propagande politiques. On a d'ailleurs vu un cas récemment avec une piste audio qui a fait le tour du web où Donald Trump Jr. disant qu'il aurait fallu envoyer des armes en Russie plutôt qu'à l'Ukraine... propos qui parait crédible vu le personnage, mais qui s'est avéré être de l'IA. Et ça va être encore plus dangereux que les conséquences de l'IA sur le métier d'artiste.

Et ne parlons pas d'autres utilisations largement dégueulasses (fausses vidéo porno de célébrités ou de gens "qu'on connait", pédopornographie et j'en passe.  )

Après ça ne veut pas dire qu'il faut interdire l'IA (de toute façon c'est trop tard) mais légiférer et réguler devrait être fait au plus vite. Evidemment le temps que ce soit fait ce sera déjà trop tard.

En vrai on a vraiment l'impression qu'on se dirige en plein vers Cyberpunk où le monde est blindé de fausse créations vidéos et sonore faisant qu'il devient nécessaire d'avoir des moyen d'identification et d'encryption fiable et infaillible car il s'agit du seul moyen de connaître le vrai contenu. Et clairement : on va en plein là dedans car quand on voit déjà ce qui se fait maintenant je n'ose imaginer dans 10 ans.

-Sergorn

[Sharivan]

Oh mais les textes rédigés par IA par des lycéens, c'est totalement classique !
Tu peux même configurer le bazar par rapport au niveau de langage (pour que ça garde un vocabulaire raisonnablement simple et des phrases pas trop longues et alambiquées), et même le paramétrer pour que ça inclut quelques fautes d'orthographe pour plus d'authenticité !

Wow, je ne savais pas du tout qu'on pouvait faire tout ça... C'est pire que ce que je pensais. Certains lycéens vont sûrement passer entre les mailles du filet et avoir d'excellentes notes sans rien comprendre. 

Franchement, c'est flippant... Surtout avec la possibilité d'ajuster le niveau de langage ou même d'inclure des fautes pour "faire vrai".

Reste plus qu'à inventer un détecteur de "fausses fautes" pour les profs...

[Byaku]

Certains lycéens vont sûrement passer entre les mailles du filet et avoir d'excellentes notes sans rien comprendre. 

Un petit test oral fera l'affaire pour détection 

[Iris-Ardell]

Ca m'effraie aussi, ça m'écoeure, me dégoûte.    Tellement de temps de travail, de remise en question et de patience... pour savoir qu'à cause de l'IA des artistes sont spoliés. Que des gens peu scrupuleux s'en servent pour obtenir plus, mieux (?), plus rapidement... Où est le goût d'avoir réussi grâce à ses efforts ?

Après, évidemment, ce n'est pas aussi simple. Je suis d'accord avec le fait que l'IA ne doit pas non plus être complétement dégagée, mais bien encadrée et contrôlée. Elle rend des services, la bougresse. D'ailleurs, moi-même je l'utilise pour mes recherches : quand j'ai une question un peu trop, ahem, bizarre, je la pose et je consulte ensuite les sources de l'IA pour vérification. En effet, il lui arrive de dire des conneries. Donc, je ne jeterai pas la pierre à ceux qui l'utilisent, pour une aide ponctuelle par exemple. Ou pour des domaines où elle peut soutenir des activités humaines (sans que les humains soient remplacés).

N'empêche, ça me fait penser à la nouvelle dystopique : Je n'ai pas de bouche et il faut que je crie de Harlan Ellison. 
Je ne l'ai pas encore lue, mais c'est dans ma PAL.

[Nicodémüs]

Je suis tout d'accord avec le post de Sergorn.

Comme dit dans le salon l'autre jour, on ne peut pas utiliser une IA sans une vérification humaine derrière. Notamment pour ce qui est du travail de traduction. En effet, c'est pratique, ça permet de traduire rapidement beaucoup de texte, y compris par des gens qui ne sont pas bilingues. Néanmoins, les IA de ce genre, comme DeepL (qui est très utilisé par les auteurs de fanfics et plus), ne sont pas parfaites. Elles font des contresens, se mélangent les pinceaux dans les pronoms et patinent aussi sur les expressions les plus imagées. Donc se servir de ça pour traduire tout un bouquin et le mettre sur le marché sans une relecture, c'est un très mauvais plan.

Ensuite, en tant que personne ayant une fibre artistique (dessin, écriture, photographie), l'IA me dérange parce que, comme l'a dit Sergorn, elle est majoritairement alimentée par des créations qui ne sont pas libres de droit et les auteurs/autrices des créations originales ne sont pas au courant de cette appropriation. C'est du vol, purement et simplement. Encore plus quand ces productions sont faites dans un but lucratif.

Et c'est d'autant plus grave que beaucoup de gens qui surfent sur les réseaux sociaux n'ont pas le recul nécessaire pour comprendre que ce qu'ils voient est faux et vont se mettre dans la tête des données totalement erronées parce que le réalisme est bluffant, quoi qu'on en dise. J'ai une collègue qui utilise ChatGPT pour toutes ses recherches sur Internet, sans se poser la question de savoir quelles sont les sources de ce qu'elle lit. Or, ChatGPT ratisse le Net et fait un résumé de ce qui ressort le plus, ce qui n'est pas nécessairement synonyme de véracité (j'avais lu un article d'un biologiste qui se marrait du nombre de gens s'affichant avec un tatouage de crâne de "loup", quand il s'agissait en fait de celui d'un blaireau : une photo mal étiquetée mais avec une kilo-tonne de vues et hop ! première proposition sur Google images. )

Ce qui me gêne aussi, c'est que ces IA sont trompeuses à un point qu'elles deviennent dommageables pour les vrais artistes. On l'a vu récemment avec la dernière grève des scénaristes à Hollywood parce que les grands studios se sont tout de suite dit que ChatGPT et cie, c'était quand même plus pratique (et gratuit) que du personnel ; et qu'ils pouvaient donc mettre tout le monde à la porte. Et on a tous lu des articles ici et là constatant que ça va plus loin : les acteurs/actrices sont aussi touchés, puisqu'il est question de les remplacer (ou de remplacer leur comédien/ne de doublage) par des IA.

Et il faut imaginer que dorénavant, il deviendra difficile de faire le distinguo entre le vrai photographe et celui qui a juste pompé les clichés des autres pour raffler la mise des vues sur les RS ; entre le vrai dessinateur et celui qui a seulement tapé sur son clavier ; entre le vrai écrivain et celui qui a tout fait faire par ChatGPT.

Et oui, les IA sont utilisées en politique. J'avais vu un reportage la veille de l'élection de Trump où le journaliste suivait et interrogeait des citoyens partisans des deux camps. Et il y avait un gros influenceur, trumpiste, qui s'amusait régulièrement à poster des vidéos complètement à base de deep fake faisant dire et faire des choses à Kamala Harris. Ce qui, du point de vue de la loi américaine, ne pose absolument aucun problème.

Et le dernier point qui me gêne aussi, c'est qu'elles sont maintenant incluses dans de nombreux logiciels sans forcément que ce soit annoncé clairement. On a l'exemple d'Acrobat PDF où c'est affiché en gros et en rose fuschia sur l'écran d'accueil. Mais il y en a aussi dans les dernières versions de Word et d'Excel, et Microsoft se garde bien de le préciser (oui, tout ce que vous écrivez est scanné et récupéré par Microsoft pour "améliorer" les fonctions de Word). On la retrouve sur TEAMS et sur Outlook aussi, avec ce système de suggestion de réponse. Je ne connais pas le pendant Apple, mais j'imagine que ça existe aussi.

[Le Passant]

J'ai effectivement eu droit très récemment à une mise à jour d'Acrobat Reader qui ajoute de l'IA, pour "résumer", "enrichir" ou "éclaircir" le document. Alors déjà, ça ralentit considérablement l'outil et la lecture parce qu'il est constamment en train d'imaginer que tu vas lui demander un truc, et ensuite...c'est complètement ridicule. C'est un gadget inutile parce que tout le monde fait de l'IA donc il faut faire de l'IA.

[Nicodémüs]

Quand j'ai vu arriver, à mon boulot, ces suggestions de réponse sur Outlook et Teams, je me suis dépêchée d'aller dans les paramètres pour dégager ce truc.

Surtout que ça se base sur les expressions que tu utilises d'habitude, mais sans les formules de politesse, les éventuelles smiley, etc. et que ça envoie direct ta sélection sans te demander si ça te va. Donc c'est très froid comme réaction et il faut vraiment faire gaffe à qui tu envoies ça.   

[Wolgyzer Z]

Un autre gros problème avec les dernières itérations de cette technologie c'est le coût environnemental juste faramineux de ces gadgets pour au final avoir de la peine à leur trouver une réelle utilité (autre qu'une "utilité" redondante mais avec la couche de vernis "nouvelle technologie innovante" faite pour séduire les investisseurs et nous faire oublier ce qui existe déjà et fonctionne parfaitement bien, histoire de nous pousser à la consommation) :

https://news.mit.edu/2025/explained-generative-ai-environmental-impact-0117

https://www.ohio.edu/news/2024/11/ais-increasing-energy-appetite

A une époque où trouver des solutions pour atténuer la sévérité du réchauffement climatique et réduire la surconsommation d'eau, de métaux rares et d'énergie est une urgence capitale, on est en train de s'embarrasser d'une technologie extrêmement gourmande et à l'impact écologique désastreux. On dit que c'est pas grave d'utiliser l'IA générative comme un jouet, mais même ça c'est discutable : non content de faire grimper la consommation d'électricité pour des usages triviaux, on produit par amusement à une vitesse accélérée un surplus titanesque d'information qui devra bien être stocké quelque part. Cela signifie construire plus de bases de données, exploiter plus de métaux rares, produire plus d'électricité (et les énergie "vertes" et "renouvelables" n'y suffiront pas, donc il faudra se reposer encore plus sur les énergies fossiles ultra-carbonées) et consommer plus d'eau pour les refroidir. Bref, plus que faciliter nos vies, ça facilite surtout l'infobésité, la cacophonie informationnelle, la mésinformation (voire désinformation, comme mentionné par Serge) et la crise écologique.

Et c'est sans parler de l'impact que l'usage de cette technologie, utilisée comme une béquille pour tout et n'importe quoi voire abusée par son aspect très pratique et rapide, risque d'avoir sur nos facultés de réflexion :

https://www.mdpi.com/2075-4698/15/1/6

Même parmi les collégiens et les lycéens, qui ne sont pas en reste pour trouver des combines pour plier leurs devoirs en deux temps trois mouvements, tu en as qui reconnaissent que sans cesse se reposer sur elle est une mauvaise habitude et qu'ils n'apprennent rien avec :

https://www.cahiers-pedagogiques.com/les-eleves-face-a-lia-entre-seduction-et-inquietudes/

Autant l'IA peut être utile pour accomplir des tâches simples et répétitives, identifier des tendances, traiter un grand nombre de données, trier des documents et chercher des mots-clés, pour la restauration, l'upscale, l'interpolation, l'application de textures/d'ombres/de lumières, mener des simulations et plein d'autres choses, ce n'est pas un truc qui devrait être traité comme un substitut autosuffisant au travail artistique, informatique et intellectuel ou comme un simple jouet.

[Byaku]

En parlant d'Adobe Acrobat Reader, je ne la retiens pas celle-ci... 

A chaque fois que depuis mon smartphone je télécharge des pdf depuis mes mails, ou que j'envoie par mail des pdf  il ne peut pas s'empêcher de me sortir une notification qui me dit "parlez avec vos documents"... 

Mais "ta gueule connard !" Oui c'est à toi que je m'adresse