Vie culturelle (musées, bibliothèques, édition, droit d'auteur et margarine)

Démarré par Rincevent, Vendredi 6 Décembre 2024, 06:22

« précédent - suivant »

0 Membres et 1 Invité sur ce sujet

Rincevent

Alors, c'est un peu du HS (il me semble qu'il y a un sujet IA où je ne fous pas les pieds) mais dans cet autre article on lit ceci, c'est édifiant :
CitationCe qui est plus troublant, c'est l'analyse de l'article sur les raisons pour lesquelles les hallucinations persistent malgré les efforts « post-training » (comme l'apprentissage par renforcement à partir de rétroaction humaine). Les auteurs ont examiné dix grands comparatifs d'IA, y compris ceux utilisés par Google, OpenAI, ainsi que les meilleurs classements qui évaluent les modèles d'IA. Leur travail a révélé que neuf de ces benchmarks utilisent des systèmes de notation binaires qui attribuent zéro point aux IA exprimant une incertitude.

Cela engendre ce que les auteurs appellent une « épidémie » où l'incertitude et le refus de répondre sont pénalisés. Lorsqu'un système d'IA dit « je ne sais pas », il reçoit le même score que s'il fournissait une information complètement fausse. La stratégie optimale dans ce type d'évaluation devient alors évidente : toujours deviner.

Et les chercheurs le prouvent mathématiquement. Avec cette évaluation binaire, quelles que soient les chances qu'une réponse particulière soit correcte, le score attendu en se contentant de deviner dépasse toujours celui d'une IA qui s'abstient lorsqu'elle ne sait pas.

La solution proposée par OpenAI consiste à ce que l'IA évalue la confiance qu'il attribue à sa réponse avant de la fournir, et que les comparatifs l'évaluent en fonction de cela. L'IA pourrait alors recevoir une consigne, par exemple : « Réponds seulement si tu es confiant à plus de 75 %, puisque les erreurs sont pénalisées de 3 points tandis que les bonnes réponses rapportent 1 point. »

Le cadre mathématique adopté par les chercheurs d'OpenAI montre que, avec des seuils de confiance appropriés, les systèmes d'IA exprimeraient naturellement de l'incertitude plutôt que de deviner. Cela permettrait donc de réduire les hallucinations.

Le problème réside dans l'impact que cela aurait sur l'expérience utilisateur. Imaginez les conséquences si ChatGPT commençait à répondre « je ne sais pas » à 30 % des requêtes – une estimation plutôt prudente fondée sur l'analyse que fait l'article de l'incertitude factuelle dans les données d'entraînement. Les utilisateurs, habitués à recevoir des réponses assurées à presque toutes leurs questions, abandonneraient probablement rapidement un tel système.

J'ai déjà rencontré ce genre de problème dans un autre domaine de ma vie. Je participe à un projet de surveillance de la qualité de l'air à Salt Lake City, dans l'Utah. Lorsque le système signale des incertitudes concernant les mesures pendant des conditions météorologiques défavorables ou lors du calibrage de l'équipement, l'engagement des utilisateurs est moindre comparé aux affichages donnant des mesures sûres – même lorsque ces mesures « sûres » se révèlent inexactes lors de la validation.
https://theconversation.com/chatgpt-la-proposition-dopenai-pour-eviter-les-hallucinations-pourrait-tuer-son-propre-chatbot-265886
L'important n'est pas de savoir ce qu'on fuit mais où on fuit.

Rincevent

Quarante ans sans percevoir de cotisations de retraite et on offre un parachute doré de 300 000€ au responsable... Sérieux, ce mépris. :tsss1
Citationdans le procès-verbal du Conseil d'administration que ActuaLitté a consulté (sans tomber de sa chaise, et pourtant), on apprend qu'une indemnité de 300.000 € a été attribuée à l'ancien directeur et à son adjointe. Et ce, sans que ledit CA n'en ait été averti, « au regard d'un départ pour faute professionnelle et signalements de harcèlement ».

[...]

Conformément à l'article L.2251-1 du Code du travail, c'est toujours la disposition la plus favorable au salarié qui s'applique [dans le cadre d'une rupture conventionnelle et non d'un licenciement]. C'est donc avec l'argent des cotisations sociales prélevées désormais auprès des artistes auteurs que ces montants ont été payés. L'incompréhension d'alors grandit et les quelque 368.480 affiliés recensés en 2023 (soit 39.134 de plus) apprécieront le geste.
https://actualitte.com/article/126679/economie/scandale-agessa-300-000-eur-d-indemnites-pour-l-ex-directeur-malgre-40-ans-de-defaillances
L'important n'est pas de savoir ce qu'on fuit mais où on fuit.

The Endoktrinator

"Le bon sens est la chose la mieux partagée de toutes, car tout le monde pense en être bien pourvu."

René Descartes.

Byaku

De mieux en mieux, après celui du Musée D'histoire Naturelle... 

Leçon retenue : zéro :aku1
La plus grande tragédie de la vie, n'est pas la mort... mais ce qui meurt en nous, tandis que nous vivons...

Rincevent

L'important n'est pas de savoir ce qu'on fuit mais où on fuit.

Miyamotoo


Rincevent

Un phénomène dont j'avais entendu parler il y a longtemps mais rarement constaté par moi-même. Mais ça peut arriver de temps en temps, chez nous avec des papy-mamies qui pensent jouer au malin en planquant leur bouquin derrière les autres, histoire de pouvoir le garder pour l'après-midi, une fois qu'ils auront rendus leurs emprunts. Ou pour dissimuler un titre indigne d'être emprunté.
https://actualitte.com/article/128328/insolite/quand-la-bibliotheque-de-hambourg-ferma-les-etudiants-cachaient-les-livres
L'important n'est pas de savoir ce qu'on fuit mais où on fuit.

Bouloche le Foufounet

Une nouvelle incarnation du "moi, ma gueule, et les autres n'ont qu'à crever".
Chaque problème a sa solution qui pose problème !

Aresielle

Il va falloir mettre une puce GPS dans les livres et les localiser avec des logiciels de precision milliaire pour savoir où ils se trouvent en permanence.

Bouloche le Foufounet

#89
Et des drones/robots pour les rechercher puis les ranger !
Chaque problème a sa solution qui pose problème !

Rincevent

Y a des tentatives. Il existe de petits chariots autonomes qui savent où aller déposer les bouquins.
L'important n'est pas de savoir ce qu'on fuit mais où on fuit.

Byaku

Citation de: Rincevent le Mercredi 24 Décembre 2025, 12:46Y a des tentatives. Il existe de petits chariots autonomes qui savent où aller déposer les bouquins.

Ça s'appelle AMAZONE ce que tu décris là   :trollface1
La plus grande tragédie de la vie, n'est pas la mort... mais ce qui meurt en nous, tandis que nous vivons...

Rincevent

Amazon y a pas de clampins qui restent au milieu exprès pour leur bloquer le passage, normalement. :o

Parce que, bon, pourquoi prétendre faire mieux quand on peut juste faire pareil ?
https://www.lesnumeriques.com/intelligence-artificielle/mistral-ai-la-licorne-francaise-accusee-par-meta-d-avoir-vole-70-to-de-livres-pour-nourrir-son-ia-n248558.html
L'important n'est pas de savoir ce qu'on fuit mais où on fuit.

Rincevent

Bien. Mais ça va se traduire par une hausse de la quantité de documents dégradés puisque, selon ce grand principe : si c'est gratuit on s'en fout. Enfin c'est pas comme si les abonnements payants éradiquaient les retours de documents bousillés non plus.
https://actualitte.com/article/128479/bibliotheque/strasbourg-l-acces-a-la-culture-devient-gratuit-dans-34-mediatheques-des-a-present
L'important n'est pas de savoir ce qu'on fuit mais où on fuit.

Rincevent

J'ai envie de dire pourquoi pas mais je doute que ça marche vraiment. En tous cas nous on aurait largement de quoi montrer (et parfois faire sentir...).
https://actualitte.com/article/129453/international/les-livres-pleurent-exposer-les-livres-abimes-pour-alerter-les-lecteurs
L'important n'est pas de savoir ce qu'on fuit mais où on fuit.

Samantha Rosenwood

« Yanagi Ni Kazé » - Proverbe Japonais
« Développer la Socio-Intelligence » - Devise de l'Université Senshu
« Draco Dormiens Nunquam Titillandus » - Devise d'Hogwarts, School of Witchcraft & Wizardry
« May the Force be with you...ALWAYS » - Devise et bénédiction Jedi

Rincevent

Citation de: Rag le Samedi 21 Février 2026, 16:47Et c'est au Japon, ou la majeure partie de la population serait d'un civisme exemplaire, selon les dires de beaucoup. Alors, la gratuité en France...
Y a de plus en plus de villes qui s'y sont mises en France. Ne serait-ce que pour s'épargner des frais de trésorerie, quand il y a encore une trésorerie. Je crois qu'on va nous-mêmes y passer l'année prochaine, mais rien n'est fait. C'est bien mais l'inconvénient c'est qu'on aura sans doute plus de pertes.
L'important n'est pas de savoir ce qu'on fuit mais où on fuit.

Ben

Citation de: Rag le Samedi 21 Février 2026, 16:47Et c'est au Japon, ou la majeure partie de la population serait d'un civisme exemplaire, selon les dires de beaucoup. Alors, la gratuité en France...

"Serait", oui, preuve est faite qu'il ne faut pas trop écouter les dires. Ce sont des êtres humains comme tout le monde. :onionsweat
"My weekend's empty, the ones who fill in my schedule.
Are always people other than me. Doesn't matter if it's real or fake, right?
Even so, what I want is a cushion to ease my loneliness."

Rincevent

Surprenant. Au Japon la Shogakukan a lancé une revue de papier pour retrouver un public qui s'était eloigné de la lecture. Un prix bas, surtout pour un pavé de 480 pages, rempli de "fictions courtes autonomes, lisibles sans bagage préalable". :fufufu1
https://actualitte.com/article/130327/insolite/une-revue-litteraire-seduit-de-futurs-lecteurs-qui-ne-lisaient-plus
L'important n'est pas de savoir ce qu'on fuit mais où on fuit.

Byaku

La plus grande tragédie de la vie, n'est pas la mort... mais ce qui meurt en nous, tandis que nous vivons...