Vie culturelle (musées, bibliothèques, édition, droit d'auteur et margarine)

[Rag]

les "IA" actuelles ne savent pas raisonner et ne font que générer des phrases et inventer du contenu qui peut souvent être sans queue ni tête, et qu'elles ne vont pas encore chercher des infos sur le net.

Ce n'est plus le cas, de nombreuses IA ont désormais également accès au web et peuvent suivre certaines formes de raisonnement, même s'il n'est pas identique au raisonnement humain. Elles peuvent résoudre des problèmes, faire des inférences logiques et établir des connexions complexes entre concepts.

[Aresielle]

Elle donne la réponse la plus probable statistiquement non? Ce qui rend l'IA fiable c'est la fiabilité des informations qui ont servie à l'entrainer. Mais comme ils ont écumé le net pour ça et que tous les menteurs y ont déversé leur caca on a le résultat qu'on a.

[Rincevent]

Alors, c'est un peu du HS (il me semble qu'il y a un sujet IA où je ne fous pas les pieds) mais dans cet autre article on lit ceci, c'est édifiant :

Ce qui est plus troublant, c'est l'analyse de l'article sur les raisons pour lesquelles les hallucinations persistent malgré les efforts « post-training » (comme l'apprentissage par renforcement à partir de rétroaction humaine). Les auteurs ont examiné dix grands comparatifs d'IA, y compris ceux utilisés par Google, OpenAI, ainsi que les meilleurs classements qui évaluent les modèles d'IA. Leur travail a révélé que neuf de ces benchmarks utilisent des systèmes de notation binaires qui attribuent zéro point aux IA exprimant une incertitude.

Cela engendre ce que les auteurs appellent une « épidémie » où l'incertitude et le refus de répondre sont pénalisés. Lorsqu'un système d'IA dit « je ne sais pas », il reçoit le même score que s'il fournissait une information complètement fausse. La stratégie optimale dans ce type d'évaluation devient alors évidente : toujours deviner.

Et les chercheurs le prouvent mathématiquement. Avec cette évaluation binaire, quelles que soient les chances qu'une réponse particulière soit correcte, le score attendu en se contentant de deviner dépasse toujours celui d'une IA qui s'abstient lorsqu'elle ne sait pas.

La solution proposée par OpenAI consiste à ce que l'IA évalue la confiance qu'il attribue à sa réponse avant de la fournir, et que les comparatifs l'évaluent en fonction de cela. L'IA pourrait alors recevoir une consigne, par exemple : « Réponds seulement si tu es confiant à plus de 75 %, puisque les erreurs sont pénalisées de 3 points tandis que les bonnes réponses rapportent 1 point. »

Le cadre mathématique adopté par les chercheurs d'OpenAI montre que, avec des seuils de confiance appropriés, les systèmes d'IA exprimeraient naturellement de l'incertitude plutôt que de deviner. Cela permettrait donc de réduire les hallucinations.

Le problème réside dans l'impact que cela aurait sur l'expérience utilisateur. Imaginez les conséquences si ChatGPT commençait à répondre « je ne sais pas » à 30 % des requêtes – une estimation plutôt prudente fondée sur l'analyse que fait l'article de l'incertitude factuelle dans les données d'entraînement. Les utilisateurs, habitués à recevoir des réponses assurées à presque toutes leurs questions, abandonneraient probablement rapidement un tel système.

J'ai déjà rencontré ce genre de problème dans un autre domaine de ma vie. Je participe à un projet de surveillance de la qualité de l'air à Salt Lake City, dans l'Utah. Lorsque le système signale des incertitudes concernant les mesures pendant des conditions météorologiques défavorables ou lors du calibrage de l'équipement, l'engagement des utilisateurs est moindre comparé aux affichages donnant des mesures sûres – même lorsque ces mesures « sûres » se révèlent inexactes lors de la validation.

https://theconversation.com/chatgpt-la-proposition-dopenai-pour-eviter-les-hallucinations-pourrait-tuer-son-propre-chatbot-265886

[Rag]

Elle donne la réponse la plus probable statistiquement non? Ce qui rend l'IA fiable c'est la fiabilité des informations qui ont servie à l'entrainer. Mais comme ils ont écumé le net pour ça et que tous les menteurs y ont déversé leur caca on a le résultat qu'on a.

C'est vrai que les IA génèrent des réponses basées sur des données statistiques, et que la qualité des données d'entraînement influence fortement leurs performances. Mais comme l'évoque l'article posté par Rincevent, les IA modernes ne se contentent pas de régurgiter la réponse statistiquement la plus probable, c'est plus complexe.

[Rincevent]

Quarante ans sans percevoir de cotisations de retraite et on offre un parachute doré de 300 000€ au responsable... Sérieux, ce mépris.

dans le procès-verbal du Conseil d'administration que ActuaLitté a consulté (sans tomber de sa chaise, et pourtant), on apprend qu'une indemnité de 300.000 € a été attribuée à l'ancien directeur et à son adjointe. Et ce, sans que ledit CA n'en ait été averti, « au regard d'un départ pour faute professionnelle et signalements de harcèlement ».

[...]

Conformément à l'article L.2251-1 du Code du travail, c'est toujours la disposition la plus favorable au salarié qui s'applique [dans le cadre d'une rupture conventionnelle et non d'un licenciement]. C'est donc avec l'argent des cotisations sociales prélevées désormais auprès des artistes auteurs que ces montants ont été payés. L'incompréhension d'alors grandit et les quelque 368.480 affiliés recensés en 2023 (soit 39.134 de plus) apprécieront le geste.

https://actualitte.com/article/126679/economie/scandale-agessa-300-000-eur-d-indemnites-pour-l-ex-directeur-malgre-40-ans-de-defaillances

[The Endoktrinator]

https://www.leparisien.fr/faits-divers/direct-braquage-au-musee-du-louvre-des-bijoux-voles-les-voleurs-en-fuite-19-10-2025-VJLHIAMSDZB47GFDQ7MP445ARU.php

Bon courage pour réparer la couronne...

"Il y a deux sortes d'économies : celles qui font gagner de l'argent et celles qui en font perdre"

Sacha Guitry.

[Byaku]

De mieux en mieux, après celui du Musée D'histoire Naturelle... 

Leçon retenue : zéro

[Rincevent]

Sagouins.

[Miyamotoo]

Et celui de Limoges !
Un vase chinois inestimable... les vitres n étaient pas protégées...

https://www.lemonde.fr/societe/article/2025/09/04/un-musee-de-limoges-cambriole-le-vol-estime-a-au-moins-6-millions-d-euros_6638888_3224.html

[Rincevent]

Un phénomène dont j'avais entendu parler il y a longtemps mais rarement constaté par moi-même. Mais ça peut arriver de temps en temps, chez nous avec des papy-mamies qui pensent jouer au malin en planquant leur bouquin derrière les autres, histoire de pouvoir le garder pour l'après-midi, une fois qu'ils auront rendus leurs emprunts. Ou pour dissimuler un titre indigne d'être emprunté.
https://actualitte.com/article/128328/insolite/quand-la-bibliotheque-de-hambourg-ferma-les-etudiants-cachaient-les-livres

[Bouloche le Foufounet]

Une nouvelle incarnation du "moi, ma gueule, et les autres n'ont qu'à crever".

[Aresielle]

Il va falloir mettre une puce GPS dans les livres et les localiser avec des logiciels de precision milliaire pour savoir où ils se trouvent en permanence.

[Bouloche le Foufounet]

Et des drones/robots pour les rechercher puis les ranger !

[Rincevent]

Y a des tentatives. Il existe de petits chariots autonomes qui savent où aller déposer les bouquins.

[Byaku]

Y a des tentatives. Il existe de petits chariots autonomes qui savent où aller déposer les bouquins.

Ça s'appelle AMAZONE ce que tu décris là   

[Rincevent]

Amazon y a pas de clampins qui restent au milieu exprès pour leur bloquer le passage, normalement.

Parce que, bon, pourquoi prétendre faire mieux quand on peut juste faire pareil ?
https://www.lesnumeriques.com/intelligence-artificielle/mistral-ai-la-licorne-francaise-accusee-par-meta-d-avoir-vole-70-to-de-livres-pour-nourrir-son-ia-n248558.html

[Rincevent]

Bien. Mais ça va se traduire par une hausse de la quantité de documents dégradés puisque, selon ce grand principe : si c'est gratuit on s'en fout. Enfin c'est pas comme si les abonnements payants éradiquaient les retours de documents bousillés non plus.
https://actualitte.com/article/128479/bibliotheque/strasbourg-l-acces-a-la-culture-devient-gratuit-dans-34-mediatheques-des-a-present

[Rincevent]

J'ai envie de dire pourquoi pas mais je doute que ça marche vraiment. En tous cas nous on aurait largement de quoi montrer (et parfois faire sentir...).
https://actualitte.com/article/129453/international/les-livres-pleurent-exposer-les-livres-abimes-pour-alerter-les-lecteurs

[Rag]

J'ai envie de dire pourquoi pas mais je doute que ça marche vraiment. En tous cas nous on aurait largement de quoi montrer (et parfois faire sentir...).
https://actualitte.com/article/129453/international/les-livres-pleurent-exposer-les-livres-abimes-pour-alerter-les-lecteurs

Et c'est au Japon, ou la majeure partie de la population serait d'un civisme exemplaire, selon les dires de beaucoup. Alors, la gratuité en France...

[Samantha Rosenwood]

Gratuité rime souvent avec embarqué, hélas...