Je viens de publier récemment l’article « J’hallucine ! L’IA se trompe et c’est volontaire !« .

Dans cette partie 2, je vous partage un nouvel article publié par The Conversation : « ChatGPT : la proposition d’OpenAI pour éviter les hallucinations pourrait tuer son propre chatbot« .

Il va dans la même direction que ce que j’ai partagé auparavant mais va plus loin dans l’explication mathématique et scientifique ce qui fait de lui un article intéressant à lire pour ceux qui veulent creuser leur compréhension de ce qui se cache derrière la mise en œuvre d’un LLM (Large Language Model).

Ce que j’ai retenu :

• Le fait de produire une phrase par prédiction mot à mot crée un biais favorisant l’hallucination
• Mettre en avant la probabilité que la réponse apportée soit vraie est facilement implémentable mais coûterait plus cher en calculs
• Si les humains sont informés de cette incertitude, cela va générer un sentiment de doute contre productif contre l’outil
• Les sites de comparaison des IA ne font pas la différence entre un moteur qui ne sait pas et un moteur qui se trompe ce qui fait qu’il est plus rémunérateur de deviner la réponse, même fausse, que de clamer son doute. Il faudrait donc revoir les modalités de calcul.
• Même en faisant tous les efforts possibles, on n’évitera pas les hallucinations. On va juste décaler le problème vers un meilleur compromis.

N’hésitez pas à lire l’article en détails. Cela vaut le coup.

Maintenant que j’ai écrit cet article sans aide en utilisant uniquement mon cerveau, voici l’analyse de Copilot de cet article. Il est toujours très intéressant de voir à quel point cette technologie se débrouille bien dans cet exercice. Pour autant, je ne vais pas artificiellement créer dans ce blog des articles générés par l’IA. L’humain, ma personne, prévaudra.

Lire la suite

Vous le savez probablement, les LLM ou « Large Language Model » correspondent à une branche de l’IA avec laquelle l’humain dialogue avec la machine en langage naturel. On lui pose une question comme on la poserait à un humain et elle répond comme si c’était un humain. Sa réponse est toujours impeccable en termes de construction de phrase et d’orthographe ce qui fait qu’elle est toujours très convainquante. Mais parfois (souvent ?), elle se trompe dans sa réponse et affirme quelque chose de faux. C’est pour ça que l’on dit qu’il faut toujours vérifier les réponses données et ne pas prendre les réponses pour argent comptant.

Ceci est dû à la manière dont le LLM est programmé. L’enchainement des mots qui constituent des phrases et donc la réponse ne sont que des calculs statistiques. Le système calcule la probabilité du prochain mot à mettre dans la phrase selon le contexte et choisit le mot le plus adapté et ainsi de suite. Mais en réalité, il ne comprend pas le sens de cet enchainement de mots. C’est là qu’il peut se tromper.

Un article publié dans Futura Science révèle que le moteur pourrait intégrer dans son algorithme un score d’incertitude ce qui lui permettrait de dire « Je ne sais pas » si ce score est élevé ou émettre des réserves si le score est intermédiaire. Cela permettrait d’avoir des réponses plus fiables, mais dans un contexte de concurrence, ce n’est pas souhaitable.

En effet, si votre moteur d’IA émet des doutes sur sa réponse, la perception du public sera de douter de la pertinence du moteur et donc de se tourner vers un moteur concurrent plus confiant, même s’il se trompe plus. C’est totalement contre-productif, mais c’est comme ça que l’humain fonctionne. Avoir une IA plus fiable ferait donc fuir les clients ! J’hallucine ! Mais c’est vrai.

En plus, vous avez généralement la possibilité de régler la température de la réponse donnée. Cette température permet d’intervenir sur la probabilité du choix des mots afin que la réponse soit plus précise ou plus créative selon le paramètre. L’aspect créatif est intéressant car il permet d’explorer des pistes inhabituelles et donc intéressantes mais avec des risques d’hallucination plus importants.

Il reste toutefois un moyen de s’en sortir de manière acceptable. Il suffit que dans votre question, vous donniez des précisions sur la manière dont il doit répondre et par exemple lui demander que s’il ne sait pas, qu’il le dise clairement plutôt que de trouver une réponse coûte que coûte.

La qualité de la réponse est souvent directement dépendante de la qualité de la question que vous lui posez.

Pour en savoir plus, lisez l’article de Futura Science, « Pourquoi le créateur de ChatGPT n’a aucun intérêt à empêcher son chatbot d’halluciner« .

À la veille de l’arrivée de GPT‑5, Sam Altman, patron d’OpenAI, est très inquiet : « Qu’avons-nous fait ? » s’interroge t’il. La nouvelle IA échappe au contrôle de ses propres créateurs. Il compare les tests internes à l’ambiance du projet Manhattan, le projet qui a abouti à la bombe nucléaire. Il évoque un malaise profond, une peur presque existentielle face à une technologie dont la puissance menace de dépasser les limites morales et politiques établies.

GPT‑5 ne serait plus une simple évolution, mais une bascule vers un monde où l’intuition humaine ne suffit plus. Dans ce climat de tension extrême, Sam Altman incarne le paradoxe d’un visionnaire hanté par les conséquences de son œuvre, pris dans un tourbillon d’ambition, de responsabilité et d’effroi.

Il qualifie GPT‑4 d’« embarrassant » en regard de ce que GPT‑5 est capable d’accomplir. Là où GPT‑4 représentait déjà une avancée majeure, GPT‑5 incarne une rupture technologique : raisonnement complexe en plusieurs étapes, mémoire étendue, traitement simultané de texte, image, son et données, et surtout une capacité à fonctionner comme un agent autonome, capable d’exécuter des tâches sans supervision humaine directe. Cette évolution ne se limite pas à une amélioration technique. Elle redéfinit les contours mêmes de l’intelligence artificielle, au point que ses créateurs eux-mêmes peinent à en anticiper les implications.

Pour en savoir plus, lisez l’article « « Qu’avons-nous fait ? » : GPT-5, un modèle trop puissant ? Les aveux déroutants du patron d’OpenAI Sam Altman sur Science et Vie. Certains phrases de cet article ont été écrits par une IA.

Le 6 janvier 2025, j’ai publié « En 2025, l’IA va t’elle tuer l’IA ?« .

Nota : IA ou Intelligence Artificielle est utilisé par le grand public par abus de langage pour caractériser les LLM ou Large Language Models qui sont l’une des composantes de l’Intelligence Artificielle permettant le dialogue interactif comme on le ferait avec un humain.

Dans cet article, j’évoquais le risque que l’IA devienne le bourreau de l’IA car à terme les données d’entrainement de l’IA viendraient des IA elles-mêmes ce qui rendrait plus difficile la capacité de différencier le vrai du faux.

Je ne croyais pas si bien dire puisque dans Futura Science, l’article « Elon Musk alerte : l’intelligence artificielle est à court de connaissances humaines » publié le 16 janvier 2025 confirme ces craintes. Il n’y a plus assez de données disponibles pour entrainer les moteurs. Il faut donc fabriquer des données supplémentaires par IA, contrôlées par une autre IA pour vérifier leur qualité.

En d’autres termes, toutes les connaissances de l’humanité et publiées sur Internet ont été consommées par l’IA en moins de 2 ans et sont insuffisantes pour le développement de l’IA elle-même. Cela fait réfléchir !

Ce qui fait réfléchir également, c’est que dans le même temps, les syndicats d’auteurs s’inquiètent que leurs textes, soumis aux droits d’auteurs, aient été utilisés pour entrainer ces moteurs d’IA. Une goutte d’eau comparée à toutes les connaissances de l’humanité.

Il va donc falloir trouver un autre moyen pour permettre à l’IA de se développer tout en améliorant la qualité et la véracité des réponses. Rappelons que déjà, au moins 20% des réponses données sont fausses et parfois peuvent monter jusqu’à 80% dans certains contextes. Il y a encore de nombreux challenges à surmonter !

En attendant, nous pouvons toujours continuer à utiliser l’IA tout en restant vigilants et vérifier systématiquement les réponses qu’il nous donne avant de les exploiter.

Pour en savoir plus, lisez l’article de Futura Science, « Elon Musk alerte : l’intelligence artificielle est à court de connaissances humaines » et relisez ma publication « En 2025, l’IA va t’elle tuer l’IA ?« 

Depuis le 7 juillet 2024, la nouvelle loi GSR2 (General Safety Regulation 2) impose aux constructeurs automobiles d’ajouter de nouvelles « aides à la conduite ».

Ces aides consistent à surveiller votre vitesse et vous alerter si vous dépassez la vitesse autorisée.

Votre vitesse sera constamment enregistrée dans une boite noire ce qui permettra aux autorités de vous contrôler et vous verbaliser a posteriori. Grace à cette boite noire, en cas d’accident, votre assurance pourra également analyser votre conduite et potentiellement ne pas vous indemniser.

Vous pouvez désactiver ces fonctionnalités de surveillance au démarrage de la voiture. Mais vous devez savoir que la loi impose également la réactivation de ces services à chaque démarrage. Qui va penser, à chaque démarrage, à désactiver la surveillance ? Quid de votre assurance si vous avez un accident avec la surveillance désactivée ?

Une nouvelle loi, appellée Data Act, imposera les entreprises fabriquant des objets connectés à partager les données générées par ces objets connectés. Les voitures en font partie. Il faudra certes le consentement du conducteur. Mais les assurances trouveront certainement un moyen très convainquant d’imposer cette autorisation à ses clients. Quant aux autorités, elles pourront invoquer « l’urgence publique » pour accéder gratuitement à toutes vos données.

Nous démarrons la nouvelle ère de l’intelligence artificielle qui pourra contrôler tous nos faits et gestes et nous verbaliser au moindre écart. Et ce n’est pas futuriste. C’est maintenant, applicable depuis le 7 juillet 2024.

Pour en savoir plus, je vous invite à lire l’article d’auto-moto : « Boîte noire, limiteur de vitesse intelligent, de nouvelles assistances désormais dans toutes les voitures neuves« .

En ce début d’année 2023, un grand changement s’opère dans ma vie professionnelle. Je clôture un peu plus de 10 années de coaching Agile à l’échelle pour aller de l’autre coté de la barrière. Je quitte Renault Digital et son Pole Agile pour devenir Large Program Manager dans le groupe Renault. Un changement dans la continuité puisque je vais rester dans des contextes à l’échelle.

Mon nouveau poste consiste à piloter des grands programmes transverses qui impactent de nombreuses Directions de l’entreprise. Plutôt que de lancer des initiatives individuelles en silo dans chaque Direction, je fais en sorte que ces initiatives se regroupent en une plus large afin d’aller ensemble plus loin et surtout de manière cohérente. C’est l’optimum global plus que l’optimum local. Et surtout, je vulgarise la complexité des sujets pour faciliter son appréhension et l’adoption par chacun.

Cette activité est au cœur de la stratégie Renaulution de Luca de Meo, le troisième et dernier volet, appelé Révolution. Je vais devoir appréhender à la fois l’amélioration de ce qui est déjà en place mais aussi prendre en compte les nouveaux usages car, si vous n’avez pas tout suivi concernant Renault, l’entreprise se transforme pour passer de constructeur de voitures à une Tech Company qui vend du service autour du véhicule. Cette stratégie anticipe l’évolution du marché automobile qui passe d’un marché de propriétaires de voitures à un marché d’utilisateurs de voitures qui ne souhaitent plus forcément acheter leur véhicule mais plutôt avoir à disposition plusieurs véhicules selon leurs différents usages.

Tout cela présage pour les trois à cinq prochaines années un changement profond du système d’information de l’entreprise, d’où le terme de Tech Company. Le Digital est au cœur de la stratégie.

Ce changement va être l’occasion pour moi de revenir un peu plus souvent sur mon blog pour lequel j’ai peu contribué ces derniers temps. Cela va commencer par la mise en page qui a été cassée par l’une des mises à jour de l’outil que j’utilise et puis la publication d’un certain nombre d’articles sur les énergies renouvelables qui est un sujet que je suis avec grande attention depuis que j’ai installé des panneaux solaires chez moi. Ne vous inquiétez pas, je continuerais aussi à parler d’Agile…

Je vous souhaite une heureuse année 2022 ! L’année dernière, je disais déjà :  » Il y a toujours un message sous jacent qui prédomine : l’année qui se termine a été pourrie et l’on espère que l’année suivante sera meilleure ».

L’année 2020 a été une très bonne année pour moi (voir l’article). Et bien l’année 2021 aussi ! Et l’année 2022 s’annonce bien. Il n’y a pas de mal à se faire du bien alors j’en profite et le partage tant que les bonnes années s’enchaînent.

Alors certes, j’ai terminé l’année et démarré la nouvelle avec le Covid dans toute la famille et les repas de Noël et du nouvel an ont été annulés. Mais ce n’était pas une forme grave qui nécessite  d’aller à l’hôpital. Alors je ne me plains pas. Coté blog, je n’ai pas beaucoup publié, tellement occupé par mes autres priorités. En contrepartie, voici les belles choses que j’ai réalisées.

Lire la suite

Voici un gros coup de gueule dans cet article. De qui se moque t’on chez Microsoft ?

Windows 10 était un système accompli en termes d’ergonomie avec certes quelques lacunes, comme la gestion du Bluetooth pas aussi ergonomique que celle du Wifi, ou l’absence d’onglets dans l’explorateur Windows. Mais peu ou prou, on avait ce qu’il faut.

Alors quand Windows 11 sort, on s’attend forcément à une grosse évolution. Mais là, non. C’est tout le contraire. Refonte complète de la barre de taches et du menu démarrer. En clair, tout ce qui faisait la force de Windows 10 a purement et simplement été supprimé ! Et ce n’est pas une histoire de paramétrages. Ce n’est tout simplement plus possible d’utiliser Windows comme avant. Au revoir l’ergonomie ! Au revoir l’efficacité ! C’est là qu’on se rend compte que cela ne paraissait pas grand chose sur Windows 10, mais c’était tout simplement énorme !

On pourrait se consoler avec les grandes nouveautés de Windows 11. Mais là aussi, on est aux abonnés absents. Le bluetooth est encore moins accessible qu’avant, toujours pas d’onglets dans l’explorateur Windows. Uniquement des évolutions cosmétiques des applications système. Et là grande nouveauté annoncée, le support des applications Android est repoussé à 2022.

Des amis m’ont rappelé que Microsoft avait l’habitude de foirer une version de Windows sur deux (souvenez-vous de Windows 95 et Windows 8). Et bien Windows 11, c’est cette version !

Suis-je le seul à m’en plaindre ? Suis-je devenu grognon ? Pas vraiment. Lisez par exemple l’article du monde informatique « Windows 11 : Barre des tâches et menu démarrer appauvris » qui liste tous les appauvrissements du système… euh évolutions. Sans oublier qu’à chaque nouvelle version de Windows, les drivers d’imprimante ne fonctionnent plus. Cette version ne déroge pas à la règle.

En résumé, il est urgent de ne pas se presser ! Ceci explique peut-être pourquoi, « Windows 11 : il n’est plus possible d’acheter une licence, une première en 36 ans d’existence« . Courage. Fuyez !

Edit 3/11/2021 :

Quelques jours plus tard, je continue à enchaîner les déconvenues. Tout est raté. Partout ! Voici quelques exemples supplémentaires :

Dans l’explorateur Windows, il y a 2 menus clic droit. Le premier affiche une liste d’options Windows 11 dont le dernier choix est Afficher plus d’options. Ce dernier choix permet d’accéder au menu clic droit de Windows 10 avec… les mêmes fonctions et d’autres supplémentaires dont la suppression d’un fichier. Maintenant, pour supprimer un fichier, il faut passer par 2 menus.

Le menu Démarrer est une catastrophe lui-aussi. Impossible à redimensionner, impossible à configurer. Il y a la zone des programmes épinglés avec une liste imposée par Microsoft mettant en avant les produits de Microsoft et de ses partenaires. Et une zone Nos recommandations qui n’affiche rien… probablement parce que j’ai du désactiver quelque chose dans les paramètres. Cette zone qui représente la moitié de l’affichage reste présente et vide. Il y a le bouton toutes les applications qui permet d’afficher les programmes par ordre alphabétique, comme sur Windows 10. Mais l’écran qui permet de créer des groupes d’applications afin de les ranger par thèmes ou types d’usages est supprimé. Dommage, je n’utilisais que celui-là.

Si vous voulez comme moi dire à Microsoft tout le mal que vous pensez de cette mise à jour, il existe un moyen de leur envoyer des commentaires : le hub des commentaires. Faites-vous plaisir.

Xavier Niel fait partie des patrons français incontournables car il est probablement l’un des plus décalés. Ses méthodes de travail sont innovantes et cela marche. Il est régulièrement élu comme l’un des patrons les plus aimés des français. J’ai très souvent parlé de lui sur mon blog ayant partagé de nombreuses histoires autour de Free et de la maison mère Iliad dont il est le patron.

Aujourd’hui, c’est un patron qui s’est diversifié dans de nombreux secteurs et citer tous ses succès prendraient des heures. Il continue à lire et traiter personnellement tous les mails qu’il reçoit. Si si. J’ai testé pour vous. Il répond en moins de 24 heures.

Comment fait-il pour gérer toutes ses affaires ? C’est une mécanique bien huilée qui est expliquée dans cet article de Capital « Xavier Niel : les coulisses de son management commando » que je vous invite à lire dès maintenant.

Il y a tout juste un mois, le 11 mars, je faisais un article sur l’incendie d’OVH où je parlais de la nécessité d’avoir un PRA (Plan de Reprise d’Activité). Que de bonnes paroles lorsqu’on n’y connait pas grand chose.

Jamespot a su saisir l’occasion de cet événement pour mettre en valeur l’efficacité de leur Plan de Reprise d’Activité qui a permis de remettre en service rapidement les sites de leurs clients. Un exemple pratique de ce qu’il faut mettre en place.

Pour en savoir plus, lisez l’article de LeMag : « Incendie OVHcloud : comment Jamespot a sauvé 130 000 utilisateurs grâce au PRA« .