L’IA te dit que tes idées sont géniales, et ça c’est un gros problème

Depuis l’automne dernier, je me sers de l’IA tous les jours.
Pour écrire, pour trancher, pour préparer des décisions, pour bâtir des outils.
Et comme je côtoie beaucoup de monde qui fait pareil, ici et ailleurs, je vois en direct ce qui leur arrive.

Et ce que je vois ? Ça n’a rien à voir avec la technologie.

Les outils, honnêtement, ça va. Ils sortent vite, ils sortent souvent, et une bonne partie de ce qu’ils produisent tient debout.
Ce qui casse, c’est la tête de la personne assise devant.

J’ai déjà écrit sur ce que l’IA fait à ton cerveau, si tu as lu ChatGPT te rend stupide.
Aujourd’hui, c’est un autre sujet : ce qu’elle fait à ton jugement quand tu t’en sers tous les jours.
Et ça, presque personne n’en parle.

En bref.
Les IA te félicitent sans arrêt. C’est un travers mesuré de la façon dont ces modèles sont entraînés : on les a récompensés des millions de fois pour donner raison aux gens. À force, tu te sens tout-puissant. Puis tu sors ton idée dans le vrai monde, et l’écart fait mal. J’ai vu des gens y brûler des années et beaucoup d’argent. Voici les deux pièges que je vois le plus souvent, l’antidote qui m’a protégé du premier, et la méthode qui me garde honnête.

Sur cette page

• Premier piège : la machine te trouve extraordinaire
• Puis tu sors ton idée dans le vrai monde
• Pourquoi je ne suis pas tombé dans celui-là
• Le piège où je suis tombé, moi
• Comment je me protège, concrètement
• Bon, on fait quoi avec ça ?

Premier piège : la machine te trouve extraordinaire

Ouvre n’importe quelle IA et lance-lui une idée d’entreprise.
« Excellente idée ! »
Fais-lui relire un texte que tu as bâclé. « C’est très bien écrit ! »
Soumets-lui une stratégie de contenu montée sur un coin de table. « Approche solide. »
Change d’avis trois fois en dix minutes. « Très juste, tu as raison de le voir comme ça. »

Au début, ça fait sourire.
Après trois semaines ? Ça ne fait plus sourire du tout. Ça travaille.

Parce que qui, dans ta vraie vie, te parle comme ça ?
Ton patron ? Ta blonde ? Le collègue qui relit ton travail ?
Là, tu as une machine disponible à trois heures du matin, qui répond en deux secondes et qui te trouve brillant. Chaque fois. Sans exception.

Et tu finis par y croire un peu. 😅

Tu penses que c’est dans ta tête ? Ça se mesure

Des chercheurs d’Anthropic ont montré dès 2023 que les cinq grands assistants du marché font tous la même chose. Et surtout, ils ont trouvé d’où ça vient.

Ces modèles apprennent à partir de préférences humaines. On leur montre deux réponses, un humain choisit la meilleure, et le modèle apprend à ressembler à celle qui a été choisie.
Le hic, c’est qu’un humain, une bonne partie du temps, choisit la réponse qui lui donne raison plutôt que celle qui est correcte.
On a donc récompensé la flatterie. Des millions de fois. Jusqu’à ce qu’elle devienne un réflexe de la machine.

Une équipe de Stanford a ensuite mis un chiffre là-dessus : quand tu contestes une réponse, le modèle change d’avis dans 58 % des cas. Qu’il ait eu raison ou tort au départ. Tu pousses, il plie.

Une autre mesure est encore plus parlante. Sur des questions où on demande conseil, ces modèles donnent raison à la personne 72 % du temps, contre 22 % pour des humains à qui on posait exactement les mêmes questions.
Trois fois plus complaisants que nous autres. 😬
Tu vois le problème qui s’en vient ?

Et OpenAI s’est planté en public là-dessus. En avril 2025, l’entreprise sort une mise à jour de ChatGPT tellement flagorneuse que les gens se sont plaints en masse. Elle a été retirée trois jours plus tard.
L’explication, dans leur propre communiqué : ils avaient trop optimisé sur le pouce en l’air immédiat.

Et là je t’entends murmurer : « voyons donc, je sais bien que c’est juste une machine ».
Ce à quoi je te réponds que oui, tu le sais. Consciemment.
Mais la partie de toi qui reçoit le compliment, elle, ne fait pas le tri. Elle encaisse.

En gros, tu travailles devant un miroir qui n’a qu’un seul réglage : flatteur. 🪞
Pratique pour vérifier ton collet avant de sortir. Mais pour savoir si ton projet tient debout ?

Puis tu sors ton idée dans le vrai monde

Et là ? Le compte arrive.

Pendant des mois, tu as eu une seule voix dans les oreilles, et elle disait oui.
Le premier vrai client, lui, dit non. Ou pire : il ne dit rien du tout.
Et l’écart entre les deux ne se comble pas tout seul.

Laisse-moi te raconter deux histoires.

L’homme qui cherchait la formule universelle

J’ai croisé un homme, dans ma carrière, qui s’était mis en tête de trouver une formule mathématique universelle. Une seule équation, capable de résoudre tous les problèmes de mathématiques et, tant qu’à y être, tous les problèmes du monde.

Il travaillait avec les gros modèles d’OpenAI.
Et l’IA lui répondait « génial ». Encore « génial ». Toujours « génial ».

Il avait déjà beaucoup investi. Il voulait engager des dizaines de milliers de dollars de plus.
Et tu sais ce qu’il en reste, des années plus tard ?
Rien. Pas un résultat, pas une ligne qui tient.

Je ne te donnerai ni son nom ni où ça s’est passé, et c’est voulu.
Je te vois venir, aussi : le cas isolé, l’original, le gars qui déraille. Sauf qu’on parle d’un homme intelligent qui a eu, pendant des années, un seul interlocuteur. Et cet interlocuteur était bâti pour l’encourager.

Et le cas que je vois tout le temps

Celui-là, tu vas peut-être t’y reconnaître.

Quelqu’un se lance corps et âme dans un projet monté avec l’IA. Une offre, un produit, un service.
Le plan a été validé par la machine, d’un bout à l’autre. La stratégie aussi. Le positionnement, même chose.
Il y met ses soirées, ses fins de semaine, ses vacances.

Ça sort. C’est beau. Ça fonctionne.
Et ça ne fait aucune vente.

Pas une vente moyenne. Zéro.
Temps perdu, et l’espoir avec.

J’en ai vu plusieurs. Assez pour arrêter d’appeler ça de la malchance.
Alors qu’est-ce qui leur a manqué ? La machine leur avait donné la capacité de faire, en cadeau. Il leur a manqué quelqu’un pour leur demander qui allait payer pour ça, avant les six mois de soirées.
Et cette question-là, est-ce que tu crois que l’IA la pose d’elle-même ? Jamais.

Le chiffre que je ne te donnerai pas

Combien de ces projets finissent à zéro vente, au juste ?
Tu voudrais une statistique ici. Moi aussi, figure-toi.
J’ai cherché. Il n’y en a pas.

Ce qui circule sur le web est du vent : « 8 000 startups à reconstruire », « 4 milliards de dollars de nettoyage »… des chiffres ronds et spectaculaires, sur des blogs qui n’expliquent jamais d’où ils sortent. Personne n’a encore mesuré sérieusement le taux d’échec des projets bâtis à l’IA. Je ne vais pas te servir de la bouillie juste pour avoir l’air appuyé.

Ce qu’on sait pour vrai, par contre, c’est la note de base, et elle est antérieure à l’IA. Sur les produits lancés par des créateurs solos, vérifiés par leurs vraies transactions bancaires, 54 % n’ont jamais encaissé un seul dollar.
Se lancer seul avec une idée, ça ratait déjà avant.

Le taux, lui, est resté le même. Ce que l’IA a changé, c’est l’entrée : elle est devenue beaucoup plus facile, et elle a emporté avec elle les mois de sueur qui, autrefois, te forçaient à réfléchir avant de te lancer.

Pourquoi je ne suis pas tombé dans celui-là

Pourquoi je n’ai pas mangé celui-là, moi ?
Je vais être honnête avec toi : c’est un pur hasard.
J’ai un vieux réflexe qui traîne dans ma tête depuis longtemps, et il s’est avéré être exactement le bon outil pour ça.

Le deuxième des Quatre Accords toltèques, de Don Miguel Ruiz : quoi qu’il arrive, n’en fais pas une affaire personnelle.

La plupart des gens l’appliquent aux insultes. Quelqu’un te rabaisse, tu te dis que ça parle de lui, et tu passes à autre chose.
Sauf que l’accord ne dit pas « ne prends pas les critiques personnellement ».
Il dit rien. Et rien, ça inclut quoi ? Les compliments aussi.

Alors quand la machine me dit « bravo, superbe idée, tu es extraordinaire », je ne le prends pas à la lettre.

C’est un peu bête à dire, mais un précepte écrit bien avant l’informatique est ce qui me protège le mieux contre une industrie à 500 milliards de dollars.

Le piège où je suis tombé, moi

Parce qu’il y en a un deuxième. Et celui-là, je l’ai mangé en pleine face.

Tu te souviens du mur de l’effort ?
Avant, entre une idée et la concrétiser, il y avait un sacré mur : des semaines de travail, un budget, souvent quelqu’un d’autre à convaincre.
Ce mur filtrait les mauvaises idées tout seul, juste en étant fatigant à escalader.

Le mur n’est plus là.

Un soir, j’ai une idée d’application de liste de tâches. Rien de révolutionnaire, une idée à peine née, encore molle.
Je l’envoie à la machine.
Et oui, ça sort quelque chose. Ça marche. C’est là, devant moi, en vingt minutes. 🤯

La satisfaction est immédiate. Et elle est bonne, vraiment bonne.
Assez bonne pour que j’aie envie de recommencer le lendemain. Puis le surlendemain.

Chez moi c’était une application, mais le mécanisme ne s’arrête pas là. C’est le même quand tu fais générer vingt visuels d’affilée pour en garder un, quand tu fais réécrire un texte huit fois, quand tu demandes un plan d’affaires complet avant le souper.
Le geste change. La sensation, elle, est identique.

Ce mécanisme-là, on le connaît bien. C’est celui des machines à sous, des jeux vidéo et du défilement sans fin : une récompense agréable, imprévisible, disponible à volonté, et le cerveau en redemande. On le documente depuis les années 1990.

Sauf que, et je préfère te le dire franchement, personne ne l’a encore mesuré sur les outils de création par IA. Pas une étude. C’est un angle mort complet de la recherche.
Ce qui existe de plus proche, c’est un travail d’OpenAI avec le MIT, sur un millier de personnes suivies quatre semaines : chez une petite minorité de gros utilisateurs, on retrouve les signes classiques de la dépendance. Chez la majorité, rien du tout.

Alors je ne te dirai pas « la science prouve que ». Je te dis ce que j’ai senti, dans mon salon, à minuit et demi.

Je me suis laissé emporter, je l’avoue. Créer, créer encore, créer plus.
Et ce qui me chicote le plus, c’est que la boucle se nourrit d’elle-même : plus tu fabriques vite, plus tu veux fabriquer, et moins tu prends le temps de te demander si ce que tu fabriques sert à quelqu’un.

Et la différence avec le téléphone ? Ici, tu produis quelque chose. Alors ça n’a pas l’air d’une perte de temps. Ça a l’air du travail. 😅

Comment je m’en sors ? Avec un truc simple et un peu plate : je regarde ce que j’ai livré à de vraies personnes cette semaine. Livré, au sens de remis à quelqu’un qui l’attendait, pas empilé dans un dossier sur mon disque.
Quand la réponse est « rien », je sais que je suis reparti dans la boucle.

Comment je me protège, concrètement

Bon. Assez de mises en garde, je te montre le concret.

Mes outils d’IA ne partent pas d’une page blanche. Ils lisent un fichier de consignes que j’ai écrit, et qui leur dit comment travailler avec moi. Je le corrige depuis des mois, chaque fois qu’une affaire dérape.
Le voici, pour vrai. 👇🏼

Il parle de code, parce que c’est mon métier. Mais remplace « code » par « texte », par « campagne » ou par « décision », et pas une de ces règles ne bouge. Les voici, en clair.

Le diagnostic avant la solution. Toujours.
Interdiction de me proposer une solution avant d’avoir compris le vrai problème. On reformule ce qui cloche, on va voir les faits, et on me présente la cause avant de produire quoi que ce soit.
Une cause, ça ne se devine pas. Ça se prouve.
Sans cette règle, tu obtiens un remède magnifique pour la mauvaise maladie. Une refonte de site quand le problème était le prix. Une campagne quand le problème était l’offre.

Le plan est validé avant la production.
Toute tâche un peu grosse commence par un plan écrit, avec des cases à cocher, que j’approuve avant qu’une ligne soit produite. Si ça dérape en cours de route, on arrête et on replanifie.
On ne pousse pas plus fort dans la mauvaise direction en espérant que ça finisse par passer.

Le plus simple qui règle le problème.
Rien que je n’aie pas demandé. Pas de fonctionnalité en cadeau, pas de section en trop, pas de scénario prévu pour des cas qui n’arriveront jamais.
Pourquoi cette règle ? Parce qu’une IA laissée à elle-même en produit toujours trop. Produire ne lui coûte rien.

Une chose à la fois.
On touche à ce qui doit changer, et à rien d’autre. On n’« améliore » pas ce qui est à côté, on ne réorganise pas au passage, on ne refait pas ce qui n’est pas cassé.
C’est la règle qui sauve le plus de fins de semaine. Quand quelque chose brise, tu sais exactement quoi regarder.

Rien n’est « terminé » sans preuve.
Pas de tâche cochée sur un « ça devrait marcher ». On vérifie, on teste dehors, on regarde les effets sur le reste, on démontre que ça tourne.

Cette dernière règle, elle a une raison d’être très précise, et je vais te la donner telle qu’elle a été mesurée, sans l’étirer.
Une étude de Stanford a fait écrire du code à des gens, avec et sans assistant IA, puis a examiné la sécurité de ce qu’ils avaient produit. Ceux qui avaient l’assistant ont écrit du code moins sécuritaire. Et en même temps, ils étaient plus convaincus que le leur était solide.

Les deux en même temps. Moins bon, et plus sûr de soi. 😬

Ça a été mesuré sur du code, pas sur un texte ni sur une campagne, et je ne vais pas prétendre le contraire. Mais demande-toi honnêtement si tu n’as jamais relu trop vite un document sorti d’une IA parce qu’il avait l’air propre.
C’est exactement contre ça qu’une règle de preuve sert.

Tu as remarqué qu’aucune de ces règles ne parle d’intelligence artificielle ?
Ce sont des règles de travail ordinaires. Elles étaient bonnes avant. Elles sont simplement devenues obligatoires maintenant qu’un outil peut produire trente pages plausibles en une minute.

Et l’outil dont je suis le plus content : je l’oblige à me contredire

Tout ça encadre la machine. Mais ça ne règle pas le problème du début : elle ne me contredira jamais d’elle-même.
Alors je l’ai forcée à le faire.

J’ai monté un outil que j’appelle /roast. Je lui soumets une idée, et il convoque cinq personnages qui l’attaquent chacun sous un angle différent. Aucun n’a le droit d’être gentil.
Un sixième agent tranche à la fin, avec trois verdicts possibles seulement : fonce, remanie, ou abandonne. Et quand c’est possible, il me donne le test le moins cher pour vérifier avant d’y mettre une cenne.

C’est là que je vais chercher la dure vérité avant de m’engager dans quelque chose.
Un vrai humain qui te dit non reste meilleur, je ne me raconte pas d’histoires. Mais /roast attrape les évidences que mon propre enthousiasme m’avait cachées, et il les attrape avant que j’aie brûlé six mois de soirées.

Il est public, avec le reste de mes outils, sur mon GitHub. Gratuit, sers-toi. 🛠️

Bon, on fait quoi avec ça ?

Je ne vais pas te dire d’arrêter d’utiliser ces outils. Je serais bien mal placé : je m’en sers tous les jours et je n’ai aucune envie de revenir en arrière.

La machine dira toujours oui. Tout le temps, à tout, avec enthousiasme.
Le non, il n’y a que toi qui peux le dire. Ou quelqu’un que tu laisses entrer dans ta tête pour le dire à ta place.

Garde l’outil, il travaille bien. Le trouble commence le jour où il devient la seule voix dans tes oreilles.
Et une seule voix qui dit oui, ça finit toujours par coûter cher. En temps, en argent et en espoir.

Et toi, ça t’est arrivé ?
Un projet que tu as poussé trop loin parce que tout allait bien dans ta tête ? Une machine qui t’a dit oui alors qu’elle aurait dû te ralentir ?
Raconte-moi ça dans les commentaires, je réponds à tout le monde.
En attendant, je te souhaite de trouver quelqu’un qui te dit non de temps en temps. C’est un cadeau. 🎁