The Coming World: Part 1

English/Francais

The World of Today: The Radium Age of AI

{EN}
I must preface this by saying that to understand my position and not simply paint me as an “AI Hater”, you need to know that 1) I work in the field, I work in HPC supporting AI research and 2) my -entire- issue is with the humans selling GenAI, not with the concept of GenAI itself. And, more to the point, the superscalars driving a mad rush to a precipice on the back of the economy and the gulliblity of the public and industry. Perhaps you’d consider also reading these posts for more context:Neo-Luddite and Le paradoxe de l’automatisation

“I am a dinosaur watching the meteor arrive.”   - Me every day

JUST BELIEVE

When I was young, probably 8 or 9, a friend and I decided we would make bombs in the backyard like the ones we saw on TV. But platique explosif, using Play-Doh and electronic components torn from a walkie talkie. We knew we were not making actual explosives, but as we each built our little device and placed it by the fence to wait and watch, we still got excited that maybe, just maybe, it would somehow work. And we bragged competitively to each other that “mine is going to work!”

We were very young and still full of a giddy imagination that allowed for the idea that the boom might somehow come simply because we willed it to.

This is a very human behavior. But not one that resides only in childish imaginations.

This is how I view the breathless AGI/SI boosters and the superscalars who believe or portray that LLMs will somehow magically evolve into Super Intelligence or Artificial General Intelligence. Who promote the idea that if they just slap on enough bits that look right it will manifest. If they just believe.

Current GenAI is a tool that does some quite impressive and useful things, but within a scope that is far more narrow than its sellers want us all to believe. And with a far shorter runway than they let on. So to overcome this the sellers are trying to bolt on more and more engines in hopes that this will get them into the air and bring about a new generation of agent that is more than just the sum of its training and parameter size, and which will claim them their ultimate prize: SI or AGI or at least something ‘close enough’.

There is little to no evidence that this will actually work.

Simply growing the size and complexity of LLMs, while adding on bits of programming around them [such as so-called ‘thinking’ models which perform a basic logic outline/check as they answer], is not sustainable. And is not enough to win the ultimate prize. But right now it’s the best they have while researchers investigate other avenues of research.

And thus a bubble was made. And the urgent need to pay for it in hopes they can bring their fervent belief to fruition, to achieve an agent that can dominate and displace all others, before that bubble collapses.

THE RADIUM AGE OF AI

In the 1920s and 1930s there was a radium craze that swept over the USA, Japan, Great Britain, and other countries. It epitomized the power of quackery when belief is married to ignorance.

Radium was an amazing new element whose properties seemed magical, if largely misunderstood, by the public. Radium Chloride was discovered by the Curies in 1898 and research on this energy-emitting substance eventually caught the public imagination. So then, of course, Capitalism stepped into the picture to see how it could harness this public interest and fleece some rubes.

This highly toxic element, which emits ionizing radiation, was being ingested, used as a radiant heating source, as a cure-all… it was mad. But the public at large didn’t understand the real risks. Some did, to be sure, and didn’t care because they were convinced, they were believers, others were just wholly ignorant. The gruesome deaths of Marie Curie and Eben Byers from radiation poisoning changed a few minds. It wasn’t until 1938 that government stepped up in the United States and deceptive practices regulations effectively ended this destructive practice.

Fortunately for many, radium was actually too expensive for most fraudsters to actually use and many tonics claiming to contain radium did not. Regardless, there was immense hype. There were many fantastical promises. There was also blatant disregard for public welfare in the name of un-checked enrichment, and it was shoved into product after product.

You undoubtedly see where I’m going with this.

I believe we are in the Radium Age of GenAI.

THE RUSH TO SELL

Despite propping up a chunk of the United States economy like a precarious Jenga piece, current GenAI is not profitable for anyone except Nvidia. My new favorite site: Is AI Profitable Yet

Currently GenAI sellers need to convince you that you ‘need’ more than you do. I’m not here to say you don’t have legitimate needs, this is about a large picture. For some of you, there’s real facility in using these tools for coding and other tasks which it’s relatively good at. And for some of you there’s pressure from the C-suite who are worried they will miss out or fall behind if they don’t become AI-focused, or a so-called ‘AI-First’ company. So the superscalars, bleeding investment capital like a waterfall, need to sell you what you need plus what they need you to need. And then, for good measure, hope and pray they can convince everyone they ‘need’ more. The money pit they’ve dug is very, very deep, and the money Nvidia throws back in to the financial ouroboros that is a Round Trip Financing Loop doesn’t begin to fill the hole back up. They are in a race to ‘win’ before the money runs out and the bubble bursts.

In the meantime, the danger for these superscalars is their not convincing you that you want radium in your breakfast cereal. Their not convincing you that you need a summarization engine in every element of your life as a go-between betwixt you, your words, and the rest of the world. Their not convincing you well enough that you do not need to follow some creative endeavour on your own, but that instead you should just ask a bot to do it and then reap the end rewards. No muss, no fuss, no effort. No brain cells utilized. No skills derived. No knowledge gained.

I am, of course, simplifying this.

Sort of.

The selling of hype I absolutely am not simplifying.

People with a background in software development — generating code to create applications and then validating that code — they’re doing actual work and reaping a tangible benefit. Real, cognitive work is still happening. But the Vibecoder or slop factory looking to make a buck is not doing any of this. And it they can beat you, fair developer, to the punch with a similar application, the end result is they win, you lose. Also eventually lost is the expertise you brought to the better, saner game. Another dinosaur is created, and it’s you. The bulwark against bloated or problematic code is ceded back to the superscalars and you, the dinosaurs, disappear too soon. And more of your kind, as a result, will not be created.

The industry has trained a whole swath of people to carry their water, to shill the idea that “AI in everything” or “AI-First” is an absolute inevitability; They’re telling your boss they have to jump and how high or be left behind. It’s inevitable, they assure you.

But it’s not. It’s a choice. A choice that society gets to make. The Inevitability narrative is meant to dissuade us from choosing by stating a foregone conclusion. A new myth created by and sold by the GenAI industry. And a myth that benefits the wealthy far more than the masses.

Actual inevitabilities, like the mathematical certainties around hallucination and incorrect answers are downplayed by the hype sellers. And legitimate uses are being buried under a sea of hype, all because these companies A) have dug a money pit and B) believe they have a chance at building the Play-Doh bomb that works. If they just believe hard enough. All they need is all our money, all our resources, and all our gullibility.

They cannot build their Win-The-Race machine merely by selling the things GenAI is good at and focusing on those and improving over time. To win everything requires risking everything. And unfortunately for us in society, we are the everything they are risking. Our economy, our health, our planetary resources, our intellects. Everything.

That’s why rising attitudes of disdain by GenZ and Gen Alpha have them scared to death. Lose the Boomer Relevancy (I will talk about this in future) crowd due to attrition, lose Gen Z and Alpha… and all you have are the remaining Late Boomers on one end, GenY in the middle, and Gen X on the other end. This doesn’t help in your race to Be First and run the world.

So, apart from belief, how do they get the Play-Doh to explode? I’m afraid this post will have to be split in two. So if you still don’t see me as a loon, please do come back for part 2:

The Coming World: Part 2: The World of Tomorrow - The End of the Information Age

Le Monde du Présent: L’ère du Radium de l’IA

{FR}
Également publiée sur Le Club de MediaPart

Avant de continuer, faut que vous sachiez une chose pour pas me prendre pour une “anti-IA” juste comme ça. Premièrement, je bosse dans le domaine, je suis dans le HPC, je supporte la recherche sur l’IA. Et deuxièmement, mon problème, c’est avec les humains qui vendent la GenAI, pas avec la GenAI elle-même. Et puis, pour être claire, ce qui me embête, c’est cette course folle des superscalars, qui font n’importe quoi sur le dos de l’économie et de la crédulité du public et de l’industrie. Peut-être que vous devriez considérer aussi lire cet article pour avoir plus de contexte: Neo-Luddite ou Le paradoxe de l’automatisation

“Je suis un dinosaure qui regarde arriver la météorite.” – Moi tous les jours

Crois simplement

Quand j’étais petite, probablement vers 8 ou 9 ans, une amie et moi avons décidé de fabriquer des bombes dans le jardin, comme celles qu’on voyait à la télévision. On utilisait des matériaux “explosifs” improvisés, avec de la pâte à modeler et des composants électroniques récupérés sur un talkie-walkie. On savait qu’on ne fabriquait pas de véritables explosifs, mais en construisant chacune notre petit engin et en le plaçant près de la clôture pour attendre et observer, on était quand même excitées par l’idée qu’il pourrait, peut-être, fonctionner. Et on se vantait l’une à l’autre en se surpassant : “La mienne va marcher !”

Nous étions très jeunes et notre imagination débordante nous permettait de croire que l’explosion pourrait se produire simplement parce que nous le souhaitions.

C’est un comportement très humain. Et ce n’est pas une chose qui se limite à l’imagination enfantine.

C’est comme ça que je vois ces gens, ces fanatiques de l’IAG et de la super-intelligence, ceux qui croient ou qui veulent qu’on croie que les LLM vont, d’un coup de baguette magique, devenir une super-intelligence (SI) ou une intelligence artificielle générale (IAG). Ceux qui pensent que si on colle juste assez de trucs qui ont l’air bien, ça va marcher. Juste en croyant.

La GenAI actuelle, c’est un outil qui fait des trucs impressionnants et utiles, mais dans un domaine beaucoup plus limité que ce que ses vendeurs veulent nous faire croire.Et avec une piste d’atterrissage beaucoup plus courte qu’ils ne veulent bien l’admettre. Du coup, pour essayer de compenser, les vendeurs essaient d’ajouter de plus en plus de moteurs en espérant que ça leur permette de décoller et de créer une nouvelle génération d’agents qui serait plus que la simple somme de leurs données d’entraînement et de leur paramètres. Et ça, c’est ce qui leur permettrait de décrocher le jackpot : super-intelligence ou une intelligence artificielle générale , ou au moins quelque chose d’assez proche.

Il n’y a aucune preuve que ça va marcher.

Voilà, le truc, c’est que juste augmenter la taille et la complexité de ces modèles, tout en bricolant des petits programmes autour [genre ces “modèles qui réfléchissent” qui font une sorte de vérification logique de base quand ils répondent], c’est pas stratégie à long terme. Et ça, ça ne suffit pour gagner. Mais pour l’instant, c’est la meilleure option qu’ils aient, pendant que les chercheurs explorent d’autres pistes.

Donc, ça a créé une bulle. Une bulle dont il faut absolument payer l’addition, dans l’espoir qu’ils puissent enfin concrétiser leur rêve fou, créer un agenat capable de dominer tous les autres, avant que cette bulle n’éclate.

L’ère du Radium de l’IA

Dans les années 1920 et 1930, il y a eu une folie du radium qui a balayé les États-Unis, le Japon, la Grande-Bretagne, et d’autres pays. Ça illustrait bien le pouvoir des charlataneries quand la foi est combinée avec l’ignorance.

Le radium était un nouvel élément incroyable dont les propriétés semblaient magiques, même si le public ne le comprenait pas vraiment. Le Chlorure de Radium a été découvert par les Curies en 1898, et les recherches sur cette substance qui émet de l’énergie ont fini par captiver l’imagination du public. Alors, bien sûr, le Capitalisme est entré en scène pour voir comment il pouvait utiliser cet intérêt public et arnaquer les gens.

Cet élément très toxique, qui émet un rayonnement ionisant, était ingéré, utilisé comme source de chaleur, comme remède à tout… c’était fou. Mais le grand public ne comprenait pas les vrais risques. Certains, bien sûr, comprenaient, mais ils ne s’en souciaient pas parce qu’ils étaient convaincus, ils étaient des croyants, d’autres étaient juste complètement ignorants. Les morts horribles de Marie Curie et d’Eben Byers, à cause de l’empoisonnement aux radiations, ont fait changer d’avis certaines personnes. Ce n’est qu’en 1938 que le gouvernement est intervenu aux États-Unis, et que les réglementations contre les pratiques trompeuses ont mis fin à cette pratique destructrice.

Heureusement pour beaucoup, le radium était en fait trop cher pour que la plupart des escrocs puissent réellement l’utiliser, et beaucoup de toniques qui prétendaient contenir du radium ne l’avaient pas. Quoi qu’il en soit, il y avait beaucoup de publicité. Il y avait beaucoup de promesses fantastiques. Il y avait aussi un mépris flagrant pour le bien-être du public, au nom de l’enrichissement, et c’était mis dans un produit après l’autre.

Vous voyez sans doute où je veux en venir.

Je crois que nous sommes à l’Âge du Radium de l’IA générative.”

La Course au Marché

Malgré le fait que ça soutienne une bonne partie de l’économie américaine, un peu comme une pièce de Jenga sur le point de tomber, l’IA générative actuelle n’est rentable pour personne, sauf Nvidia. Mon nouveau site préféré: Est-ce quepurl=https://isaiprofitable.com/”"] l’IA est rentable pour l’instant[/url]?

Pour l’instant, les vendeurs d’IA générative doivent vous convaincre que vous ‘avez besoin’ de plus de ce dont vous avez réellement besoin. Je ne suis pas là pour dire que vous n’avez pas de besoins légitimes, c’est une question de perspective générale. Pour certains d’entre vous, il y a une réelle facilité à utiliser ces outils pour la programmation et d’autres tâches pour lesquelles ils sont relativement bons. Et pour certains d’entre vous, il y a une pression de la direction qui a peur de manquer des opportunités ou de prendre du retard si elle ne devient pas une entreprise “axée sur l’IA”, ou une entreprise dite “l’IA d’abord”. Donc, ces superscalars, qui sagnent les investissements comme une cascade, doivent vous vendre ce dont vous avez besoin, plus ce dont eux ont besoin que vous ayez besoin. Et puis, pour être sûrs, ils espèrent et prient pour qu’ils puissent convaincre tout le monde que vous ‘ont besoin’ de plus. Le trou financier qu’ils ont creusé est très, très profond, et l’argent que Nvidia y remet dans ce cycle financier auto-entretenu, qui est une Financement Aller-Retour , ne commence même pas à combler ce trou. Ils sont dans une course pour « gagner » avant que l’argent ne s’épuise et que la bulle n’éclate.

En attendant, le danger pour ces superscalars est de ne pas vous convaincre que vous voulez du radium dans vos céréales du matin. De ne pas vous convaincre que vous avez besoin d’un moteur de résumé dans chaque aspect de votre vie, comme un intermédiaire entre vous, vos mots, et le reste du monde. De ne pas vous convaincre suffisamment que vous n’avez pas besoin de suivre vous-même une démarche créative, mais que vous devriez juste demander à un bot de le faire, et ensuite récolter les résultats. Pas de tracas, pas d’efforts, pas de complications. Pas de neurones utilisés. Aucune compétence acquise. Aucune connaissance gagnée.

Bien sûr, je simplifie tout ça.

Un peu.

Les gens qui ont une formation en développement logiciel qui créent du code pour créer des applications et qui valident ensuite ce code font un vrai travail et récoltent un avantage concret. Le travail cognitif réel est toujours là. Mais les “Vibecoder” ou “les usines à slop” qui cherchent juste à gagner de l’argent ne font rien de tout ça. Et si elles peuvent vous devancer, vous, développeur, avec une application similaire, le résultat final est qu’elles gagnent, vous perdez. De plus, on perd l’expertise que vous apportiez à un environnement meilleur et plus sain. Un autre dinosaure est créé, et c’est vous. La protection contre le code gonflé ou problématique est rendue aux géants, et vous, les dinosaures, disparaissez trop vite. Et, par conséquent, plus de personnes de votre espèce ne seront créées.

L’industrie a formé une grande partie des gens pour qu’ils fassent leur travail, pour qu’ils vantent l’idée que “l’IA dans tout” ou “l’IA d’abord” est une chose absolument inévitable. Ils disent à votre patron qu’il doit se lancer et qu’il doit le faire avec enthousiasme, ou qu’il sera laissé pour compte. C’est inévitable, ils vous assurent.

Mais ce n’est pas le cas. C’est un choix. Un choix que la société peut faire. Le récit de l’inéluctabilité est censé nous dissuader de choisir en affirmant une conclusion déjà établie. Un nouveau mythe créé par et vendu par l’industrie de l’IA générative. Et un mythe qui profite aux riches bien plus qu’aux masses.

La vente de l’exagération, je ne la simplifie absolument pas.

Les vraies réalités, comme les certitudes mathématiques autour des hallucinations et des réponses fausses, sont minimisées par ceux qui font du engouement. Et les utilisations légitimes sont enterrées sous une montagne de engouement, tout ça parce que ces entreprises A) ont creusé un trou à fric et B) pensent avoir une chance de fabriquer la bombe Play-Doh qui marche. S’il y a juste assez de foi. Tout ce dont elles ont besoin, c’est de tout notre argent, de toutes nos ressources et de toute notre naïveté.

Elles ne peuvent pas construire leur machine pour gagner la course en vendant juste ce que l’IA générative fait bien et en se concentrant là-dessus et en s’améliorant avec le temps. Pour tout gagner, il faut tout risquer. Et malheureusement pour nous, dans la société, c’est nous le “tout” qu’elles risquent. Notre économie, notre santé, nos ressources de la planète, notre intelligence. Tout.

C’est pour ça que l’attitude de dédain de plus en plus forte de la GénZ et de la GénAlpha les fait flipper. Perdre le public le Boomer Pertinence (dont je parlerai plus tard) à cause du vieillissement, perdre la GenZ et GenAlpha… et tout ce qu’il reste, c’est les Boomers restants d’un côté, la GenY au milieu, et la GenX de l’autre. Ça n’aide pas dans leur course pour être les premiers et pour dominer le monde.

Alors, à part la foi, comment font-elles pour que la pâte à modeler explose ? J’ai peur que ce message doive être coupé en deux. Donc, si tu ne me vois toujours pas comme une dingue, reviens pour la partie 2

Le Monde à Venir : Partie 2 : Le Monde de Demain - La Fin de l’Ère de l’Information