IA générative, de l’enthousiasme à la déception
Comment est-on passé, en cinq ans, d’un enthousiasme généralisé à une déception qui commence à se faire sentir ?
Comment se fait-il qu’on se fasse avoir à chaque fois ou, pour le dire autrement, pourquoi ne peut-on pas apprendre des leçons du passé (récent) ?
Voilà les deux principaux points abordés dans cette vidéo en deux volets qui fait (en combinant les deux volets) un peu plus de 57 mn. Presque une heure de vidéo, c’est long et pourtant, pour un sujet comme celui-ci, c’est tout juste suffisant…
J’ai mis deux semaines entières à réaliser ces vidéos : recherches, prises de vue, montage, corrections, etc. C’est un vrai travail et je le fais seul. Je n’ai pas d’équipe autour de moi pour tenir la caméra, soigner la prise de son, faire des effets au montage et ainsi de suite…
Ceci dit, je m’adresse à vous qui êtes suffisamment évolués (sinon, vous ne passeriez pas de temps sur CE blog !!) pour distinguer le fond de la forme, on est d’accord !
Voici une récapitulation des sections détaillées dans ces deux vidéos :
Premier volet – Introduction
J’y fait référence à la vidéo “the lines goes up”. Il s’agit de prendre les aspects principaux de cet engouement pour l’IA générative et de démontrer que celle-ci est une impasse coûteuse et loin d’être à la hauteur de ses promesses (survendues comme toujours !).
J’explique ce qu’on va y voir, les cinq parties, que la vidéo va être longue mais que c’est nécessaire pour bien expliquer la situation…
Premier volet – Première partie : ChatGPT ou le rêve d’une conversation
L’irruption de ChatGPT sur le marché est vécue comme un coup de tonnerre dans un ciel bleu !
Alors que l’IA dérivée des techniques de “machine learning” commençait à décevoir devant la difficulté de réussir des véhicules autonomes, l’IA dite “générative” vient relancer l’intérêt pour l’IA de manière spectaculaire !
Le lancement de ChatGPT a été favorisé par une couverture médiatique intense basée sur le fait que le service avait réussi à réunir un grand nombre d’utilisateurs (100 Millions ?) en très peu de temps (2 mois ?). Certains affirment que ces montants sont contestables mais, peu importe, le phénomène était lancé et bien lancé !
Premier volet – Seconde partie : un air de déjà-vu
L’histoire de l’IA est coutumière de ces explosions d’enthousiasme qui sont suivies d’une période de déception… L’effet démo repose sur le principe des 80/20 mais ça n’a rien à voir avec une technique mature et productive.
Pour rappel :
Premier volet – Troisième partie : les illusions profitent aux illusionnistes !
L’histoire récente de la Tech est pavée de ces succès et de ces modes plus ou moins délictueuses : Théranos, Wirecard, les cryptomonnaies, les véhicules autonomes, …
Second volet – Quatrième partie : pourquoi va-t-on vers une nouvelle déception ?
L’IA générative basée sur les LLM est une impasse. Trop de ressources consommées pour un résultat discutable et non-rentable.
L’attitude des promoteurs des LLM a été “plus de la même chose” mais les retours décroissants ont fini par frapper, comme ils le font toujours !
Second volet – Cinquième partie : pensée unique et aveuglement, pourquoi met-on tant de temps à le réaliser ?
C’est à chaque fois le même modèle qui se reproduit : unanimité apparente, battage médiatique écrasant, investissements vertigineux qui apparaissent comme des preuves supplémentaires si besoin était.
Second volet – Conclusion
Cette forme d’IA est une impasse et l’engouement va laisser la place à la déception, une de plus.
Second volet – Épilogue
Nous sommes encore très-très loin de l’AGI comme on va s’en apercevoir à cette occasion. Et peut-être même que cet objectif est illusoire, un horizon fuyant, comme la fusion nucléaire ?
=================
Si on voulait résumer pourquoi la déception va faire place à l’enthousiasme initial, on pourrait écrire ceci :
Tout d’abord c’est une impasse parce que c’est une bulle : les valorisations délirantes sont gonflées par les attentes qui sont tout autant délirantes.
Ces attentes ne seront pas atteintes pour les raisons suivantes :
- Les LLM sont atteints par les rendements décroissants : toujours plus d’efforts et de coûts d’entraînement pour des gains marginaux.
- Les LLM sont en train de s’auto-polluer : les données d’entraînement sont de plus en plus issus des IA génératives, le serpent se mord la queue !
- Les résultats produits par les LLMs sont peu fiables et ça ne s’améliore pas.
- Les principaux acteurs (OpenAI, Anthropic) ne sont pas rentables et les perspectives ne sont pas bonnes. Leur business modèle est simplement intenable. OpenAI dépense $2,25 pour en gagner 1 !
- Ces sociétés sont obligées de lever de l’argent continuellement pour ne pas faire faillite (certaines n’y arrivent pas comme Stability AI). Altam/madoff même combat !
- Les LLM piratent allégrement les données disponibles sur le net (livres, films, blogs, images, vidéos) pour leur entraînement et, bien sûr, sans demander l’autorisation. Google et OpenAI réclament même un assouplissement de la loi sur les droits d’auteur pour pouvoir continuer à piller sans courir le risque d’être poursuivis… ben voyons !
- Passons sur la consommation de ressources gigantesque : depuis la vague crypto, cela ne semble pas avoir d’importance alors que, par ailleurs, les leaders politiques n’arrêtent pas de répéter qu’il faut être économe, frugal et vert… Allez comprendre !
- Enfin, les leaders de l’IA sont des personnalités toxiques (Amodei, Altman) qui mentent en permanence.
En dépit de toutes ces évidences, on trouve encore aujourd’hui des « spécialistes » pour proclamer « c’est une révolution, ça va tout changer pour tout le monde ! ». C’est ainsi parce que c’est une mode et que le monde de la Tech a besoin de ces modes pour relancer sa croissance. Quand ça ne marche pas, on lance une autre mode (quelle est la prochaine ? Simple, ça sera « nous sommes sauvés grâce aux ordinateurs quantiques ! »).
Bon, ça fait un moment que je dénonce cette bulle :
Deep Fake grâce à l’IA, des cas pratiques et utiles à l’horizon ?
Que peut-on encore dire d’intéressant sur l’IA ? Cosmotech propose une réponse juste et équilibrée !
Rien de bon à garder dans la vague actuelle de l’IA ? Pas tout à fait…
“Je vais te tuer si tu parles encore d’IA”, une contribution percutante mais juste…
L’arnaque de l’IA générative, encore un (excellent) article de Ed Zitron
Lecture complémentaire recommandée => https://ploum.net/2024-04-04-la-bulle-ai.html