L’avenir est sombre pour GPT-3

OpenAI cherche un business model pour son modèle de langage. Car sans source de revenus pour éponger ses coûts faramineux, GPT-3 pourrait bien mourir.

Boîte noire
4 min readMar 8, 2021

∎ À son lancement au mois de mai dernier, GPT-3 semblait capable de mille prouesses. Les bidouillages de quelques bêta-testeurs chanceux montrait que le modèle de langage d’OpenAI pouvait écrire des poèmes, des pastiches, des tablatures et même du code. Cette créativité troublante a engendré un enthousiasme considérable, mais aussi une foule d’idées mercantiles : comment ne pas croire qu’une machine qui sait rédiger en Python pourrait rapporter beaucoup de sous ?

Comme OpenAI laissait les bêta-testeurs expérimenter gratuitement avec sa créature, des projets entièrement fondés sur GPT-3 ont fleuri un peu partout au fil des mois suivants. PhilosopherAI, par exemple, se proposait de répondre à toutes vos questions, même les plus idiotes. Et soudain, en septembre dernier, OpenAI a dévoilé la tarification applicable à son modèle de langage à compter du mois d’octobre suivant. Selon ces prix, faire tourner PhilosopherAI coûterait au moins 4000 dollars par mois.

OpenAI doit bien vivre. À son lancement en 2015 par diverses éminences de la Silicon Valley, notamment Elon Musk et Peter Thiel, il se présentait comme un organisme à but non lucratif. Sa mission, toujours affichée sur son site officiel : « S’assurer que l’intelligence artificielle générale (IAG) — des systèmes hautement autonomes qui surpassent les performances humaines sur la plupart des tâches économiques viables — profite à toute l’humanité. Nous allons essayer de construire directement des IAG sûres et profitables. »

Assurer une telle mission demande de l’argent — énormément d’argent. Pour attirer et retenir les experts en machine learning dont dépendent ses projets, OpenAI verse des salaires qui dépassent le million de dollars par an. Concevoir et entraîner un nouveau modèle peut coûter plusieurs dizaines de millions de dollars, et le faire tourner plusieurs dizaines de milliers de dollars par mois. En mars 2019, OpenAI a donc changé de statut pour devenir un « organisme à but lucratif limité ». Retour sur investissement maximal : 100%.

Les finances d’OpenAI ont toujours été obscures mais elles n’ont jamais été bonnes. Deux mois après le changement de statut, son patron Sam Altman déclarait dans TechCrunch : « Nous n’avons jamais dégagé le moindre revenu. Nous n’avons aucun plan pour dégager un revenu pour le moment. Nous ne savons pas comment nous pourrions dégager un revenu un jour. » Au mois de juillet suivant, apparemment convaincu que ces revenus finiraient par venir, Microsoft a investi un milliard de dollars dans OpenAI.

Évidemment, un chèque à dix chiffres tombe rarement sans contrepartie. Pour la première fois, OpenAI allait devoir chercher à générer un profit. L’organisation à but non lucratif pleine de vigueur gentillette était devenue une entreprise comme les autres, et son premier produit serait GPT-3. Surtout, adieu le retour sur investissement maximal de cent pour un : selon certaines estimations, la tarification du mois de septembre dernier pourrait dégager une marge de 6000% pour OpenAI. Encore faut-il que le plan fonctionne.

Payer pour créer et entretenir un produit basé sur GPT-3 est-il une bonne idée ? Tout le monde n’en est pas convaincu. Le modèle de langage est accessible seulement « en tant que service » car il est trop imposant et exigeant en ressources pour être extrait des serveurs d’OpenAI. Tous ses clients travaillent donc sur la même base, sans réelle possibilité de personnalisation du système. Dans de telles conditions, difficile de proposer un produit unique : tout ce que les uns font, les autres le peuvent, ni plus, ni moins.

Cette liste le montre cruellement : tous les projets qui dépendent de GPT-3 se ressemblent. Dans bien des cas, ils ne proposent que de la génération de contenu rapide pour des tarifs d’autant plus discutables que le modèle de langage est loin d’être parfait. Content Bot veut vous donner des idées pour dix dollars par mois. Le jeu de rôle génératif AI Dungeon vous demande la même somme pour sa version premium. Ces prix sont supposés couvrir les frais de fonctionnement de GPT-3. Mais sont-ils vraiment justifiés par le service proposé ?

Autre problème : Microsoft intégrera sans doute bientôt GPT-3 à ses propres services, ce qui risque de rendre obsolète une bonne partie des proto-entreprises basées sur lui. De plus, l’évolution rapide des langues condamne GPT-3 à la déliquescence. Comme le fait remarquer le développeur Ben Dickson dans VentureBeat, le modèle a été entraîné sur des quantités faramineuses de documents avant l’épidémie de COVID-19. L’intelligence artificielle ne comprend pas les mots « confinement » et « distanciation » tels que nous les comprenons désormais.

Au fil du temps, GPT-3 va donc devoir être ré-entraîné, ce qui coûtera sans doute plusieurs millions de dollars qu’OpenAI aura peut-être de plus en plus de mal à réunir. On peine à croire qu’une technologie aussi excitante puisse passer à la trappe. Pourtant, des entreprises liées aux machine learning meurent sans cesse. GPT-3 est énorme et prometteur, certes. Mais dans l’économie de l’intelligence artificielle, cela ne suffit pas. ∎

Boîte Noire est la newsletter hebdomadaire sur l’intelligence artificielle de Sébastien Wesolowski. Inscrivez-vous par ici : http://eepurl.com/hivYvT

--

--

Boîte noire

Boîte Noire est une newsletter hebdomadaire sur l’intelligence artificielle. Inscrivez-vous par ici : http://eepurl.com/hivYvT