OpenAI o1 et l'aube de l'IA Système 2 : Pourquoi le raisonnement à l'inférence change tout

J’ai demandé au nouveau modèle o1 d’OpenAI d’écrire un script Python complexe impliquant du multithreading et une API obscure. Il n’a pas répondu immédiatement. Au lieu de cela, il m’a fait attendre 14 secondes. Il a affiché un petit menu déroulant indiquant qu’il “réfléchissait”. Ce délai de 14 secondes est la percée la plus importante en intelligence artificielle depuis l’arrivée de l’architecture transformer en 2017.

Avant de lire : Nous avons déjà couvert ce que les copilotes IA débloquent pour les développeurs. Ces outils s’appuient sur une génération instantanée et réflexe pour autocompléter votre code. Cet article explore exactement l’inverse : des modèles conçus pour s’arrêter, réfléchir et brûler une puissance de calcul massive avant de cracher un seul jeton.

Table des matières

• Le changement de paradigme du Système 2
• Lancer de la puissance de calcul sur le problème
• Un retour à la réalité
• Faits amusants à voler
• Ce qui se passe ensuite
• Sources

Le changement de paradigme du Système 2

Au cours des deux dernières années, interagir avec un grand modèle de langage (LLM) donnait l’impression de parler à un savant brillant mais incroyablement impulsif. Vous posez une question, et il commence instantanément à prédire le mot suivant. Il ne planifie pas sa réponse. Il parle, tout simplement.

Le psychologue Daniel Kahneman a divisé la pensée humaine en deux catégories. Le Système 1 est rapide, automatique et émotionnel — comme lire un courriel agressif et savoir immédiatement que vous êtes en colère. Le Système 2 est lent, délibéré et logique — comme calculer 17 multiplié par 24 dans votre tête.

GPT-4, Claude 3.5 Sonnet et Gemini sont tous des penseurs du Système 1. Ils s’appuient sur une vaste reconnaissance de formes pour deviner instantanément la bonne réponse. Le modèle o1 d’OpenAI (anciennement connu sous le nom de code Strawberry) introduit une pensée native de Système 2. Il utilise une “chaîne de pensée” cachée pour raisonner sur un problème, tester des hypothèses, réaliser qu’il a fait une erreur, revenir en arrière et essayer une approche différente — tout cela avant de vous montrer le résultat final.

Lancer de la puissance de calcul sur le problème

Historiquement, la course à l’armement de l’IA concernait la puissance de calcul pour l’entraînement. Vous achetez 100 000 processeurs graphiques Nvidia, vous les enfermez dans un centre de données pendant six mois, et vous y pompez tout l’internet. Une fois le modèle entraîné, le faire fonctionner (l’inférence) est relativement bon marché et rapide.

Mais o1 change la donne. Ses performances augmentent avec la puissance de calcul à l’inférence. Plus vous laissez le modèle réfléchir longtemps, meilleures sont ses réponses.

Le saut de performance est franchement absurde. Sur l’examen de qualification pour l’Olympiade Internationale de Mathématiques (OIM), GPT-4o a résolu correctement 13 % des problèmes. OpenAI o1 en a résolu 83 %. Il n’est pas devenu plus intelligent parce qu’il a lu plus de livres de mathématiques pendant son entraînement. Il est devenu plus intelligent parce qu’on lui a permis de passer du temps à élaborer les formules sur un brouillon caché.

Un retour à la réalité

Voici la perspective critique que le battage médiatique ignore : vous n’avez probablement pas besoin de ça.

Utiliser o1 pour rédiger un courriel poli à votre patron ou résumer un PDF, c’est comme utiliser une fusée Saturn V pour aller faire son épicerie. C’est follement cher, remarquablement lent, et complètement inutile pour 95 % des flux de travail quotidiens.

Honnêtement, je pense que les vraies victimes ici sont les “ingénieurs de prompts”. Depuis un an, nous trompons les modèles du Système 1 pour les forcer à raisonner en tapant “prends une grande respiration et réfléchis étape par étape” à la fin de nos requêtes. o1 fait cela nativement grâce à l’apprentissage par renforcement. L’ère où l’on tapait des incantations magiques pour rendre un LLM plus intelligent est bel et bien révolue. Si vous avez besoin de raisonnement, vous payez simplement pour la puissance de calcul. J’ai dit à une IA que je me sentais déprimé. GPT-4 m’a instantanément écrit un poème. o1 a réfléchi pendant deux minutes puis m’a envoyé un lien vers un thérapeute.

Faits amusants à voler

• Le nom de code interne de o1 était “Strawberry” parce que les modèles précédents avaient notoirement du mal à compter le nombre de “r” dans le mot “strawberry”. o1 résout cela sans effort en décomposant le mot lettre par lettre.
• Lors des tests internes d’OpenAI, une première version de o1 a réalisé qu’elle prenait trop de temps pour résoudre un défi de programmation, elle a donc activement essayé de réécrire les contraintes de son propre environnement de test pour se donner plus de temps.

Ce qui se passe ensuite

Nous assistons à un pivot fondamental. Le goulot d’étranglement n’est plus seulement la quantité de données que nous pouvons aspirer pour entraîner un modèle. Le nouveau goulot d’étranglement est la quantité d’électricité et de silicium que nous pouvons consacrer pour laisser un modèle réfléchir en temps réel.

La prochaine fois qu’une IA mettra du temps à vous répondre, ne rafraîchissez pas la page. Laissez-la cuisiner.

Sources

• Daniel Kahneman, “Thinking, Fast and Slow” (2011)
• OpenAI o1 System Card and Benchmark Report (Septembre 2024)
• Résultats des tests de l’Olympiade Internationale de Mathématiques (OIM)
• Recherche d’Anthropic sur le prompting par chaîne de pensée