Anthropic et OpenAI veulent-ils vraiment ralentir ?

Aujourd'hui, les dirigeants des principaux laboratoires d'intelligence artificielle tiennent un discours que personne ne les attendait à tenir il y a encore deux ans. La semaine dernière, Sam Altman, le dirigeant d'OpenAI, a estimé qu'il était peut-être temps de « modérer le rythme » afin de laisser à la société le temps de s'adapter aux nouvelles capacités des modèles.

Cette prise de parole tranche avec la stratégie suivie jusqu'ici par l'entreprise, car depuis le lancement de ChatGPT en novembre 2022, OpenAI a imposé au secteur un rythme d'annonces que ses concurrents peinent à suivre. Le raisonnement avancé est celui de l'adaptation.

Les modèles progressent aujourd'hui plus vite que les entreprises, les administrations et les réglementations ne parviennent à en absorber les conséquences. Autrement dit, le problème ne serait plus la performance des modèles d'intelligence artificielle, mais la capacité de la société à suivre le rythme imposé par ceux qui les développent.

De son côté, Dario Amodei, à la tête d'Anthropic, va encore plus loin en défendant la création d'un mécanisme international qui permettrait aux laboratoires de ralentir, voire de suspendre temporairement, le développement des IA les plus avancées.

L'idée repose sur un constat simple, puisqu'aucun laboratoire ne peut lever le pied seul, car celui qui ralentit unilatéralement laisse mécaniquement le champ libre à ses concurrents. Un cadre commun permettrait donc de suspendre la course sans que le premier à s'arrêter en supporte seul le coût, à condition que l'ensemble des acteurs s'y engagent réellement.

En pratique, un tel mécanisme soulève néanmoins de nombreuses questions, notamment sur les acteurs chargés de le piloter, sur les modèles concernés et sur les moyens de vérifier qu'un laboratoire respecte ses engagements. La difficulté est d'autant plus importante que la course à l'intelligence artificielle ne se limite plus aux entreprises privées, elle est devenue un véritable enjeu de souveraineté pour les États.

Sur le papier, l'intention est évidemment louable, mais dans les faits, ces mêmes entreprises continuent de lever des milliards, de construire toujours plus de data centers et de commercialiser des modèles toujours plus puissants pour conserver leur avance.

Aucun de ces laboratoires n'a annoncé de report de sortie, de réduction de ses capacités de calcul ou de gel de ses recrutements, bien au contraire. Contrairement à ce que pourrait laisser penser ce discours, les investissements consacrés aux infrastructures suivent une trajectoire strictement inverse, portée par une demande qui ne faiblit pas.

Cet écart entre les déclarations publiques et les décisions d'investissement constitue le point le plus intéressant de ce débat.

Il ne relève pas nécessairement de l'hypocrisie, car un dirigeant peut parfaitement estimer que le rythme collectif est devenu dangereux, tout en considérant qu'il vaut mieux, pour la sécurité des modèles, que ce soit son entreprise qui mène la course.

Cette logique est d'ailleurs celle qui a présidé à la création d'Anthropic, dont les fondateurs ont quitté OpenAI en estimant qu'un laboratoire pouvait développer des modèles puissants tout en plaçant la sécurité au cœur de leur conception. Le ralentissement souhaité n'est donc jamais le sien, il concerne toujours le rythme imposé par les autres.

C'est précisément là que le débat devient stratégique, car appeler au ralentissement n'a pas du tout le même effet selon la position occupée par ces entreprises dans la course.

Autrement dit, elles veulent ralentir la course pour les autres, maintenant qu'elles ont pris une longueur d'avance.

Pour un laboratoire en tête, un cadre international de ralentissement fige une hiérarchie existante et complique l'arrivée de nouveaux entrants, notamment les modèles open source et les acteurs chinois. Pour un laboratoire retardataire, un tel mécanisme revient au contraire à accepter de ne jamais rattraper son retard.

La question dépasse donc largement le seul débat sur la sécurité.

Cette dynamique rappelle celle décrite dans notre article consacré aux super prédateurs de l'IA, dans lequel les laboratoires élargissent progressivement leur périmètre fonctionnel au détriment de leurs propres partenaires.

Pour les organisations qui déploient aujourd'hui l'intelligence artificielle, ce débat peut sembler éloigné de leurs préoccupations quotidiennes, il a pourtant des conséquences très concrètes. Aucun ralentissement significatif n'est engagé à ce jour, les modèles continueront donc de progresser rapidement et les usages déployés cette année seront vraisemblablement dépassés bien plus tôt que prévu.

En revanche, ce débat annonce un durcissement progressif du cadre réglementaire, car les appels au ralentissement émanant des laboratoires eux-mêmes alimentent directement les travaux des régulateurs européens.

Pour les entreprises, la conséquence est double, il faut continuer à faire monter les collaborateurs en compétences au rythme des modèles, tout en structurant dès maintenant la gouvernance interne de l'intelligence artificielle.

Concrètement, plusieurs chantiers peuvent être engagés dès aujourd'hui, sans attendre l'issue de ce débat :

• Formaliser une charte IA précisant les outils autorisés et les données pouvant être partagées.
• Former les collaborateurs aux usages de leur métier plutôt qu'aux fonctionnalités d'un outil précis.
• Documenter les cas d'usage déployés afin de pouvoir les réévaluer à chaque génération de modèles.
• Suivre les évolutions réglementaires européennes, l'AI Act constituant aujourd'hui le principal cadre applicable.

C'est précisément le rôle d'une charte IA et d'un plan de formation adaptés, qui donnent aux collaborateurs un cadre stable là où la technologie, elle, ne cesse de bouger.