Sam Altman, alors PDG d’OpenAI, participe au sommet des PDG de la Coopération économique Asie-Pacifique (APEC) à San Francisco le 16 novembre.CARLOS BARRIA/Reuters
Jordan Jacobs est co-fondateur et associé directeur de Radical Ventures, une société de capital-risque axée sur l’IA.
La nouvelle du licenciement soudain de Sam Altman d’OpenAI (et de son passage à Microsoft Corp., MSFT-Q, un bailleur de fonds majeur de l’organisation) a surpris une grande partie du monde de la technologie. Mais en y regardant de plus près, les racines de cette fissure étaient toujours visibles.
Au fond, OpenAI a un problème qui ne concerne pas seulement l’attention à accorder à la sécurité (c’est-à-dire l’alignement sur les valeurs humaines) et donc la rapidité ou la lenteur avec laquelle commercialiser ses produits. Les tensions au niveau du conseil d’administration qui ont abouti à l’éviction de M. Altman reflètent un décalage entre la mission déclarée de l’organisation et l’exécution commerciale ultérieure qui a créé ChatGPT et une entreprise valant des dizaines de milliards de dollars. (OpenAI Inc., une organisation de recherche à but non lucratif, exploite OpenAI Global LLC à but lucratif.)
La mission d’OpenAI, telle que définie par sa charte, est de construire une intelligence artificielle générale (AGI) et de veiller à ce qu’elle « profite à l’ensemble de l’humanité ». Ce n’est pas une mission qui peut être facilement conciliable avec la commercialisation de produits d’IA, c’est pourquoi OpenAI a été initialement conçue comme une organisation de recherche à but non lucratif plutôt que comme une entreprise.
Dans sa quête de l’AGI, il est devenu évident que les coûts de calcul nécessaires à la formation de grands modèles linguistiques (LLM) à grande échelle nécessiteraient un financement qui ne pourrait peut-être être soutenu que par des investisseurs recherchant un retour commercial. (Bien sûr, ouvrir ChatGPT au monde présente également l’avantage de générer des commentaires des utilisateurs qui aident à former les modèles à grande échelle.)
Les efforts d’OpenAI ont eu un impact extraordinaire en accélérant la compréhension et l’adoption de l’IA à l’échelle mondiale et ont probablement remodelé à jamais le paysage technologique. Cependant, la rapidité et la concentration nécessaires pour remporter la course ultracompétitive visant à créer des produits et des plates-formes LLM d’une manière bénéfique pour l’entreprise se font au détriment d’une mission axée sur la recherche pour parvenir à une AGI bénéfique à tous.
En d’autres termes, comment concilier gagner la course aux produits et aux plateformes d’IA au profit d’une entreprise tout en essayant de créer une AGI qui profite à tous ? Vu sous cet angle, le drame du conseil d’administration reflète cette contradiction entre la mission déclarée et l’exécution pratique.
La tension qui a conduit au départ inattendu de M. Altman n’était pas une rupture soudaine, mais plutôt le point culminant d’un désalignement inhérent. Le conflit souligne le défi auquel sont confrontées les entreprises qui s’efforcent d’aligner leur mission sur leur exécution – un défi qui n’est pas propre à OpenAI. Nous pouvons observer des bouleversements similaires dans les entreprises où les incohérences entre la mission initiale et l’exécution pratique créent des fissures au sein d’équipes dans lesquelles des individus se sont joints pour des objectifs différents. Ces fissures peuvent, avec le temps, se transformer en gouffres.
Lorsque nous investissons, nous réfléchissons beaucoup à la mission d’une équipe fondatrice et à l’alignement de cette mission sur la façon dont les choses se dérouleront concrètement dans la création d’une entreprise. Il n’est pas impossible d’avoir une mission apparemment utopique au sein d’une entreprise. Mais cela nécessite beaucoup de réflexion et de communication pour parvenir à une compréhension commune au sein de l’équipe fondatrice (et des investisseurs ultérieurs et autres parties prenantes) sur la manière dont la mission sera réalisée et, dans le cas d’entreprises à très forte intensité de capital, sur ce que vous devez être. prêts à faire pour réunir ce capital.
Nous avons commencé à travailler avec les fondateurs de la startup d’IA Cohere avant sa création en 2019, et nous avions perçu ce conflit au cœur d’OpenAI que nous pensions pouvoir être très difficile à concilier sur le long terme. La mission de Cohere a donc été définie très clairement : rendre l’IA à langage génératif basée sur un transformateur accessible en toute sécurité aux entreprises du monde entier, et créer une plate-forme et des produits indépendants du cloud au service de cette mission. Ainsi, même si l’entreprise est profondément engagée dans la création d’une IA sûre et responsable, il n’y a aucune tension entre sa mission déclarée et le travail qu’elle poursuit.
Pour les startups, le « pourquoi » de la mission ne peut pas entrer en conflit avec le « quoi et comment » de l’exécution de cette mission. Pour réussir à bâtir une entreprise générationnelle, une équipe doit être unifiée et croire que ce qu’elle construit et comment elle construit soutient la raison pour laquelle elle construit. Il n’est pas impossible de réaligner lorsque ces deux éléments fondamentaux ne sont plus synchronisés (ce que j’ai vécu en tant que fondateur d’une entreprise d’IA). Mais il est peu probable que le retour à la synchronisation se fasse en douceur pour les personnes impliquées.
Commencer par cet alignement – et veiller à ce que les défis soient relevés grâce à une communication ouverte et constante – contribue à donner à une équipe la clarté unifiée de l’objectif qui est essentielle au succès.