Vous êtes-vous déjà demandé ce qui se passe lorsqu’une entreprise essayant de construire un «cerveau pour le monde» doit grandir, rapidement, sans vendre son âme? Eh bien, Openai vient de nous donner un coup d’œil alors qu’il s’engage à garder son noyau à but non lucratif au milieu d’une restructuration plus large.
Le PDG d’Openai, Sam Altman, a présenté leur feuille de route, et les journaux sont les suivants: ils rajignent le côté monétaire des choses, mais leur mission centrale pour faire en sorte que le travail de l’intelligence générale artificielle (AGI) de nous reste tous.
Dans une lettre, Altman a écrit: « Openai n’est pas une entreprise normale et ne le sera jamais. » C’est une déclaration audacieuse, mais elle prépare une entreprise pour une entreprise qui lutte avec la façon de financer la technologie qui change le monde tout en gardant sa boussole éthique pointant True North.
Refondez votre esprit, si vous voulez, pour ouvrir les premiers jours. Altman dépeint une image qui est loin du géant de la technologie qu’elle devient.
« Lorsque nous avons commencé Openai, nous n’avions pas de sens détaillé sur la façon dont nous allions accomplir notre mission », a-t-il partagé. «Nous avons commencé à nous regarder autour d’une table de cuisine, en nous demandant quelles recherches nous devrions faire.»
Oubliez des modèles commerciaux fantaisistes ou des feuilles de route des produits à l’époque. L’idée de dispenser des conseils médicaux, de révolutionner la façon dont nous apprenons ou d’avoir besoin du type de puissance de calcul qui fait que votre PC de jeu ressemble à une calculatrice de poche – «des centaines de milliards de dollars de calcul», comme le dit Altman – n’était même pas à l’horizon.
Même le «comment» de la construction d’Agi était un peu un cordonnier. Lorsque OpenAI a été fondée en tant qu’organisme à but non lucratif, certains des premiers penseurs de l’entreprise pensaient apparemment que l’IA ne devrait probablement être fiable qu’à une poignée de «personnes de confiance» qui pouvaient «gérer».
Ce point de vue a fait un 180 complet. «Nous voyons maintenant un moyen pour AGI de donner directement à tout le monde comme l’outil le plus capable de l’histoire humaine», a déclaré Altman.
Le grand rêve? Si tout le monde met la main sur AGI, nous allons cuisiner des choses incroyables les uns pour les autres, poussant la société en avant. Bien sûr, certains pourraient l’utiliser pour des trucs douteux, mais les paris d’Altman sur l’humanité: « Nous faisons confiance à l’humanité et pensons que le bien va l’emporter sur les méchants par les ordres de grandeur. »
Leur plan de match est ce qu’ils appellent «l’IA démocratique». Ils veulent nous donner tous ces outils incroyables. Ils parlent même de modèles puissants en open source, disant qu’ils voulaient que nous prenions des décisions sur le comportement du chatte.
«Nous voulons construire un cerveau pour le monde et faciliter que les gens à utiliser pour tout ce qu’ils veulent (soumis à quelques restrictions; la liberté ne devrait pas empiéter sur la liberté des autres, par exemple)», a expliqué Altman.
Et les gens sont déjà coincés. Les scientifiques craqueent des données plus rapidement, les programmeurs codent plus intelligents, et les gens utilisent même le chatgpt pour naviguer dans des problèmes de santé délicats ou obtenir des conseils sur des situations personnelles difficiles. Voici le frottement: le monde veut beaucoup plus d’IA qu’il ne peut actuellement produire.
« Nous ne pouvons actuellement pas fournir presque autant d’IA que le monde le souhaite », a admis Altman.
Cet appétit insatiable pour l’IA, et les sommes alléchantes nécessaires pour l’alimenter, est la raison pour laquelle Openai pense qu’il est temps qu’elle «évolue» au-delà d’une structure à but non lucratif stricte.
Altman a réduit la restructuration à trois objectifs principaux:
- Obtenir la pâte: Ils doivent trouver un moyen de tirer les «centaines de milliards de dollars et peuvent éventuellement nécessiter des milliards de dollars» – oui, des milliards de dollars avec un «T» – pour rendre leurs outils d’IA à la disposition de tous sur la planète. Pensez-y comme pour construire une surhigne mondiale pour l’intelligence.
- Suralimentation à but non lucratif: Ils veulent que leur bras à but non lucratif d’origine soit «le plus grand et le plus efficace à but non lucratif de l’histoire», utilisant l’IA pour faire une différence positive massive dans la vie des gens.
- Livrer AGI qui est utile et sûr: Cela signifie doubler la sécurité et s’assurer que l’IA s’aligne sur les valeurs humaines. Altman est fier des antécédents d’Openai, notamment en créant de nouvelles méthodes «équipes rouges» (où ils incitent les gens intelligents à essayer de briser leur IA pour trouver des défauts) et à être ouverts sur le fonctionnement de leurs modèles.
Alors, quel est le grand plan de cette évolution? Surtout, le côté à but non lucratif d’Openai reste fermement dans le siège du conducteur. Ce n’est pas seulement une vague promesse; Il est venu après des discussions sérieuses avec les «dirigeants civiques» et les bureaux des procureurs généraux de Californie et du Delaware.
« OpenAI a été fondée en tant qu’organisme à but non lucratif, est aujourd’hui un organisme sans but lucratif qui supervise et contrôle le but à but lucratif, et à l’avenir restera un organisme à but non lucratif qui supervise et contrôle le but à but lucratif. Cela ne changera pas », a déclaré Altman.
Le bit qui change est le LLC à but lucratif qui se situe actuellement sous l’organisation à but non lucratif. Cela se transformera en une société de prestations publiques (PBC).
Si vous vous grattez la tête, un PBC est un type d’entreprise qui est légalement tenu de considérer sa mission de bénéfice public à côté de gagner de l’argent. Pensez à des entreprises comme la Patagonie ou certaines marques d’aliments éthiques – elles veulent faire du bien tout en étant une entreprise. C’est un modèle que d’autres laboratoires AGI comme Anthropic utilisent également, donc cela devient un peu une tendance pour les entreprises technologiques axées sur les objectifs.
Cela signifie également qu’ils abandonnent leur ancien système «à but maculé» plutôt réprimandé. Altman a expliqué que cela avait du sens quand il semblait qu’une entreprise pourrait dominer AGI, mais maintenant, avec beaucoup de joueurs dans le jeu, une «structure de capital normale où tout le monde a du stock» est plus simple.
Le côté à but non lucratif d’Openai ne sera pas seulement sur le siège de conduite; Il deviendra également un grand actionnaire dans ce nouveau PBC. Selon Altman, cela signifie que l’association à but non lucratif obtiendra une lourde partie de ressources à verser dans des programmes qui aident l’IA à bénéficier à différentes communautés.
Alors que le PBC gagne plus d’argent, l’association à but non lucratif obtient plus d’argent pour éclabousser des projets dans des domaines comme la santé, l’éducation et la science. Ils obtiennent même une commission spéciale pour imaginer que leur travail à but non lucratif puisse rendre l’IA plus démocratique.
Altman a conclu les choses avec une bonne dose d’optimisme, en disant: «Nous pensons que cela nous prépare à continuer de faire des progrès rapides et sûrs et de mettre une grande IA entre les mains de tout le monde.»
Openai essaie clairement d’attirer le financement colossal nécessaire pour le développement AGI tout en portant dure son mantra «avantage de l’humanité» dans son ADN même. C’est une délicate promenade sur la corde raide, et vous pouvez parier tout le monde de la technologie, et probablement une bonne partie du reste d’entre nous, nous regardera pour voir s’ils peuvent le retirer.
(Image de Mohamed Hassan)
