L’équipe d’OpenAI dédiée à la sécurité d’une super intelligence artificielle (IA) potentielle a été démantelée après le départ de ses deux dirigeants, et ses membres ont été réorientés vers d’autres secteurs de recherche au sein de la société. Cette information a été validée vendredi par l’Agence France-Presse (AFP), qui a également indiqué que le réaménagement structurel avait débuté il y a quelques semaines. Selon le créateur de ChatGPT, ce changement permettra à ceux qui élaborent les modèles d’IA de travailler avec les ingénieurs qui construisent ces modèles.
Cependant, les deux directeurs de l’ancienne équipe viennent de quitter OpenAI, une entreprise de pointe de la Silicon Valley. Jan Leike a révélé vendredi sur X qu’il se retirait en raison de différends majeurs avec la direction sur l’orientation de l’entreprise : l’innovation contre la sécurité. « Nous avons atteint une impasse », a déclaré l’ingénieur en charge de l’équipe du « Superalignement », qui avait la responsabilité de veiller à ce qu’une future IA générale, aussi intelligente que les humains, soit conforme à nos valeurs.
Sam Altman, le co-fondateur et directeur général de la société basée à San Francisco, a exprimé sa tristesse face au départ de Jan Leike. « Il est vrai que nous avons encore beaucoup à accomplir [pour la recherche sur l’alignement et la sécurité], et nous sommes résolus à y parvenir », a-t-il ajouté, en promettant de publier un communiqué plus détaillé prochainement.
L’équipe du « Superalignement » était également sous la supervision d’Ilya Sutskever, co-fondateur d’OpenAI, qui a quitté l’entreprise mardi. Sur X, il a affirmé qu’OpenAI développera une IA générale qui sera à la fois sûre et utile. Ancien scientifique en chef de l’entreprise, il était membre du conseil d’administration qui a décidé du renvoi de Sam Altman en novembre 2023, avant de revenir sur sa décision.
« Opérer avec sérieux »
OpenAI a initié une révolution dans le domaine de l’intelligence artificielle générative (capacité de créer du contenu à partir de demandes en langage clair) avec ChatGPT, suscitant à la fois l’enthousiasme et l’inquiétude de nombreux observateurs et régulateurs de la Silicon Valley à Washington et Bruxelles. C’est particulièrement vrai lorsque Sam Altman envisage de mettre au point une IA générale, à savoir une IA dotée de compétences cognitives comparables à celles des humains.
OpenAI a dévoilé lundi une mise à jour de ChatGPT capable de mener des discussions orales fluides avec les utilisateurs. Il s’agit là d’un pas supplémentaire vers des assistants IA de plus en plus personnalisés et efficaces.
Jan Leike a exhorté vendredi tous les employés d’OpenAI à « opérer avec sérieux » compte tenu de l’importance de ce qu’ils sont en train de réaliser. « Je crois que nous devrions consacrer davantage de temps à nous préparer pour les futures générations de modèles, en mettant l’accent sur des aspects tels que la sécurité, le contrôle, l’intégrité, la cybersécurité, l’adéquation avec nos valeurs, la protection des données, l’impact social, entre autres », a-t-il énuméré.
Contribuez et réutilisez ce contenu.
Une tentative d'effraction peut laisser les propriétaires vulnérables et anxieux. Savoir comment réagir immédiatement après un tel événement est crucial pour sécuriser votre espace et aider à l'enquête.
Dans un message publié sur Twitter, le ministre ukrainien des affaires étrangères, M. Kuleba, a appelé la population à boycotter trois entreprises bien connues.