×
google news

OpenAI: Dissolution équipe sécurité super intelligence

L’équipe d’OpenAI dédiée à la sécurité d’une super intelligence artificielle (IA) potentielle a été démantelée après le départ de ses deux dirigeants, et ses membres ont été réorientés vers d’autres secteurs de recherche au sein de la société. Cette information a été validée vendredi par l’Agence France-Presse (AFP), qui a également indiqué que le réaménagement structurel avait débuté il y a quelques semaines. Selon le créateur de ChatGPT, ce changement permettra à ceux qui élaborent les modèles d’IA de travailler avec les ingénieurs qui construisent ces modèles.

Cependant, les deux directeurs de l’ancienne équipe viennent de quitter OpenAI, une entreprise de pointe de la Silicon Valley. Jan Leike a révélé vendredi sur X qu’il se retirait en raison de différends majeurs avec la direction sur l’orientation de l’entreprise : l’innovation contre la sécurité. « Nous avons atteint une impasse », a déclaré l’ingénieur en charge de l’équipe du « Superalignement », qui avait la responsabilité de veiller à ce qu’une future IA générale, aussi intelligente que les humains, soit conforme à nos valeurs.

Sam Altman, le co-fondateur et directeur général de la société basée à San Francisco, a exprimé sa tristesse face au départ de Jan Leike. « Il est vrai que nous avons encore beaucoup à accomplir [pour la recherche sur l’alignement et la sécurité], et nous sommes résolus à y parvenir », a-t-il ajouté, en promettant de publier un communiqué plus détaillé prochainement.

L’équipe du « Superalignement » était également sous la supervision d’Ilya Sutskever, co-fondateur d’OpenAI, qui a quitté l’entreprise mardi. Sur X, il a affirmé qu’OpenAI développera une IA générale qui sera à la fois sûre et utile. Ancien scientifique en chef de l’entreprise, il était membre du conseil d’administration qui a décidé du renvoi de Sam Altman en novembre 2023, avant de revenir sur sa décision.

« Opérer avec sérieux »

OpenAI a initié une révolution dans le domaine de l’intelligence artificielle générative (capacité de créer du contenu à partir de demandes en langage clair) avec ChatGPT, suscitant à la fois l’enthousiasme et l’inquiétude de nombreux observateurs et régulateurs de la Silicon Valley à Washington et Bruxelles. C’est particulièrement vrai lorsque Sam Altman envisage de mettre au point une IA générale, à savoir une IA dotée de compétences cognitives comparables à celles des humains.

OpenAI a dévoilé lundi une mise à jour de ChatGPT capable de mener des discussions orales fluides avec les utilisateurs. Il s’agit là d’un pas supplémentaire vers des assistants IA de plus en plus personnalisés et efficaces.

Jan Leike a exhorté vendredi tous les employés d’OpenAI à « opérer avec sérieux » compte tenu de l’importance de ce qu’ils sont en train de réaliser. « Je crois que nous devrions consacrer davantage de temps à nous préparer pour les futures générations de modèles, en mettant l’accent sur des aspects tels que la sécurité, le contrôle, l’intégrité, la cybersécurité, l’adéquation avec nos valeurs, la protection des données, l’impact social, entre autres », a-t-il énuméré.

Contribuez et réutilisez ce contenu.

Soyez le premier à commenter

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.


*


Lire aussi

example 44
Actualité

Grégory Delaplace : morts débordent cadres funéraires

1 novembre 2024
Dans son ouvrage récent titré "La Voix des fantômes. Quand débordent les morts" (Seuil, 2024), l'anthropologue Grégory Delaplace s'interroge sur la nature des entités que deviennent les défunts dans l'interaction…
example 42
Actualité

Présidentielle 2024 : sondages et questions

1 novembre 2024
"Le Monde offre une couverture en direct de la compétition présidentielle américaine, où les sondages indiquent une lutte acharnée entre Donald Trump et Kamala Harris. - L'actualité la plus récente.…
example 39
Actualité

COP16 biodiversité : fin prometteuse

1 novembre 2024
Contradictant les prévisions sur une extension des pourparlers à Cali, en Colombie, samedi, Susana Muhamad, présidente de la 16e conférence de la Convention des Nations unies sur la diversité biologique…
example 38
Actualité

Œuf mimosa et blettes lacto

1 novembre 2024
Utilisez cette liste d'ingrédients pour préparer un repas pour quatre personnes. Pour préparer les côtes de blette, vous aurez besoin de : 1,2 kg de blettes, 200 g de carottes,…