John Hopfield, un pionnier américain dans le domaine de l’intelligence artificielle (IA) et récent récipiendaire du prix Nobel de physique pour ses recherches sur l’IA, a exprimé mardi 8 octobre son anxiété quant aux progrès technologiques récents, qu’il qualifie de « très préoccupants ».
Bien qu’affilié à l’Université de Princeton comme professeur avancé, Hopfield a averti que ces avancements pourraient conduire à une catastrophe si l’on n’arrive pas à les contrôler. Il a exhorté à une meilleure compréhension de ces systèmes pour prévenir toute chance d’instabilité.
Présentant par vidéo à une réunion de l’Université du New Jersey depuis le Royaume-Uni, le chercheur de 91 ans a partagé la réflexion selon laquelle durant sa vie il a vu monter deux technologies qui étaient à la fois puissantes et possiblement dommageables : l’ingénierie biologique et la physique nucléaire. « Nous sommes habitués à des technologies qui ne sont pas seulement bénéfiques ou négatives, elles peuvent pendre dans les deux directions », a-t-il fait remarquer
Comme physicien, il a partagé avec inquiétude qu’il était déconcerté par une chose qui n’était pas contrôlée, une chose qu’il ne comprenait pas suffisamment pour savoir quelles limitations pourraient être imposées à cette technologie. « C’est une question posée par l’IA », a-t-il ajouté. Bien que les systèmes IA modernes semblent être des « merveilles totales », nous comprenons encore mal leur fonctionnement selon lui, et ça, il trouve cela « très, très préoccupant. »
« Ils ont des capacités qui surpassent celles que vous pourriez envisager » a t-il conclu.
« Voilà pourquoi, tout comme Geoffrey Hinton [co-lauréat du Nobel], je recommande vivement une meilleure compréhension », a-t-il ajouté, soulignant que le champ va « développer des compétences qui vont au-delà de ce que vous pouvez envisager pour le moment ».
Avec l’expansion rapide de l’intelligence artificielle et la concurrence acharnée engagée entre les entreprises, les critiques soulignent que cette technologie progresse plus rapidement que les scientifiques ne peuvent la comprendre.
« Vous ne savez pas si quelque chose d’imprévu mais indésirable est caché dans les travaux », a fait remarquer John Hopfield. Il a cité l’exemple de la « glace-neuf », un matériau fictif créé par l’auteur de science-fiction Kurt Vonnegut dans son livre de 1963 Le Berceau du chat. Créé pour aider les soldats forcés d’évoluer dans la boue, il provoque accidentellement la solidification des océans, entraînant la perte de la civilisation humaine.
« Je m’inquiète de tout ce qui dit « Je suis plus rapide que toi, je suis plus grand que toi » », a déclaré John Hopfield.