Veto du gouverneur sur IA

Jusqu’à la toute fin, les deux parties ont mené leur campagne dans la Silicon Valley. Le dimanche 29 septembre dernier, le gouverneur Gavin Newsom a pris une décision déterminante : il a rejeté un projet de loi cherchant à appliquer les mesures de protection les plus sévères sur les grands modèles d’intelligence artificielle aux Etats-Unis.

Le projet de loi SB 1047, également appelé « Loi pour une innovation sécurisée dans les modèles d’IA de pointe », a créé des divisions au sein de la communauté technologique et de la scène politique californienne. Malgré le fait qu’il n’était pas aussi rigoureux que la réglementation européenne, il rendait les compagnies d’intelligence artificielle juridiquement responsables des dégâts causés par leurs modèles.

Le texte exigeait que ces entreprises intègrent une « fonction d’arrêt d’urgence » pour mettre hors service leurs systèmes en cas de perte de contrôle et de dommages importants, comme une perte importante de vies humaines ou des dommages matériels dépassant 500 millions de dollars (448 millions d’euros). Elon Musk a exprimé son soutien à cette loi, contrairement à Mark Zuckerberg (Meta), Sam Altman (OpenAI) ou l’investisseur pro-Trump Marc Andreessen.

Comme Musk, d’autres figures emblématiques de l’intelligence artificielle, notamment Geoffrey Hinton et Yoshua Bengio, ont approuvé ce texte. « Nous estimons que les modèles d’IA les plus performants pourraient prochainement représenter des risques majeurs, tels que le risque d’accès facilité à des armes biologiques et de cyberattaques contre des infrastructures critiques », a écrit Hinton dans une lettre adressée au gouverneur. Cette lettre était co-signée par des dizaines de personnes ayant travaillé dans le secteur de l’IA.

Au cours de l’événement annuel de Salesforce, une entreprise majeure du logiciel, le 24 septembre, à San Francisco, monsieur Newsom a exprimé son désaccord. Il est généralement connu pour applaudir les efforts pionniers de la Californie, notamment en matière de changement climatique et de protection du consommateur. Cependant, il a exprimé des réserves face à l’initiative portant sur la sécurité de l’intelligence artificielle (IA), qui court-circuite le débat national sur ce sujet.

M. Newsom a également partagé sa préoccupation qu’elle puisse « dissuader l’industrie ». « Nous sommes les leaders dans ce domaine, et je ne souhaite pas perdre cet avantage, » a-t-il déclaré, faisant référence au fait que 32 des plus grandes entreprises spécialisées en IA sont basées en Californie. Lorsqu’il s’agit des risques associés à l’IA, il a déclaré préférer se concentrer sur ceux qui sont prouvés plutôt que sur les hypothétiques. La proposition de loi visait les systèmes qui requièrent plus de 100 millions de dollars pour leur développement. Aucun modèle n’a encore atteint ce montant, mais certains pessimistes croient que cela pourrait se produire rapidement.

Le reste de cet article, soit 44.64%, est réservé aux personnes abonnées.