En bref
- Cato soutient qu'une pause de l'IA imposée par le gouvernement pourrait entraver l'innovation et protéger les entreprises établies.
- Jack Dorsey s'oppose également aux limites négociées par les principaux développeurs, mais accepte des restrictions pour faire face à des risques catastrophiques.
- Les législateurs et les dirigeants de l'IA poussent à des restrictions, tandis que les analystes doutent que les engagements volontaires tiennent.
L'Institut libertarien Cato avertit qu'une pause imposée par le gouvernement dans le développement de l'intelligence artificielle pourrait protéger les entreprises dominantes de la concurrence et retarder une technologie bénéfique, alors que les législateurs et les dirigeants de l'IA poussent à des restrictions.
Dans un article de blog lundi, Jennifer Huddleston, une spécialiste des politiques technologiques au sein du groupe de réflexion, a soutenu que les entreprises peuvent faire face à des dangers spécifiques grâce à des garanties volontaires et des normes partagées sans arrêter le développement dans l'ensemble du secteur.
« Une pause imposée par le gouvernement soulèverait plusieurs préoccupations et ne parviendrait probablement pas à réaliser les améliorations de sécurité qu'elle prétend apporter », a-t-elle écrit, ajoutant que les règles gouvernementales sont lentes à rédiger et encore plus lentes à modifier. « Un cadre réglementaire conçu pour les modèles d'aujourd'hui pourrait activement entraver ceux de demain, empêchant ce qui pourrait être des réponses meilleures ou plus sûres. »
Huddleston reconnaît les risques de l'IA mais avertit que des règles façonnées autour des principaux développeurs pourraient les aider à consolider leur pouvoir et à limiter la concurrence — une forme de captation de marché qui rendrait plus difficile la concurrence pour les petites entreprises. Elle soutient également que suspendre le développement américain pourrait affaiblir les défenses en cybersécurité tandis que les rivaux étrangers continuent de progresser.
Son commentaire fait suite à une proposition du sénateur Bernie Sanders et du représentant Greg Casar visant à suspendre le développement de l'IA avancée jusqu'à ce que des normes fédérales de sécurité soient établies et à interdire définitivement la superintelligence artificielle, tandis que le PDG d'OpenAI, Sam Altman, a soutenu un développement plus lent et a exhorté les entreprises à renforcer les sauvegardes sans attendre les règles fédérales qu'il soutient.
« Beaucoup de ces appels sont accompagnés de scénarios apocalyptiques dignes de la science-fiction sur le pire qui pourrait arriver », a écrit Huddleston. « Pourtant, une précipitation à réglementer par peur pourrait avoir des conséquences négatives à plus long terme que le risque qu'elle prétend traiter. »
Le président et cofondateur de Block, Jack Dorsey, a exprimé des inquiétudes similaires concernant la concurrence dans un post sur X lundi.
« Les entreprises qui mènent l'intelligence artificielle méritent d'être entendues. Elles ont une expertise et des intérêts commerciaux à protéger », a écrit Dorsey. « Des règles construites autour de leurs ressources pourraient faire d'elles les seules capables de participer. Une préoccupation sincère pour la sécurité peut tout de même produire une barrière à l'entrée. »
Dorsey a déclaré qu'il favorise les publications ouvertes que les chercheurs peuvent inspecter, modifier et tester, avec des évaluations et des limitations connues publiées afin que des tiers puissent contester les affirmations de sécurité des développeurs.
« Je soutiens l'examen minutieux. Je m'oppose aux limites à l'échelle de l'industrie négociées par les leaders actuels parce qu'elles pourraient exclure les personnes susceptibles d'exposer des défaillances ou de construire des alternatives », a-t-il écrit. « Préserver l'avantage commercial d'une entreprise n'est pas un objectif de sécurité. »
Dans son post, Dorsey a également déclaré qu'il soutient les tests indépendants et une application redevable publiquement, y compris la rétention de modèles lorsque les preuves montrent que leur publication augmenterait matériellement des risques catastrophiques que des mesures plus ciblées ne peuvent pas traiter adéquatement.
« Le calcul peut déclencher un examen sans plafonner le développement. L'examen n'est pas une permission d'un régulateur ou d'un concurrent », a-t-il dit. « Je ne veux pas d'exigences d'approbation générale ni de périodes d'attente. Tout retard imposé à la publication pour des raisons de sécurité doit être justifié par l'exception de risque catastrophique. »
Une récente analyse de l'Atlantic Council soutient que la pression concurrentielle exige des normes de sécurité de l'IA applicables, tandis que la méfiance entre les États-Unis et la Chine complique les accords internationaux. La coopération soulève également des préoccupations antitrust : OpenAI a demandé aux législateurs si des développeurs rivaux pouvaient légalement convenir de ralentir le développement.
