Recherche en alignement chez Anthropic

L’intelligence artificielle pourrait-elle devenir une menace majeure pour l’humanité ? Le PDG d’Anthropic, Dario Amodei, tire la sonnette d’alarme dans un essai remarqué sur les risques d’une superintelligence mal maîtrisée.

Une superintelligence aux conséquences potentiellement dévastatrices

Dario Amodei, patron de Anthropic et créateur du chatbot Claude, publie un long essai qui fait l’effet d’un signal d’alarme. Il y décrit l’arrivée possible, à plus ou moins court terme, d’une superintelligence artificielle capable d’égaler, voire de dépasser, les meilleurs experts humains dans tous les domaines clés, de la médecine à la physique en passant par les mathématiques.

Selon lui, l’humanité s’apprête à manier un pouvoir presque inimaginable, sans certitude que ses structures politiques, sociales et technologiques soient suffisamment mûres pour en garder le contrôle.

Cybercriminalité, armes biologiques et rivalités géopolitiques

Parmi les risques majeurs évoqués figurent l’explosion de la cybercriminalité et la possibilité de concevoir et de diffuser plus facilement des armes biologiques ou chimiques. L’IA pourrait aussi devenir un atout militaire décisif, offrant à certains pays des capacités offensives écrasantes.

Dario Amodei pointe notamment la Chine en toile de fond et rappelle s’être opposé par le passé à l’exportation de cartes graphiques Nvidia très avancées vers ce pays, par crainte d’un déséquilibre stratégique.

Un choc économique et social sans précédent

Le dirigeant d’Anthropic alerte également sur l’impact de l’IA sur l’emploi. Selon lui, jusqu’à 50 % des postes de cadres débutants pourraient disparaître d’ici cinq ans. Une perspective encore débattue, mais de plus en plus présente dans les analyses économiques.

Autre sujet d’inquiétude : la concentration extrême des richesses générées par l’IA. Elle pourrait accentuer les fractures géographiques et économiques, au point de transformer la Silicon Valley en une sorte d’économie parallèle, déconnectée du reste du monde.

Des risques connus, partagés par d’autres figures de l’IA

Dario Amodei n’est pas seul à tirer la sonnette d’alarme. Ses positions rejoignent celles de Geoffrey Hinton, Joshua Bengio ou encore Elon Musk, qui alertent depuis plusieurs années sur les dangers de l’intelligence artificielle.

Ces risques se répartissent en trois grandes catégories : les impacts économiques et sociétaux (emploi, désinformation, démocratie), les usages malveillants comparables à ceux du nucléaire, et enfin le scénario plus spéculatif d’une perte de contrôle totale des systèmes, popularisé par la science-fiction.

Réglementation, garde-fous et bouton rouge

Pour éviter le pire, Dario Amodei avance plusieurs pistes. Il plaide pour une réglementation renforcée, avec des évaluations strictes des systèmes d’IA, comparables à celles imposées aux avions ou aux médicaments. Il recommande aussi un déploiement progressif des outils les plus puissants et l’installation de dispositifs de sécurité matériels, de véritables « kill switch », capables d’arrêter une IA en cas de dérive.

Enfin, il insiste sur l’importance de la recherche en alignement et en contrôle des modèles, un domaine qu’il présente comme central dans les travaux menés par Anthropic. Un cri d’alarme de plus, mais cette fois émis de l’intérieur même du système, dans un contexte où la course à l’IA s’accélère dangereusement.

-----------
♥️ Soutien :
https://mondenumerique.info/don
🗞️ Newsletter :
https://mondenumerique.substack.com

Hébergé par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.