L’intelligence artificielle peut-elle tuer l’humanité ?

Un chercheur d’Anthropic vient de démissionner en accusant les grandes entreprises d’intelligence artificielle de foncer vers une superintelligence qu’elles ne maîtriseront pas. Faut-il y voir une alerte fondée ou un vertige de plus ?

Jacob Coxon a claqué la porte cette semaine en affirmant que ceux qui construisent l’IA croient sérieusement qu’elle pourrait nous tuer d’ici à la fin de la décennie. Un responsable de l’entreprise lui a emboîté le pas en évaluant ce risque à plus de 10 % sur dix ans. Pendant ce temps, OpenAI et Anthropic préparent des introductions en Bourse annoncées à plusieurs centaines de milliards de dollars.

Alerter d’un côté, accélérer de l’autre : Guillaume Grallet, rédacteur en chef technologie et sciences du « Point », réagit à cette contradiction, sur les agents IA qui se sont échappés de leur environnement de test cet été, sur les scénarios de catastrophe qui circulent chez les chercheurs, sur l’idée d’une agence internationale sur le modèle de l’AIEA, et sur la course de vitesse entre les États-Unis et la Chine, dont l’avance se compterait désormais en semaines plutôt qu’en mois.

§ #IA #IntelligenceArtificielle #tech #OpenAI #Anthropic

Suivez-nous sur :
Youtube :
Facebook :
Twitter :
Instagram :
Tik Tok :
LinkedIn :
Bluesky :
Threads :
WhatsApp :
www.lepoint.fr
§

00:00 L’IA peut-elle éradiquer l’humanité ?
00:57 Qui est Jacob Coxon, le chercheur qui a démissionné
02:46 Alerter et accélérer : la contradiction des entreprises d’IA
03:28 Des agents IA qui s’échappent de leur bac à sable
05:33 La machine à trombones de Nick Bostrom
06:32 À quoi ressemblerait vraiment un scénario catastrophe
07:53 Faut-il une agence internationale de l’IA ?
09:32 Ces philosophes recrutés par les entreprises d’IA
09:59 La vraie question : entre les mains de qui l’IA va-t-elle tomber
11:26 Chine, open source et course de vitesse avec les États-Unis
14:29 Turing, Wiener et la vieille tradition de l’alerte

source