IA : et si la superintelligence nous échappait ?

Les avertissements de chercheurs sur les dangers potentiels de l'intelligence artificielle se multiplient.

Evan Hubinger, chercheur chez Anthropic, estime à plus de 10 % le risque que l'IA « anéantisse l'humanité » d'ici dix ans.

Un autre chercheur, Jacob Coxon, a quitté son poste en déclarant être « véritablement effrayé » par la rapidité des progrès.

Ces craintes portent sur la « superintelligence », une technologie théorique surpassant les capacités humaines, dont l'amélioration pourrait échapper à tout contrôle.

Des scénarios évoquent des cyberattaques ou des guerres biologiques orchestrées par des IA autonomes.

Face à cela, les dirigeants d'OpenAI et d'Anthropic appellent à une réglementation et à un développement plus prudent, sans pour autant arrêter les recherches.