Plus de 700 scientifiques et personnalités publiques réclament l’arrêt immédiat du développement d’une superintelligence artificielle. Cette initiative, portée par le Future of Life Institute, vise à alerter sur les dangers d’une IA dépassant les capacités humaines. Les signataires redoutent qu’une telle technologie échappe au contrôle de ses concepteurs. Selon eux, l’humanité doit d’abord établir des garanties de sécurité avant toute avancée majeure.
Parmi les signataires figurent Geoffrey Hinton, Yoshua Bengio, Steve Wozniak ou encore Richard Branson. Ces figures influentes rappellent que la prudence scientifique doit primer sur la compétition technologique. De plus, ils estiment qu’un consensus global est indispensable avant d’aller plus loin. Autrement dit, il faut un encadrement solide et un débat public transparent.
Cet appel intervient dans un contexte de progrès rapides en intelligence artificielle. Des modèles toujours plus puissants soulèvent des questions éthiques et sociétales. En outre, certains experts craignent une perte de contrôle face à des systèmes capables d’apprendre seuls. Le problème de la responsabilité de la décision prise par l’IA est essentiel !
Il semble très improbable que les grandes entreprises comme Google, Microsoft, Meta ou OpenAI s’arrêtent volontairement. Leur logique est celle de la course à la puissance et au profit : qui contrôlera la prochaine révolution technologique ? Aucun acteur privé ne veut être le premier à lever le pied pendant que les autres avancent.
Les gouvernements peinent à suivre. Ils manquent de compétences techniques, de moyens de régulation rapides, et tout simplement de volonté politique face à des géants économiques plus puissants qu’eux.
Plus de 700 scientifiques, personnalités politiques, entrepreneurs tech et célébrités ont appelé ce mercredi 22 octobre à l’arrêt des travaux visant au développement d’une intelligence artificielle (IA) capable de surpasser les capacités humaines face aux risques que cela ferait encourir à l’humanité.
« Nous appelons à l’arrêt du développement d’une superintelligence, tant qu’il n’y a pas un consensus scientifique que cela peut être construit de façon contrôlée et sécurisée et tant qu’il n’existe pas un soutien de la part de la population », indique la page de l’initiative lancée par le Future of Life Institute, organisme non lucratif basé aux Etats-Unis qui met régulièrement en garde contre les méfaits de l’IA.
Parmi les signataires figurent plusieurs pères de l’IA moderne comme Geoffrey Hinton, prix Nobel de physique en 2024, Stuart Russell professeur d’informatique à l’Université de Californie à Berkeley ou encore Yoshua Bengio, professeur à l’université de Montréal.
La liste comprend aussi des figures de la tech comme Richard Branson, fondateur du groupe Virgin et Steve Wozniak, cofondateur d’Apple; des personnalités politiques comme Steve Bannon, ancien conseiller du président américain Donald Trump et Susan Rice, conseillère à la sécurité nationale sous Barack Obama; des responsables religieux comme Paolo Benanti, conseiller du pape et principal expert du Vatican sur l’IA mais aussi des célébrités comme le chanteur américain will.i.am ou encore le prince Harry et son épouse Meghan Markle…
