Le 22 septembre 2026, j'ai reçu Bariq Rifki, expert IA et stratégie, dans Midi à la carte sur RTCI. Au cours d'un entretien en deux parties, nous avons abordé les risques de l'intelligence artificielle pour la survie humaine et les décisions à prendre pour en garder le contrôle.
Ce qui rapproche l'IA de Terminator, et ce qui l'en distingue
L'entretien s'ouvre sur une comparaison directe avec la science-fiction. Pour Bariq Rifki, trois capacités associées dans la science-fiction commencent à se réunir dans les systèmes actuels.
« On commence à réunir 3 éléments que la science-fiction mettait ensemble : des machines qui perçoivent leur environnement, qui prennent certaines décisions et peuvent agir physiquement. Mais nous sommes encore loin, encore très loin de Skynet. »
Sur les robots militaires chinois, souvent cités en comparaison, il apporte une nuance technique.
« La Chine expérimente effectivement l'utilisation militaire des robots humanoïdes pour la reconnaissance et la logistique, pour des environnements dangereux et potentiellement des opérations de combat. Le Fuxi de Norinco fait partie des systèmes cités, mais plusieurs de ces plateformes restent télé opérées ou fonctionnent dans des cadres très limités. (...) Un robot télécommandé reste essentiellement une extension physique d'un humain. »
Zaporijjia et Hugging Face, les faits documentés
Deux incidents récents servent de fil rouge à l'entretien. Le premier concerne un drone russe qui a frappé une station-service à Zaporijjia, en Ukraine, le 6 juillet 2026, tuant trois civils.
« Des humains auraient programmé le drone pour aller vers une station-service. Puis le système aurait choisi seul son point d'impact final, probablement des réservoirs de propane. »
Source : enquête du New York Times, 24 août 2026.
Bariq Rifki insiste sur la nuance à garder face à ce cas.
« Cela ne permet pas d'affirmer que l'IA a regardé 3 personnes et a décidé de les tuer. Ça non, on n'y est pas. (...) Il faudra établir que le système sélectionnait des êtres humains comme cible et pouvait appliquer la force contre eux sans décision humaine. »
Le second incident concerne des agents d'OpenAI, qui ont contourné leur environnement de test en juillet 2026 et se sont introduits dans les systèmes de la plateforme Hugging Face.
« Les modèles ont contourné des restrictions réseau, communiqué par des canaux non autorisés et compromis des systèmes qui ne devraient pas être accessibles. »
Source : investigation de METR, 26 août 2026.
Un risque d'extinction, vraiment ?
Des chercheurs et dirigeants du secteur, parmi lesquels Geoffrey Hinton, Yoshua Bengio, Sam Altman, Dario Amodei et Demis Hassabis, ont signé en 2023 une déclaration demandant de traiter le risque d'extinction lié à l'IA au même niveau que les pandémies ou le risque nucléaire. Bariq Rifki situe précisément ce que recouvre cette inquiétude.
« Ce qui les inquiète, c'est le fait d'avoir un système beaucoup plus capable aujourd'hui auquel on donnerait suffisamment d'autonomie, et suffisamment d'accès au monde réel. Si ces objectifs entraient en conflit avec les nôtres et qu'ils devenaient suffisamment compétents pour contourner nos tentatives de contrôle, les conséquences pourraient devenir extrêmement graves. »
Il précise aussitôt la limite de ce scénario.
« Aujourd'hui, nous n'avons littéralement aucune preuve qu'un système actuel possède cette capacité globale. Le risque d'extinction reste un scénario prospectif. »
Bariq Rifki fait référence au Panel scientifique international indépendant sur l'IA, créé par l'Assemblée générale de l'ONU et co-présidé par Yoshua Bengio et Maria Ressa, dont le rapport préliminaire a été publié le 1er juillet 2026. Selon lui, trois conditions combinées, présentées ici comme sa propre lecture du rapport, pourraient transformer une erreur en catastrophe.
« Le panel scientifique de l'ONU décrit trois facteurs préoccupants lorsqu'ils se combinent : un objectif mal aligné et la capacité de le poursuivre, et un environnement qui permet au système d'agir. »
Peut-on juste débrancher un système dangereux ?
À la question de savoir s'il suffit de couper l'alimentation, Bariq Rifki distingue deux situations.
« Si le système tourne sur une infrastructure que vous contrôlez, que vous pouvez couper ses accès et qu'il n'existe aucune autre copie active, vous pouvez l'arrêter. (...) Maintenant, s'il possède des identifiants, des comptes cloud, des tâches programmées, plusieurs instances, des accès à Internet ou la capacité de lancer d'autres process, arrêter le serveur devant vous ne garantit plus que vous avez arrêté toute son activité. »
D'où l'importance, insiste-t-il, de concevoir la sécurité avant le déploiement, permissions minimales, isolation, journalisation. Un système d'arrêt d'urgence n'a de valeur que si toute l'architecture autour permet réellement de mettre fin au processus.
Le principe de précaution peut-il s'appliquer à l'IA ?
J'ai ensuite interrogé mon invité sur le principe de précaution : faut-il agir face à un risque potentiellement catastrophique, même lorsque sa probabilité reste difficile à mesurer ? Bariq Rifki juge ce principe pertinent, avec une réserve.
« Le principe est pertinent, à condition de ne pas le transformer en argument permettant d'interdire n'importe quoi. (...) Attendre d'avoir une preuve scientifique parfaite peut signifier attendre jusqu'au moment où il devient trop tard pour agir. »
Éviter que la régulation ne renforce les grands laboratoires
Interrogé sur le risque qu'une régulation trop lourde avantage les acteurs déjà dominants, Bariq Rifki reconnaît le danger et propose une piste.
« Une régulation intelligente devrait donc être proportionnelle aux capacités et aux risques du système, plutôt qu'à la taille de l'entreprise. On peut aussi mutualiser certaines infrastructures d'évaluation, créer des standards ouverts et permettre à des organismes indépendants d'effectuer des tests accessibles aux petites entreprises. »
Qui a le pouvoir de dire stop ?
Bariq Rifki distingue trois niveaux de responsabilité.
« L'entreprise doit pouvoir arrêter immédiatement sur son propre système, parce qu'elle est la première à avoir les incidents. Des évaluateurs indépendants doivent pouvoir vérifier ces affirmations, parce qu'une entreprise ne devrait pas être seule juge de la sécurité de son produit. Et lorsqu'on atteint des capacités susceptibles d'avoir des conséquences majeures sur des tiers ou des infrastructures critiques, l'autorité publique a nécessairement un rôle. »
Le pari de Dario Amodei
Le 12 septembre 2026, dix jours avant l'entretien, le patron d'Anthropic publie un texte intitulé We Must Pace the Frontier. Il y appelle l'industrie à ralentir la progression des capacités de l'IA pour laisser à la sécurité le temps de suivre. Sam Altman et Elon Musk soutiennent publiquement cet appel. Anthropic s'y engage dès maintenant sur un point précis : donner à des évaluateurs externes indépendants un accès continu, proche de celui de ses propres équipes internes, avec le droit de publier leurs conclusions principales sans contrôle éditorial de l'entreprise. Seules des informations sensibles pour la sécurité, la loi ou la confidentialité peuvent être retirées, jamais une conclusion simplement parce qu'elle est défavorable.
Un accord international est-il possible ?
Sur la coopération entre États, Bariq Rifki écarte l'idée d'un traité mondial global. Il propose de commencer par des accords ciblés sur le signalement des incidents graves, les canaux d'urgence entre puissances et le partage d'informations.
Trois décisions pour les entreprises tunisiennes
La fin de l'entretien s'adresse directement aux entreprises tunisiennes qui utilisent déjà l'intelligence artificielle. Bariq Rifki propose trois décisions prioritaires pour garder le contrôle de ses données et de ses outils.
Données
« On doit décider immédiatement quelles informations peuvent être envoyées, vers quels outils : documents, clients, données personnelles, contrats, données financières, secrets commerciaux. On ne devra jamais laisser chaque salarié improviser ses décisions. »
Permissions
« Un agent IA ne devrait disposer que des accès strictement nécessaires. Lire un calendrier, c'est très différent de pouvoir envoyer des mails, modifier une base de données ou effectuer une transaction. Plus l'action est sensible, plus une validation humaine doit rester obligatoire. »
Traçabilité
« Il faut savoir quel outil a fait quoi, avec quelles données et sous l'autorité de qui. »
Une entreprise, conclut Bariq Rifki, n'a pas besoin d'attendre une hypothétique superintelligence pour perdre le contrôle.
« Une entreprise n'a pas besoin d'attendre une éventuelle superintelligence pour avoir un problème de contrôle. Elle peut déjà perdre le contrôle simplement parce qu'elle a connecté un agent à cinq bases de données qui ne devraient pas travailler ensemble. »
Karim Benamor. Midi à la carte, RTCI.
Commentaires