La façon dont la Chine utilise l'IA nous aide à comprendre le lien entre le gouvernement, les machines et les gens.
Cet article fait partie d'une série appelée « Ne demandez pas à l'IA, demandez à un ami ». C'est un projet commun entre Global Voices, l'Association pour le progrès des communications (APC) et GenderIT. Cette série veut rappeler qu'il est important de partager nos connaissances, comme on le fait depuis longtemps. Vous pouvez suivre cette série sur APC.org, GenderIT.org et globalvoices.org. Elle fait aussi partie de la série « Perspectives humaines sur l'IA » publiée par Global Voices en avril 2026. Vous pouvez aider ce projet en faisant un don ici.
La Chine est connue pour utiliser l'IA pour la surveillance et pour limiter les libertés de ses citoyens. Il est donc difficile pour elle de proposer une façon d'utiliser l'IA qui respecte les droits humains. Pourtant, la Chine utilise beaucoup l'IA et veut devenir le leader mondial dans ce domaine. Cela peut nous aider à comprendre comment le secteur privé et le gouvernement travaillent ensemble, et comment les machines et la société interagissent.
En février 2026, un ingénieur espagnol, Sammy Azdoufal, a découvert qu'il pouvait contrôler 7 000 aspirateurs intelligents. Il pouvait voir en direct ce qui se passait chez les gens, entendre ce qui se disait grâce aux microphones, et savoir exactement où se trouvaient les maisons grâce à leur adresse IP. Il a découvert cela en regardant la connexion entre son nouvel aspirateur DJI Romo et sa manette PlayStation.
Même si l'entreprise chinoise a rapidement corrigé ce problème de sécurité, cet événement montre à quel point il est facile pour les technologies de surveillance basées sur l'IA de s'introduire dans notre vie privée et les dangers que cela représente.
Les technologies de surveillance et de guerre utilisant l'IA présentent des dangers pour tout le monde.
L'aspirateur intelligent dont nous parlons n'est pas disponible aux États-Unis. Son fabricant, DJI, est considéré comme une « entreprise militaire chinoise » depuis 2022. Il a été ajouté à une liste noire par le Pentagone pour des raisons de sécurité nationale.
On parle beaucoup de la Chine et de ses technologies de surveillance basées sur l'IA, mais ces technologies sont utilisées partout dans le monde et affectent toutes les populations.
La Chine est en effet un leader dans l'utilisation de technologies de surveillance avancées pour renforcer son système politique. Elle a même exporté ces outils vers d'autres pays autoritaires. Les médias internationaux ont beaucoup parlé de cela. L'expérience de la Chine, que ce soit dans la gestion des Ouïghours au Xinjiang ou dans son système national de contrôle du COVID-19, montre que la surveillance des personnes sous prétexte de contrôle social et l'utilisation de technologies comme la reconnaissance faciale, le système de crédit social, la géolocalisation et le suivi des données en ligne, fonctionnent ensemble pour maintenir un contrôle strict. Cela permet d'éviter toute action qui pourrait déstabiliser le pays. La situation, qui ressemble à un roman d'Orwell, montre que l'État, grâce à une IA puissante, peut renforcer son pouvoir en limitant les libertés individuelles de se réunir, de s'exprimer et de se déplacer.
Le marché mondial des technologies de répression
Ces technologies de répression très avancées ont un potentiel commercial énorme. En Chine, les systèmes de reconnaissance faciale basés sur l'IA sont utilisés pour donner des amendes aux piétons qui traversent en dehors des passages et aux voitures mal garées. Ils servent aussi à traiter les paiements en ligne et hors ligne, et à surveiller les résultats scolaires des élèves, entre autres choses.
Même si les pays démocratiques sont méfiants quant à l'utilisation de la surveillance par IA par la Chine, ils finissent par acheter des outils d'IA similaires auprès d'entreprises qui ne sont pas chinoises. Par exemple, la police britannique a récemment acheté une technologie de reconnaissance faciale par IA. Cette technologie est utilisée par les services de renseignement israéliens pour identifier et suivre les civils palestiniens qui circulent à Gaza. Ces 50 appareils de reconnaissance faciale par IA seront utilisés dans tout le pays pour identifier et suivre les personnes recherchées par la police britannique. Aux États-Unis, l'IA a aussi été utilisée pour la surveillance et pour arrêter massivement les immigrants sans papiers. Elle a également été utilisée pendant la récente guerre contre l'Iran.
Sur le plan numérique, l'IA a eu un impact très négatif sur les médias et la façon dont nous recevons l'information. La censure et les préjugés politiques de DeepSeek, une IA chinoise, qui est utilisée pour diffuser des messages pro-chinois, ont été bien documentés.
Parallèlement, les IA développées en Occident sont aussi utilisées pour diffuser de la propagande sur Internet. Comme le montrent les rapports d'OpenAI, des personnes en Russie et en Chine ont utilisé ChatGPT pour comprendre ce que pensent les gens et adapter leurs messages pour qu'ils plaisent à leur public. Récemment, pendant la guerre entre Israël et l'Iran, de la propagande de guerre sous forme de vidéos deepfake créées par l'IA a envahi les principales plateformes de médias sociaux.
Aujourd'hui, un petit nombre de personnes peuvent manipuler la façon dont la majorité perçoit la réalité grâce à leurs assistants IA.
Il faut rétablir l'équilibre des pouvoirs
La Chine peut aussi nous apprendre beaucoup sur la façon de gérer l'IA. Depuis 2022, elle a mis en place plusieurs lois et règles. Il y a par exemple les Dispositions sur les recommandations algorithmiques (2022), les Dispositions sur la gestion de la synthèse profonde (2023), les Mesures temporaires sur l'IA générative (2023) et les Mesures d'indication de l'IA (2025). Ces lois visent à empêcher l'utilisation illégale et dangereuse de l'IA et à s'assurer que les contenus créés par les machines respectent les valeurs socialistes de la Chine. Les droits des utilisateurs, comme la protection des données personnelles, le consentement et l'accès à ces données, ont été pris en compte. Les entreprises ont aussi plus de responsabilités pour rendre leurs algorithmes plus transparents et s'assurer qu'ils ne soient pas discriminatoires ou qu'ils ne créent pas de dépendance.
Cependant, si ces lois visent à protéger la sécurité nationale, l'ordre public et l'idéologie politique, elles ne limitent pas le pouvoir de l'État. Sur les réseaux sociaux en Chine, il arrive souvent que des utilisateurs se plaignent que la police leur rende visite simplement parce qu'ils ont acheté un objet étrange, comme un drone pour prendre des photos. Le système de crédit social, combiné à la censure en ligne, à un système de gestion des quartiers et à d'autres mesures de contrôle social, surveille ce que font les utilisateurs en ligne. Cela inclut leurs transactions financières, leurs relations sociales et leurs conversations. Cela limite leur accès aux services en ligne et publics, comme les systèmes de paiement en ligne et les réservations de voyage, si leur score est bas et qu'ils sont inscrits sur la « liste des personnes malhonnêtes » tenue par les tribunaux chinois.
Les obligations légales imposées aux entreprises privées semblent justifiées. Pourtant, il y a peu d'organisations indépendantes de la société civile qui surveillent ce secteur et s'assurent que les entreprises technologiques respectent bien les mesures de protection exigées par la loi. C'est pourquoi les problèmes de sécurité et les fuites de données personnelles dues à des produits d'IA mal conçus, comme l'aspirateur DJI Romo, continuent d'exister. En 2025, une importante fuite de données a révélé les informations de milliards d'utilisateurs chinois. Cela incluait leurs noms, numéros d'identité, mots de passe et informations bancaires et financières liées à leurs comptes sur les réseaux sociaux. Ces données pourraient être utilisées par des escrocs pour nuire aux personnes concernées.
Malgré tous ces risques de sécurité, les citoyens de Chine continentale ont rapidement adopté les nouvelles technologies, en particulier l'IA. Un exemple récent, observé début mars dans les grandes villes chinoises, est l'engouement pour OpenClaw. C'est un robot conversationnel d'IA créé par le programmeur autrichien Peter Steinberger. Il utilise d'autres grands modèles linguistiques (LLM) comme DeepSeek et Claude, fonctionne sur un ordinateur personnel et stocke les données localement. D'autres entreprises chinoises, comme Tencent, ByteDance et Xiaomi, ont profité de cette tendance pour lancer des produits similaires. Cet enthousiasme pour la technologie, encouragé par la politique du gouvernement chinois qui veut intégrer les technologies de pointe dans l'économie, et par la peur d'être dépassé par l'innovation rapide, transforme les gens en fans d'un géant technologique. Ils y consacrent leur temps, leur énergie, leurs désirs, leurs idées et leurs données, sans savoir qui les contrôle ni où cela pourrait les mener.
Bien que la transparence et la protection des droits des consommateurs soient inscrites dans la loi chinoise sur l'IA, la protection des droits humains reste insuffisante. Les citoyens ne connaissent pas leurs droits ni les risques liés à une utilisation abusive et dangereuse de cette technologie. Au lieu de cela, la plupart des citoyens de Chine continentale, par manque d'autres options, ont accepté les technologies de surveillance, comme les caméras de sécurité avec reconnaissance faciale partout, comme une partie normale et pratique de la vie publique. Tout changement est bloqué.
La situation dystopique de l'IA en Chine montre que les citoyens ne contrôlent pas la technologie. Ils sont soumis à un système qui la voit comme un moyen d'étendre et de renforcer le pouvoir politique et économique de l'État. Cela prouve que l'approche des droits humains concernant l'IA doit viser à rétablir l'équilibre des pouvoirs entre l'État, les entreprises, les machines et les individus. Il faut un cadre décisionnel qui place l'humain au centre. Il faut aussi lutter contre l'enthousiasme aveugle pour la technologie en menant des recherches centrées sur l'humain, en organisant des débats publics, en encourageant des pratiques culturelles réfléchies et en offrant une éducation aux sciences humaines.
Oiwan Lam est rédactrice régionale chez Global Voices. Elle couvre l'actualité de l'Asie de l'Est.
Ibrahim Kizza est un artiste visuel, un designer et un illustrateur. Son travail explore les liens entre les humains, l'identité et la culture. Ses illustrations sont connues pour leurs compositions audacieuses, leurs couleurs vives et leurs histoires fortes, souvent centrées sur la vie des personnes noires. Il travaille dans l'édition et le numérique, créant des œuvres qui mélangent simplicité et émotion profonde. Il utilise le contraste et le symbolisme pour communiquer des idées complexes de manière claire. Pour ce projet, Ibrahim crée une réponse visuelle à la tension entre la connexion artificielle et la connexion humaine. Il réaffirme la valeur de l'expérience vécue et de la créativité collective dans un monde de plus en plus automatisé. En plus de l'illustration, il s'intéresse au design, au sport et au cinéma, qui continuent d'enrichir son style visuel et sa façon de raconter des histoires.