L’intelligence artificielle : bien ou mal ? Une chance ou une malédiction ? On ne compte plus les fictions qui penchent pour une vision maléfique, dépeignant l’IA comme une entité menaçante et incontrôlable . La série dystopique Concordia nuance le propos en exposant une vérité plus fondamentale : ce sont les failles intrinsèques de la nature humaine qui conduisent aux pires dérives, même au sein d’une société soumise à une surveillance omniprésente. La technologie n’est qu’un simple outil, la véritable menace réside dans l’humain qui en use.
Meurtre vs utopie
Concordia est le nom d’une ville futuriste, régie par une IA surpuissante qui assure la sécurité de chacun. Au sein de cette cité eco-firendly fondée sur l’idée de paix universelle et de tolérance, des habitants qui ont voulu fuir la brutalité de la société moderne, la discrimination, la folie du racisme, de l’homophobie. Conceptrice visionnaire de cette utopie, Juliane a tout fait pour en porter le concept auprès de riches investisseurs et de politiques. Selon elle, l’IA qui surveille chaque citoyen de Concordia a pour but de protéger, de rassurer, d’apporter paix et stabilité.
Un équilibre en apparence solide mais qui risque fort de s’effondrer quand un jeune ingénieur de Concordia est retrouvé assassiné dans la proximité de la cité idéale. Qui ? Comment ? Pourquoi ? A l’heure d’un scale-up essentiel pour l’entreprise, ce meurtre n’a rien d’un fait divers. Qui avait intérêt à liquider ce garçon ? Qu’est-ce que ce dernier avait bien pu découvrir qui précipite son exécution ? Une enquête est ouverte par les autorités, mais Juliane, ses financeurs, ses collaborateurs vont mener leurs propres investigations. Et la vérité mise à jour ne va pas plaire à tout le monde, loin s’en faut.
La technologie et l’usage qu’on en fait
Au cœur des préoccupations de tous : le danger que représente cette IA invasive, façonnée pour surveiller le moindre mouvement, le moindre signe de stress. Étouffante pour le moins. Si chaque épisode débute par le témoignage enjoué et reconnaissant des habitants de Concordia, la suite du récit contredit l’engouement ambiant, en laissant transparaître des méthodes qui font froid dans le dos. Car les enjeux financiers et sociaux sont énormes. Le projet ne peut, ne doit pas échouer. À partir de là, tous les coups sont permis.
Sauf que ces coups, ce n’est pas la machine qui va les asséner, mais l’homme. Le message de la série est clair et crédible : la source véritable de l’instabilité ne réside pas dans la technologie elle-même, mais dans l’usage qu’on peut en faire, usage souvent propulsé par les pulsions et les biais cognitifs des individus. La surveillance technologique échoue à éradiquer les tendances destructrices inhérentes à l’humain qui la commande, niant les idéaux qui ont accouché de l’utopie Concordia. En d’autres termes, Concordia est bâtie sur un mensonge. Pire, sur un péché.
La série de Mike Walden et Nicholas Racz prend le contre-pied de (trop) nombreuses œuvres de fiction qui accusent l’IA de tous les maux. Ici, cette dernière est certes omniprésente mais au final incapable de stopper la catastrophe, le chaos. Elle se contente de subir et de refléter les actions humaines, exacerbant juste les tensions par son caractère intrusif. Mais en vérité, ce sont les êtres humains qui manipulent, dissimulent, exploitent les failles du système. Et la surveillance totale de la machine n’y peut rien.
Un miroir critique
Concordiaagit comme un miroir critique de notre société contemporaine, à l’heure où l’usage des IA en général et dans le cadre de la surveillance de masse en particulier fait l’objet de débats croissants. La série pointe du doigt la responsabilité humaine dans l’exploitation de ces technologies, en posant une question cruciale : ne sommes-nous pas en train de projeter sur les algorithmes la responsabilité de nos propres échecs éthiques et sociaux ?
Cette réflexion résonne particulièrement dans notre époque : décriée, conspuée, la technologie est en fait érigée en bouc émissaire des déviances humaines.Concordiarenverse volontairement cette perspective en rappelant que la véritable menace n’émane pas de la machine, mais bien de l’homme, de ses instincts, de ses doutes, de ses peurs, de ses choix aussi mais surtout de son incapacité à assumer ses responsabilités.
Concordianous incite à une introspection profonde sur la question de la responsabilité humaine dans un monde de plus en plus régulé par la technologie. Ce ne sont pas les systèmes de surveillance qui induisent les dérives, mais bien ceux qui choisissent de les exploiter. Ainsi, les maux de l’humanité continuent de trouver leur origine en nous-mêmes. La série pose une question essentielle et redoutable : jusqu’où sommes-nous responsables de notre propre destruction, et de quelle manière déciderons-nous d’utiliser la technologie à l’avenir, pour améliorer plutôt que détruire notre société ?
Et plus si affinités ?
Vous avez des envies de culture ? Cet article vous a plu ?
Vous désirez soutenir l’action de The ARTchemists ?
