Frederico Cugurullo, Assistant Professor in smart and Sustainable Urbanism, Trinity College Dublin
Vous êtes sur le chemin de la maison. Soudain, le sol semble s’ouvrir. Un drone de sécurité émerge de la faille et vous empêche de passer afin de vérifier votre identité. Ceci semble peut-être farfelu, il s’agit pourtant d’une technologie existante, un système de drone créé par la compagnie Sunflower Labs, spécialisée en intelligence artificielle.
Faisant partie d’un projet international de recherche sur l’impact des IA sur la ville, nous avons récemment innové avec un nouveau champ de recherche appelé IA urbanisme. Il ne s’agit pas de la même chose du concept de « Smart city ». Les villes intelligentes rassemblent des informations via de la technologie, tel que des capteurs, et utilisent ces données pour améliorer leurs services.
"L’IA urbanisme, c’est une nouvelle façon de concevoir et de gouverner les villes par le biais de l’intelligence artificielle."
L’IA urbanisme, c’est une nouvelle façon de concevoir et de gouverner les villes par le biais de l’intelligence artificielle. Il s’écarte considérablement des modèles de développement et de gestion urbaine contemporains. Bien qu’il soit vital de monitorer de près ce domaine émergeant, nous devrions d’abord nous demander à quel point devrions-nous impliquer l’IA dans la gestion de nos villes.
Le développement de l’IA est intrinsèquement connecté à l’évolution des villes. Tout ce que font les citadin.es apprend quelque chose de précieux aux IA sur notre monde. La façon dont vous conduisez votre voiture ou votre vélo, entraîne les voitures autonomes. Ce que vous mangez ou achetez apprend à des systèmes vos préférences. Multipliez vos données personnelles par les milliards d’individus vivant dans les villes et vous aurez une idée de la quantité de données que peuvent récolter les intelligences artificielles.
La police préventive
Dans le concept traditionnel de smart cities, les technologies, comme The Internet of things, sont utilisées pour observer et quantifier ce qu’il se passe. Par exemple, des buildings peuvent calculer quelle quantité d’énergie est consommée en temps réel ou combien de personnes prennent le métro et quand. L’IA urbanisme ne fait pas que quantifier des données, il raconte des histoires, il explique pourquoi et comment certains événements ont lieu.
Non, ce ne sont pas des narrations complexes mais même les histoires les plus simples peuvent avoir des répercussions conséquentes. Prenons l’exemple du système développement par la compagnie américaine Palantir, déjà utilisée dans plusieurs villes du monde. Son rôle est de prédire où des crimes auront lieu et qui sera impliqué. Ces prédictions sont utilisées par la police pour savoir où assigner des ressources. Il s’agit d’un des pouvoirs les plus controversés des intelligences artificielles : la capacité de déterminer ce qui est bon ou mauvais. ChatGPT a pourtant été très clair, une IA peut produire un compte rendu détaillé, sans en saisir le sens. Elles n’ont pas de sens moral. Elles sont indifférentes à la question du bien et du mal.
Pourtant, c’est exactement le genre de questions que nous sommes en train de déléguer aux IA dans la gouvernance urbaine. Bien que cela puisse faire gagner un temps certain aux gestionnaires, le coût en justice sociale est énorme.
"Elles sont indifférentes à la question du bien et du mal."
Un problème humain
Des études récentes ont démontré que les décisions prises par IA pénalisent les minorités ethniques dans des domaines comme l’immobilier. Il y a également un impact environnemental conséquent à garder en tête ; cette technologie est extrêmement énergivore. Elle contribuera significativement aux émissions de carbone dans les prochaines décennies. De plus, les infrastructures nécessaires à son bon fonctionnement surconsomment de nombreux matériaux. Malgré les promesses, les points négatifs contrebalancent très vite les apports supposés en termes de durabilité.
Dans cet article, nous ne débâtons pas de technologie devenant hors de contrôle comme dans certains films de science-fiction. Plutôt que, nous, humains, sommes en train de prendre des décisions politiques qui placent IA à la place des décisionnaires. Nous sommes volontairement en train de céder les responsabilités de la prise de décision à des machines. Dans certaines parties du monde, nous pouvons déjà observer les prémices de nouvelle ville supposée entièrement gérée par IA.
Cette tendance, Neom en est le précurseur. Il s’agit d’un projet colossal en cour de construction en Arabie Saoudite. Ce projet inclus The line, une ville linéaire de 170 km2 de long sur 200m de large, entièrement gérée par IA. Elle est supposée incarner un modèle d’urbanisme durable. Ces villes du futur incluent des véhicules de transport autonomes, des robots pour la cuisine, les services et des algorithmes pour prévenir vos besoins. Cette vision résonne avec le concept de ville autonome où l’humain est sorti de la boucle de la gestion et des fonctions sociales.
Nous avons besoin de nous souvenir que l’autonomie est un jeu à la somme égale à zéro. Lorsque l’autonomie des IA augmente, la nôtre décroît. Une ville qui n’est plus dirigée par des humains défie l’autonomie des acteurs et leur bien-être.
"Lorsque l’autonomie des IA augmente, la nôtre décroît."
Pourrez-vous bénéficier d'un prêt hypothécaire et acheter un bien immobilier pour y fonder une famille ? Pourrez-vous souscrire une assurance vie ? Votre nom figure-t-il sur une liste de suspects que la police va cibler ? Aujourd'hui, les réponses à ces questions sont déjà influencées par l'IA. À l'avenir, si la ville autonome devient la réalité dominante, l'IA pourrait devenir le seul arbitre.
L'IA a besoin des villes pour continuer à dévorer nos données. En tant que citoyens, il est temps d'interroger attentivement le spectre de la ville autonome dans le cadre d'un débat public élargi, et de poser une question très simple : avons-nous vraiment besoin de l'IA pour rendre nos villes durables ?
Comments