Le grand public a découvert au début des années 2020 des programmes de machine learning (apprentissage automatique) comme DALL·E, MidJourney ou Disco Diffusion capables de générer des images à partir de commandes textuelles. Ces images sans auteur·trice, d’une qualité impressionnante, suscitent l’émerveillement tout autant que des débats au sein de la communauté créative internationale, qui s’effraie de la menace que ces processus font planner sur la survie des professions d’illustrateur·trice ou de photographe.

Fin observateur de ces technologies depuis plusieurs années, Anthony Masure (professeur au sein de la HEAD, HES-SO) élargit cette question dans son nouvel essai Design sous artifice : la création au risque du machine learning. Son texte vise à évaluer les implications pour le design de la démocratisation de ces programmes, tant positives que négatives. En nous permettant de mieux comprendre leur fonctionnement et en illustrant son propos de nombreux exemples de détournements d’usages, l’auteur cherche à favoriser leur appropriation critique.

Le titre de l’ouvrage souligne une des dimensions peu discutée des programmes de machine learning, à savoir leur capacité à masquer la technicité des opérations qu’ils réalisent. L’artifice serait donc de donner l’impression d’une absence d’effort, qui s’inscrit dans un culte de la performance et une maximisation du rendement. Or s’il y a un risque que cette approche productiviste prédomine dans le design, l’auteur rappelle que ce champ est un terrain d’expression d’une série d’autres enjeux comme le manque, la défaillance ou l’ambiguïté.

La modalité principale de l’intelligence artificielle est aujourd’hui celle du machine learning, c’est-à-dire la capacité de programmes à reconnaître et indexer des données existantes qui lui sont soumises, puis à générer des contenus signifiants sur commande. L’opacité dans laquelle évoluent des systèmes comme ChatGPT est propice à l’émergence de risques sociaux importants, par exemple en matière de profilage des individus ou de renforcements des biais existants. Sur le plan économique, de tels programmes nécessitent des ressources financières que seules les grandes entreprises de type GAFAM peuvent investir, ce qui engendre une concentration inquiétantes de données et de pouvoir entre leurs mains.

Si la complexité technique de ces programmes rend presque impossible toute intervention au sein du dispositif de calcul, Anthony Masure montre que les designers peuvent mobiliser ces technologies de manière critique en agissant à d’autres niveaux. La dernière partie de son essai se concentre sur une série d’expériences récentes qui cherchent les limites de ces programmes, en questionnant leurs modèles statistiques, en subvertissant les jeux de données avec lesquels les algorithmes sont élevés, ou en produisant du décalage par rapport au résultat attendu. Système de reconnaissance de texte vu par des lunettes de réalité augmentée, valorisation de l’accident graphique, combinaison de styles et de codes culturels : la palette de brouillage du déterminisme utilitaire de ces outils est large. Il en ressort que loin d’être remplacé·e, le ou la designer peut prendre appui sur ces dispositifs formatés pour en faire apparaître les failles et les aberrations, tout en interrogeant les frontières entre l’humain et la machine.