L’oeuvre intitulée “Ashley Madison Angels At Work”. Courtesy : Galerie Charlot, Paris. (c) !Mediengruppe Bitnik

Lorsque vous discutez avec une inconnue en ligne, êtes-vous sûr qu’il s’agit d’une humaine ? Jusqu’au 26

L’oeuvre intitulée “Ashley Madison Angels At Work”. Courtesy : Galerie Charlot, Paris. (c) !Mediengruppe Bitnik

Lorsque vous discutez avec une inconnue en ligne, êtes-vous sûr qu’il s’agit d’une humaine ? Jusqu’au 26 juillet, la galerie d’art Charlot vous invite à rencontrer cinq fembots de sinistre mémoire : ces robots de dialogue féminins sont liés à un scandale retentissant sur Internet.

Rappelez-vous Ashley Madison. Ce site canadien de rencontres en ligne proposait aux personnes mariées de leur arranger des plans cul adultères. En été 2015, un groupe anonyme –«The Impact Team»– vole et publie toutes les données internes d’Ashley Madison, le code du site Web et les identités des clients. Les pirates dévoilent surtout le pot aux roses : il n’y a pratiquement aucune femme humaine sur le site. «Ashley Madison avait créé une armée de 75 000 chatbots féminins pour attirer les 32 millions d’utilisateurs masculins dans des (coûteuses) conversations.» En 2017, un collectif d’artistes réunis sous le nom de !Mediengruppe Bitnik (1) récupère une centaine des robots de dialogue conçus par Ashley Madison, leur configure un visage en 3D, leur adjoint une voix synthétique et les expose à San Francisco, Berlin, Athènes puis Londres afin de confronter les visiteurs à la question de l’intimité sur Internet.

Une armée de Fembot pour allumer des mâles humains

L’œuvre –présentée pour la première fois au Centre Culturel Suisse à Paris (2)– revient dans la capitale française, au sous-sol de la galerie Charlot, dans l’ambiance tamisée d’une lumière rose. Cinq d’entre elles vous attendent. «Monté sur des stands, les spectateurs rencontrent les fembots à hauteur des yeux comme des machines-créatures séduisantes.» Leurs voix artificielles résonnent : «Y a-t-il quelqu’un à la maison, lol ?», «Tu es occupé ?», «Qu’est-ce qui t’amène ici ?»… Elles semblent guère n’avoir que 30 mots de conversation. Mais qu’on ne s’y trompe pas. A l’origine, chacune de ces fembots possédait un stock de plusieurs centaines de «pick-up lines», des phrases pré-formatées permettant de simuler un dialogue.

Des «tentatrices automatisées»

Parmi ces phrases, il y avait bien sûr des informations du style «J’habite dans le 6e arrondissement» ou «J’ai 25 ans et j’ai les yeux verts». Mais il y avait aussi des tournures et des expressions destinées à pourvoir ces machines d’une personnalité. Et ça marchait. Toutes artificielles qu’étaient ces créatures, elles parvenaient semble-t-il à convaincre. «Au total, plus de 11 millions d’hommes auraient été en contact avec ces tentatrices automatisées, capables de produire de la prose hautement suggestive au kilomètre», raconte Nicolas Santolaria. Dans son livre «Dis Siri», publié en 2016 chez Anamosa,l’enquêteur s’inquiète : au-delà des relations sentimentales, les chatbots sont en passe devenir des interfaces d’usage courant, dit-il, qui nous habitueront –insidieusement– à «parler» aux machines au lieu de taper des commandes sur un écran.

Les chatbots vont envahir le monde

«Commander une pizza ou un billet de train passera désormais, de plus en plus souvent, par un dialogue avec un chatbot.» Faut-il s’en inquiéter ? Nicolas Santolaria affirme que oui : «les chatbots vont très rapidement s’améliorer, leur psittacisme rudimentaire ayant vocation à être remplacé par des techniques d’apprentissage perfectionnées. […] Ils auront pour mission, selon le philosophe Éric Sadin, de plonger l’utilisateur dans “une relation client ininterrompue”, le maintenant dans une phénoménologie relationnelle presque exclusivement marchande.» Ce que les chatbots annoncent, dit-il, c’est donc non seulement l’envahissement du monde par des interfaces à vocation marchande mais la progressive contamination des humains par un mode d’interaction ayant pour seul et unique enjeu : la simple satisfaction des besoins.

Les analtérités : plus «cools» que les humaines ?

A force d’échanger avec des chatbots, nous pourrions bien trouver cela bien plus agréable qu’échanger avec des humains, affirme Santolaria car ces «autres» qui n’existent pas et qu’il nomme des «analtérités» présentent l’avantage «d’offrir un véritable confort relationnel». Ils sont là pour nous séduire, nous amuser et, au passage, «apprendre à nous connaître» (formule hypocrite qu’on pourrait traduire : dresser notre «profil conso») pour mieux cibler nos besoins (ce qu’on pourrait traduire : nous vendre des produits). L’écrivain et philosophe Éric Sadin, dont Santolaria cite avec bonheur les propos,a publié de roboratives analyses de ce mécanisme. Les systèmes d’intelligence artificielle, dit-il, sont «conçus en vue de deux objectifs majeurs» : 1. «suggérer des offres de produits» (supposés adaptés à chaque profil), 2. «instaurer une organisation automatisée des affaires humaines tendue vers leur plus haute optimisation».

Le règne de l’utilitarisme (et du profit optimisé)

Pour Éric Sadin, la siliconisation du monde est en marche. Méfiez-vous, dit-il, de ces chatbots aux voix craquantes et des logicielsde dialogue programmés pour nous séduire, nous comprendre, choisir nos musiques ou évaluer nos humeurs. Dans une interview coup de poing accordée à la revue Hermès, il le résume ainsi : «Ce n’est plus seulement l’attention des personnes qui entend être captée, mais la vie, dans la perspective d’instaurer une société toute entière fondée sur le feedback, la rétroaction, où chaque fragment du réel se trouve collecté et traité en vue de lui faire prendre le meilleur cours supposé, répondant généralement à des intérêts privés ou à de seules visées utilitaristes.» Appelant les citoyens et les institutions à se défendre contre les «tenants de l’industrie du numérique», Éric Sadin prône des mesures renforcées de protection des données. Et que les chatbots aient l’obligation de s’identifier comme tels avant de nous parler. Qu’on ne se fasse pas embobiner.

.

A VOIR : Ashley Madison Angels At Work. Dans le cadre de l’exposition Data Dating (jusqu’au 26 juillet 2018), à la galerie Charlot : 47 rue Charlot 75003 Paris.

Article sponsorisé par Tatiana

 

plan cul rencontres afterwork sexfriends partouze

 Une entrée offerte au prochain afterwork sexfriends ici

 

« Dis Siri ». Enquête sur le génie à l’intérieur du smartphone, de Nicolas Santolaria, éditions Anamosa, 2016.

La silicolonisation du monde. L’irrésistible expansion du libéralisme numérique, d'Éric Sadin, éd. L’échappée, coll. « Pour en finir avec », 2016.

Revue Hermès («30 ans d’indiscipline»), dirigée par Dominique Wolton, rédacteur en chef : Bernard Valade, 360 pages, juin 2018, 25 euros.

NOTES

(1) Le « collectif » est en fait un duo : l’artiste Carmen Weisskopf et son alter-ego Domagoj Smoljo, situés entre Zurich et Londres.

(2) L’oeuvre s’intitule Ashley Madison Angels At Work. Lorsqu’elle est présentée pour la première fois au Centre Culturel Suisse à Paris, les 61 robots que la firme Ashley Madison avait créé pour «occuper» le marché de Paris étaient présents dans l’installation. A la Galerie Charlot, seuls 5 de ces robots sont présents.