Le deepfake et ses dérives

Shanna

Qui est cet homme selon vous ?

Tom Cruise avec une serviette sur l'épaule ?

Bah non. C'est un random qui utilise une app transformant son visage en celui de Tom Cruise.

C'est de notoriété publique désormais, cette technologie qui permet d'incruster le visage de qui on veut à la perfection sur le sien, y compris en vidéo / en mouvement / en parlant. On a au minimum vu ça en subissant les sketches insupportables de Canteloup.

Une dérive est vite arrivée : désormais il y a des films p0rn avec des célébrités incrustées dedans. (apparemment des tonnes même)

Cette vidéo explique très bien le phénomène :

Et la question du consentement intervient avec force.

Est-ce que l'image des personnalités publiques appartient à tout le monde ? À partir du moment où bcp de gens ont déjà fantasmé sur une célébrité, est-ce que ça veut dire qu'on peut matérialiser le fantasme en une vidéo réaliste et en faire commerce ?
Trouvez-vous (comme moi) tout ça très flippant ?

icescream

@Shanna je suis daccord avec toi ça craint et la qualité s'améliore très vite donc de plus en plus difficile de discerner le vrai du faux

Il y a un monde entre fantasmer (dans sa tête) et utiliser l'image de la personne sans son consentement pour la mettre en scène (publiquement) dans des actes sexuels . Je trouve aussi que ça fait vraiment peur. Pour moi c'est le prolongement d'un problème plus général vis-à-vis des célébrités, dont le corps et la vie privée font partie de l'espace public aux yeux de trop de gens, qu'on peut commenter, critiquer ou disséquer à loisir. Ce n'est pas parce qu'ils nous divertissent que ce sont des objets dont on dispose.

Mais j'ai très peur aussi des répercussions sur les anonymes. Il y a déjà beaucoup d'histoires autour du revenge porn (diffusion des photos ou des vidéos explicites d'une personne pour se venger, la discréditer et l'humilier). Les femmes et les jeunes femmes en sont trop souvent la cible après une rupture amoureuse et maintenant il n'y aura même plus besoin d'avoir du vrai contenu en sa possession, il suffira de son visage pour faire croire à n'importe quoi. Je suis très inquiète sur ce point.

Merci pour la vidéo, c'est vraiment un sujet qui m'interpelle et je l'écouterai quand j'aurai le temps.

Au sujet des sketches de Canteloup, ils m'ont toujours mise mal à l'aise et j'ai toujours été surprise que ce soit autorisé ...

icescream

@Yennefer a dit dans Le deepfake et ses dérives :

Au sujet des sketches de Canteloup, ils m'ont toujours mise mal à l'aise et j'ai toujours été surprise que ce soit autorisé ...

Ça doit rentrer dans le droit de parodie je pense.

Sinon pour le reste tout à fait daccord avec ton analyse

Mai Tai

Moi aussi ça m'inquiète beaucoup, parce que même si ça doit facilement être prouvable quand il y a montage, ça risque de causer beaucoup de mal.

Quant au fantasme de coller la tête de son acteur préféré sur du porno, je le comprends pas. Mais mon esprit doit sûrement être trop rationnel.

Kachina

Franchement je suis plus qu'inquiète, je suis effrayée par cette technique qui va se propager aussi vite qu'un virus et qui va générer , désinformation , manipulation voire diffamation en plus de piétiner la vie privée et le droit à l'image. On va devenir de grands sceptiques en puissance . Ca promet !

Orabig

@Kachina a dit dans Le deepfake et ses dérives :

On va devenir de grands sceptiques en puissance .

Ha ben, ça, ca ne serait pas un grand mal, finalement, non ?

Kachina

@Orabig c'est ce que j'ai failli ajouter figure toi !

icescream

@Kachina @Orabig douter et ne pas avoir une confiance aveugle c est bien mais quand on ne peut plus se fier à rien ça devient pathologique...
Il faut pouvoir lever le doute

Mai Tai

@icescream et puis en arriver à douter de tout, ce serait triste, négatif et usant.
Je voudrais pas qu'à cause de ce genre de m.... on soit obligés de vivre dans une méfiance perpétuelle.

Kallindra

@Shanna a dit dans Le deepfake et ses dérives :

Est-ce que l'image des personnalités publiques appartient à tout le monde ? À partir du moment où bcp de gens ont déjà fantasmé sur une célébrité, est-ce que ça veut dire qu'on peut matérialiser le fantasme en une vidéo réaliste et en faire commerce ?
Trouvez-vous (comme moi) tout ça très flippant ?

A partir du moment où le deep fake est monétisé, et donc rapporte de l'argent à la mauvaise personne, c'est de l'usurpation d'identité. Ca va devant un tribunal.

Quand l'influenceuse en pleurs se dit violée, faut pas pousser mémé dans les orties. Le viol c'est quand même autrement plus grave. C'est pas elle qui est en train de baiser dans la vidéo, c'est une autre meuf (probablement bien mieux goalée et qui a été payée pour jouer dans le film/clip) sur laquelle on a plaqué sa tête. Je veux dire que personne ne l'a filmé à poil ou en plein ébat IRL.

Par contre en effet ce sont les potentielles dérives sur l'utilisation politique et médiatique qui peuvent devenir inquiétante.