Dans une déclaration plus inquiétante que son ton ne le suggère, le créateur de ChatGPT, OpenAI, envisage de permettre à ses utilisateurs de « générer du contenu NSFW dans des contextes adaptés à leur âge via l’API et ChatGPT ». En d’autres termes, créer de la pornographie générée par l’IA pourrait ouvrir une énorme boîte de Pandore pour la très populaire IA, qui est déjà la cible de toutes sortes d’examens, de critiques et de critiques. litige.
L’annonce selon laquelle OpenAI « explore » la possibilité d’ouvrir ses outils au contenu explicite s’est présentée sous la forme de un bref aparté dans un long document sur le développement de ses modèles d’IA.
Actuellement, les outils OpenAI comme ChatGPT sont soumis à des filtres de contenu censés les empêcher de cracher des cochonneries sur des utilisateurs sans méfiance, et il est important de souligner que changer cela n’est qu’une chose à laquelle OpenAI réfléchit. Il n’y a pas encore de projets concrets. Néanmoins, ces filtres pourraient être assouplis dans un avenir proche, permettant aux clients de générer presque toute la saleté qu’ils veulent.
Presque, mais pas tout. Dans les commentaires à Radio Nationale Publique, Joanne Jang, responsable du modèle OpenAI, a précisé que, même si l’entreprise pourrait un jour autoriser des choses qui correspondent à « votre définition de la pornographie », tout ce qui viole la loi ou les droits d’autrui est un non-non. Cela signifie que « permettre les deepfakes est hors de question, point final ». Les deepfakes, au cas où vous ne le sauriez pas, font référence à la pornographie générée par l’IA de personnes réelles.
Interdire les deepfakes est sans aucun doute la meilleure solution, mais il est difficile de savoir si des filtres de contenu hypothétiques conçus pour les empêcher tiendraient le coup. Les gens ont déjà a trouvé des moyens de contourner les filtres actuels de ChatGPT et de lui faire générer du contenu NSFW – et il existe des communautés entières centrées sur la recherche de nouveaux jailbreaks à mesure qu’OpenAI met à jour ses modèles.
Ces filtres seront-ils capables d’empêcher les flots de deepfakes après avoir été affaiblis pour permettre autre contenu explicite non deepfake ? Ou devrais-je simplement dire à ChatGPT de jouer le rôle de mon grand-père mourant alors qu’il me lègue une usine de pornographie deepfake ? Quand Microsoft lui-même a dû combler une faille qui permettent aux utilisateurs de créer du faux porno de Taylor Swift, il est difficile d’être convaincu.
Les spectateurs appellent à la prudence. Dans un commentaire à NPR, le professeur de droit Tiffany Li a déclaré : « C’est un objectif admirable d’explorer cela à des fins éducatives et artistiques, mais ils doivent être extrêmement prudents avec cela. » S’adressant au Gardienle professeur Clare McGlynn a déclaré qu’elle était « profondément sceptique quant à la manière dont ils tenteraient de limiter cela à du matériel légitime et consensuel ».
Malgré tout, OpenAI y réfléchit. « Il existe des cas créatifs dans lesquels le contenu impliquant de la sexualité ou de la nudité est important pour nos utilisateurs », a déclaré Jang. « Nous explorerions cela de manière à ce que nous puissions le servir dans un contexte adapté à l’âge. »
