La désactivation de l'IA de Twitch nous rappelle que notre travail numérique n'est pas gratuit
TL;DR: Alors que Twitch permet aux créateurs de se désinscrire de la formation en IA, les chrétiens devraient voir un rappel puissant que notre travail créatif a de la dignité et mérite la protection du consentement, un principe ancré dans les Écritures.
Votre vie numérique est votre travail et vous avez le droit de décider à qui en profite. C'est le principal enjeu de l'actualité de cette semaine : Twitch, l'énorme plateforme de streaming appartenant à Amazon, donne enfin aux créateurs un moyen de garder leur contenu à l'écart des modèles de formation à l'IA d'Amazon.
C’est un pas dans la bonne direction, mais la façon dont ils l’ont fait, via un système de désinscription par défaut, nous dit tout ce que nous devons savoir sur la façon dont les Big Tech perçoivent notre créativité : comme une ressource à exploiter jusqu’à ce que quelqu’un se plaint.
Pour les chrétiens, il ne s’agit pas seulement d’un titre technologique. C’est un profond rappel de la valeur biblique de la gestion personnelle et du droit moral de consentir au travail de nos mains, de notre esprit et, dans ce cas, de notre voix.
Que se passe-t-il sur Twitch
Cette semaine, The Verge et TechCrunch ont signalé que Twitch avait discrètement déployé un nouveau paramètre. Enfouie dans le tableau de bord de l'utilisateur se trouve une bascule qui permet aux streamers d'empêcher que leurs flux vidéo et leurs données de discussion soient utilisés pour former les modèles d'IA génératifs construits par sa société mère, Amazon.
Voici le problème : la fonctionnalité est activée par défaut. Chaque créateur de la plateforme a automatiquement choisi de participer à ce que son contenu soit utilisé. Pour protéger leur travail, ils doivent savoir que le paramètre existe, le trouver et le désactiver manuellement. Cette approche de collecte de données consistant à demander pardon et non à demander la permission est devenue une pratique courante, mais cela ne la rend pas pour autant correcte.
Pensez à ce qu'un streamer crée. Ce n'est pas seulement de la vidéo. C'est leur personnalité, leurs commentaires uniques, leurs réactions spontanées et la communauté qu'ils construisent dans leur chat. Ce sont des heures de leur vie, de leur voix, de leur image. Pour Amazon, il s'agit d'une mine d'or de données sur les interactions humaines pour former une IA plus sophistiquée. Pour le créateur, c’est son gagne-pain et son art.
Pourquoi le consentement est une question biblique
En tant que développeur de logiciels créant FaithGPT, j'aime ce que l'IA peut faire. Cela peut être un outil phénoménal pour l’étude et la créativité. Mais l’éthique de la façon dont ces modèles sont construits est extrêmement importante. Lorsqu'une entreprise exploite l'Internet public ou utilise les données d'une plateforme sans consentement explicite et éclairé, elle viole un principe fondamental de gestion chrétienne. Nous sommes appelés à être de sages gestionnaires des dons que Dieu nous a donnés, et cela inclut notre travail créatif.
Prendre ce travail sans autorisation claire ressemble beaucoup à de l’exploitation. La Bible est claire sur la dignité du travail et le droit du travailleur à bénéficier de ses efforts. Paul écrit à Timothée :
For the scripture saith, Thou shalt not muzzle the ox that treadeth out the corn. And, The labourer is worthy of his reward.
1 Timothy 5:18 (KJV)
Les streamers Twitch sont des ouvriers. Leur contenu, leur « maïs », est le produit de leur travail. Voir ce travail « foulé aux pieds » pour enrichir une entreprise valant des milliers de milliards de dollars sans leur consentement enthousiaste, c'est comme mettre la muselière au bœuf. Il traite leur production créatrice comme une matière première et non comme le fruit d’une personne créée à l’image de Dieu.
C'est pourquoi la distinction entre « opt-in » et « opt-out » est si importante d'un point de vue moral.
Fonctionnalité · Opt-In (consentement d'abord) · Désinscription (activée par défaut)
Action par défaut · Les données des utilisateurs ne sont pas utilisées sauf accord explicite de leur part. · Les données des utilisateurs sont utilisées sauf refus explicite de leur part.
Fardeau · Sur l'entreprise pour gagner la confiance et demander la permission. · A l’utilisateur d’en être conscient et d’agir.
Alignement biblique · S'aligne sur les principes de consentement clair, d'honnêteté et de respect de la propriété et du travail d'autrui. · Peut sembler coercitif ou trompeur, imposant un fardeau aux personnes mal informées.
Un système opt-in respecte l'agence de l'utilisateur. Il dit : « Nous avons une idée et nous aimerions collaborer avec vous. Voici ce que cela vous apporte. Êtes-vous d'accord?' Un système de opt-out présuppose l'accès. Il dit : « Nous vous faisons cela. C'est votre travail de trouver un moyen de nous arrêter. On construit la confiance ; l’autre suscite la suspicion. C'est un aspect fondamental de l'intendance à l'ère de l'IA que nous devons maîtriser.
Le contre-argument le plus fort
Un contre-argument valable est qu’une fois que vous publiez quelque chose sur une plateforme publique comme Twitch, vous abandonnez un certain degré de contrôle. Les données sont « disponibles » et l’utilisation de données publiques pour former des modèles d’IA est la manière dont l’innovation se produit. Les partisans soutiennent que cela profiterait en fin de compte à la société grâce à une meilleure technologie et que restreindre l’accès aux données étoufferait le progrès.
Je comprends ce point de vue, mais je crois qu'il méconnaît fondamentalement la nature de l'espace « public ». Lorsque j’ai une conversation dans un parc public, j’accepte que les autres puissent m’entendre. Je n'accepte pas qu'une entreprise puisse enregistrer ma conversation, analyser mes modèles de discours et vendre un produit basé sur ma voix sans ma permission.
Être public n’est pas la même chose qu’être une matière première à usage corporatif. Les gens ne sont pas des ensembles de données. Leurs vies, même les parties qu’ils partagent publiquement, ne sont pas de simples ressources à exploiter. C'est l'une des principales raisons pour lesquelles les chrétiens devraient se soucier de l'intelligence artificielle ; cela nous oblige à nous poser des questions profondes sur ce que signifie être humain et ce que nous devons à nos voisins.
Une meilleure voie à suivre
C'est un défi que nous prenons au sérieux alors que nous construisons FaithGPT. Notre objectif est d'utiliser l'IA pour vous servir, l'utilisateur, dans votre marche avec le Christ. Nous pensons que la technologie devrait renforcer votre étude biblique et votre vie de prière, et non les exploiter. C'est pourquoi nous construisons des outils tels que notre AI Bible Assistant pour être un partenaire d'étude patient et vous aider à voir davantage dans la Parole de Dieu. La relation est une relation de service et non d’extraction. Vos prières, notes et réflexions vous appartiennent, et notre travail consiste à vous fournir des outils qui vous aident à mieux les gérer.
La décision de Twitch d'offrir une option de non-participation est une concession à la pression croissante des créateurs préoccupés à juste titre par leur souveraineté numérique. C'est une petite victoire pour le consentement, mais le paramètre par défaut montre jusqu'où il reste à aller.
Un véritable respect pour les créateurs impliquerait de faire de la formation à l’IA un choix explicite et volontaire, peut-être même avec une composante de partage des revenus. Cela traiterait les streamers comme des partenaires, et non comme de simples points de données.
L’avenir d’Internet dépendra de la question de savoir si nous considérons les gens comme des créateurs à honorer ou comme des données à récolter.
Helpful Scripture resources
Contact & support
Email the FaithGPT team at hello@faithgpt.io or visit the contact page.
Explore FaithGPT
