Twitch active par défaut l'entraînement de l'IA d'Amazon : « Personne ne s'inscrirait volontairement »

Twitch a commencé à permettre à Amazon d'entraîner des modèles d'IA générative sur le travail des personnes qui y diffusent, avec ce paramètre activé par défaut.

La plateforme détenue par Amazona annoncé ce changement mercredi en ajoutant un contrôle, indiquant aux utilisateurs qu'elle avait ajouté un paramètre leur permettant de refuser que le contenu de leur chaîne soit utilisé pour entraîner des modèles d'IA générative chez Amazon. Cette annonce a révélé que l'entraînement avait effectivement lieu, bien que des streamers aient signalé fin juillet que "plusieurs sources" leur avaient dit que cette décision était imminente.

Tout le contenu d'une chaîne est concerné : les diffusions en direct, les vidéos à la demande, les clips, les moments forts, le chat, le texte et les images peuvent tous être utilisés pour entraîner des modèles dont le but, selon Twitch, est de générer ou synthétiser du texte, de l'audio, des images ou des vidéos. Sapropre FAQ donne l'exemple de l'audio d'un streamer utilisé pour affiner les modèles de reconnaissance vocale, améliorant ainsi les sous-titres sur Twitch et sur Amazon.

L'interrupteur, intitulé "Entraînement pour l'IA générative", se trouve sousSécurité et confidentialité en bas de la page des paramètres du compte.

« Personne ne choisirait de participer »

La responsable de la communauté Mary Kish et le directeur produit Mike Minton ont répondu aux questions sur la chaîne de l'entreprise mercredi, devant un public de près de 3 000 personnes et un chat rempli de messages anti-IA. Interrogé sur la raison pour laquelle ce paramètre n'était pas facultatif, Minton arépondu sans détour : « Si c'était facultatif, personne ne choisirait de participer. C'est honnêtement la réponse. »

Interrogé par un utilisateur pour savoir si leurs vidéos avaient déjà été utilisées pour l'entraînement, Minton a déclaré qu'il ne le savait pas vraiment, car il ignorait ce qu'Amazon avait fait en matière d'entraînement de modèles et ce qu'il avait utilisé ou non. Kish a déclaré qu'elle avait personnellement choisi de se désengager, et a décrit le contrôle lui-même comme une réponse à une communauté qui ne veut pas que son travail serve à entraîner des modèles génératifs. Minton a déclaré qu'il était à l'aise avec l'entraînement et qu'il ne se désengagerait pas s'il était streamer.

Pressé de répondre sur ce qui arrive à une personne qui s'est désengagée mais apparaît dans le flux d'une personne qui ne l'a pas fait, Minton n'a pas eu de réponse, se contentant de qualifier cela de « bonne question »,selon Kotaku, bien que la FAQ publiée parallèlement au changement indique que la préférence du streamer détermine si le chat d'un spectateur peut être utilisé. Il a confirmé qu'il n'y avait pas de projets pour permettre aux utilisateurs de voir quelles chaînes sont activées.

La désactivation est également plus limitée qu'il n'y paraît, car Twitch peut toujours exécuter AutoMod et générer des sous-titres, qui, selon l'entreprise, ne conservent pas de contenu pour entraîner des modèles produisant de nouveaux éléments. Certaines de ces fonctions protègent l'ensemble de la plateforme, affirme l'entreprise, il n'est donc pas proposé de les désactiver pour une seule personne.

Ce changement intervient alors que les entreprises d'IA manquent de matériel d'entraînement et se tournent vers les plateformes qu'elles possèdent déjà. TechCrunch a noté que les milliers d'heures de voix et de visage enregistrés d'un streamer font de Twitch une source exceptionnellement riche, et que de nombreux créateurs pourraient la céder sans s'en rendre compte.