Aujourd’hui, nous avons interviewé notre Gema Parreño, Lead Data Scientist dans une entreprise de développement de logiciels, Apiumhub, où elle développe des solutions basées sur les données. Elle est passionnée par l’intersection de l’apprentissage automatique et des jeux, et a eu sa propre startup, a contribué à l’espace open source du projet d’apprentissage automatique de StarCraft et a eu une expérience chez Google Brain pour Stadia.
Gema donne une conférence sur Mempathy en tant qu’opportunité de sécurité et d’alignement de l’IA, et nous voulions approfondir et découvrez-en plus à son sujet, ainsi que comment l’idée est née de l’utiliser pour la mise en œuvre des techniques de sécurité et d’alignement.
Gema a partagé avec nous qu’elle a de l’expérience dans le domaine et pense que les jeux sérieux sont un sous-domaine de l’industrie du jeu qui sont conçus dans un but distinct du pur plaisir qui peut inclure une grande variété de sujets allant de l’éducation à la santé mentale. Son projet Mempathy est une expérience narrative de jeu vidéo qui transforme la relation avec l’anxiété et aide à surmonter des normes de perfection irréalistes.
L’utilisation de l’apprentissage automatique est un processus continu, rigoureux et créatif. Des travaux antérieurs ont exploré l’apprentissage par renforcement avec un système qui se concentre sur la conception de récompenses basée sur les réponses et l’apprentissage par imitation. Cependant, dans ces explorations, des concepts tels que l’échelle et le biais sont entrés en jeu. L’utilisation de modèles de grand langage créerait une expérience vraiment personnalisée pour un joueur.
Au sein de l’évolution du projet et du point de vue de l’apprentissage automatique, Mempathy explore la question de recherche du problème d’alignement du comportement avec les modèles GPT du point de vue de la conception de jeux et de la génération de contenu, dans le but de résoudre la question de savoir comment nous créons. agents (Personnages non jouables) qui se comportent conformément à l’intention du concepteur.
L’un des points clés ici est de créer des expériences qui pourraient aider à comparer différentes solutions à grande échelle. La pensée vectorielle de « comment concevons-nous une expérience pour tester réellement une hypothèse » est alignée sur la conception de jeux Mempathy NPC. Il y a eu une évolution continue depuis la conception du système à partir de zéro jusqu’à l’exploration du sujet fascinant du contrôle de grands modèles de langage.
Produire un prototype complet prenant en compte tous les principes de conception de jeu avec le système d’IA a été difficile. Cela obligeait Gema à porter plusieurs chapeaux avec un « résultat suffisamment bon » pour tester réellement l’idée d’un point de vue holistique.
De plus, la conception de PNJ a été un domaine de recherche et d’étude actif au sein de l’industrie des jeux vidéo. Si vous êtes prêt à avoir une exploration contrôlée, Gema vous recommande ce livre pour donner un aperçu général de ce domaine : Intelligence Artificielle et Jeux. G. Yannakakis & J. Togelius ; Chapitre 5 : Modélisation des joueurs.
Du point de vue de la conception des PNJ en mettant l’accent sur l’IA, il existe une opportunité complète d’automatiser tous les processus de conception, de l’animation à la génération de contenu. Gema pense que de nombreuses nouvelles idées sont encore à venir, adaptant les recherches issues de la robotique, de la simulation et du traitement du langage naturel.
Quant aux modèles Plug and Play, ils combinent un grand modèle de langage pré-entraîné et un modèle d’attribut. Le modèle d’attribut guide la génération de texte sans aucune formation supplémentaire, permettant une génération de texte contrôlée de manière flexible tout en maintenant la fluidité. Cette solution a réduit la génération de contenu de manière assez cohérente par rapport à la génération de contenu avec GPT de 35% à 1,5% de contenu désaligné et nuisible.
Gema a hâte de partager les détails de la recherche de paramètres clés pour la proposition le premier jour du Data Innovation Summit de cette année.
Il peut également être important de noter que proposer une interactivité coopérative du point de vue de la conception de jeux s’est avéré essentiel avec une représentation symbolique du langage, car les méthodes de dialogue sans restriction restent difficiles à évaluer.
En conclusion, Gema pourrait dire que les leçons apprises proviennent de la mise en œuvre réussie de mécanismes de conception de jeux qui pourraient être optimaux pour le système et du choix d’une technique de génération de contenu stratégique pouvant être alignée sur les motivations des PNJ.
Gema est impatient de se connecter avec vous lors de l’édition Data Innovation Summit ou de collaborer avec vous sur votre projet d’apprentissage automatique.