Le système d'IA de Blizzard tentera d'attraper les trolls d'Overwatch

Avant que les IA sophistiquées ne s'emparent du monde avec leurs sous-fifres robotiques, elles pourraient nous aider à arrêter les tricheurs dans nos jeux préférés. Dans le cas d'Overwatch, Blizzard a commencé à exploiter sa propre IA pour traquer les trolls dans le célèbre jeu de tir, en utilisant l'apprentissage automatique pour apprendre au système quel est leur comportement.

"Nous avons expérimenté l'apprentissage automatique", a déclaré Jeff Kaplan, directeur du jeu Overwatch. Kotaku lors d'une interview dans les bureaux de Blizzard. "Nous avons essayé d'enseigner à nos jeux ce qu'est un langage toxique, ce qui est assez amusant. L'idée est qu'il n'est pas nécessaire d'attendre un rapport pour déterminer que quelque chose est toxique. Notre objectif est de faire en sorte que vous n'ayez pas à attendre qu'un rapport soit établi."

Le système de rapport d'Overwatch a été assez malmené par la communauté des joueurs par le passé, mais Blizzard a pris des mesures énergiques pour le rendre beaucoup plus fonctionnel au cours des derniers mois. En effet, son utilité semble s'être considérablement améliorée, ce qui a conduit les joueurs à l'utiliser jusqu'à 20 % de plus, selon Kaplan. Il a permis de réduire de 17 % le nombre d'insultes dans les jeux, ce qui est un chiffre remarquable.

M. Kaplan pense que l'apprentissage automatique peut aller plus loin et mettre en évidence les trolls et les personnes qui se comportent mal dans le jeu, sans qu'il soit nécessaire de les dénoncer. En fait, cela pourrait même être plus précis, car il y aurait moins de faux positifs et pas de contre-signalement en réponse à un troll interpellé sur son comportement.

"Pour tout ce qui concerne les rapports et les punitions des joueurs, il faut commencer par les cas les plus extrêmes, puis trouver le moyen d'adoucir les choses", a-t-il averti, laissant entendre qu'il est difficile d'enseigner à une IA ce qu'est un jeu toxique. Comment faire la différence entre un jeu difficile légitime et une personne qui fait l'imbécile dans un jeu compétitif ? Il n'est pas toujours facile pour les humains de faire la différence, et l'IA risque d'avoir encore plus de mal.

Blizzard y travaille cependant.

Que pensez-vous du fait qu'une IA puisse surveiller votre jeu ?