Logo JudgeHype
Un accès rapide à nos principaux sites
World of WarcraftDiablo 3HearthstoneHeroes of the StormOverwatchStarCraft 2SDestiny 2
Découvrez les avantages de JudgeHype Premium
Tous les sites du réseau
1090 visiteurs en ligne
  Overwatch   Overwatch

Actu > Sur Overwatch, l'IA sera bientôt capable de traquer les propos et comportements toxiques

Mardi 10 avril 2018 à 16h53 par JudgeHype - 23

Les gars de chez Kotaku ont récemment pu discuter avec Jeff Kaplan d'un sujet assez passionnant, à savoir l'arrivée progressive d'une intelligence artificielle dont l'objectif est de réduire les comportements toxiques sur Overwatch, ou tout du moins d'en punir les auteurs.

À l'heure actuelle, quand un joueur en harcèle un autre, vous pouvez rapporter ce dernier auprès de Blizzard. La société s'est d'ailleurs récemment félicitée des progrès réalisés au niveau de la modération. Les améliorations apportées ces derniers mois ont encouragé les joueurs à rapporter les problèmes plus souvent tout en réduisant de façon significative les débordements dans les canaux de discussions. Bref, ça va mieux.

Mais Blizzard ne compte pas s'arrêter là car, intrinsèquement parlant, rapporter un message et le modérer demandent du temps. Ajoutez à cela que certains joueurs n'utilisent pas la fonctionnalité qui est à leur disposition, que ce soit par flemme ou par un manque de confiance en lui, et vous vous retrouvez avec un système certes fonctionnel, mais loin d'être parfait... sans compter qu'il peut être contourné. 

Jeff Kaplan et son équipe travaillent ainsi activement afin que les ordinateurs puissent traquer eux-mêmes les mauvais comportements... et éviter que vous ne deviez les rapporter.

Les développeurs tentent ainsi d'apprendre à l'IA ce qu'est un langage toxique via le machine learning. Si l'anglais fut utilisé pour les premiers tests, Blizzard est déjà passé à d'autres langues comme le coréen. L'objectif suivant, plus impressionnant, est de comprendre en quoi un comportement se révèle être toxique.

Pour Jeff Kaplan, c'est l'étape suivante. Overwatch sera ainsi peut-être capable, un jour, de voir qu'un joueur place un mur de glace avec Mei dans l'unique objectif de faire l'imbécile.

Bien évidemment, une telle IA ne verra pas le jour demain. Il faut notamment lui apprendre à déterminer le contexte. Les propos écrits dans ce message privé sont-ils une blague entre deux potes ou un harcèlement ? Blizzard commencera par s'occuper des cas les plus évidents, avec l'objectif par la suite de rendre le système de plus en plus intelligent et donc capable de faire la différence entre deux situations à première vue identiques.

Du côté d'Irvine, on cherche également à prendre le problème dans l'autre sens. Il faut punir les fraudeurs, mais pourquoi ne pas trouver une façon de récompenser les comportements positifs en jeu ? Les développeurs poursuivent donc des recherches en ce sens, afin que les joueurs eux-mêmes se remettent en question et aient envie de bien se comporter.

23 commentaires - [Poster un commentaire]


 Pages :
1
2
3

Membre
CptAdama #385
Posté le mardi 10 avril 2018 à 17h07  -  #1
2

J'imagine bien le pauvre mec qui fail complétement un Wall et se retrouve kick :D Blague mis à part s'est très intéressant.


Membre
Neliths #112
Posté le mardi 10 avril 2018 à 17h21  -  #2
8

On est obligé d'en arriver là. La communauté est si décevante, je pense quand même que cette ia fera du bien.


Membre
Bocky #178
Posté le mardi 10 avril 2018 à 17h27  -  #3
13

J'espère juste que leur IA ne s'alignera pas sur les critères de l'Overwatch League   



Membre
Tityr #995
Posté le mardi 10 avril 2018 à 17h29  -  #4
2

Au moins une ia utile, je trouve ça plus intéressant que celle qui bat les joueurs aux échecs :p


Membre
Sellina #878
Posté le mardi 10 avril 2018 à 17h38  -  #5
3

Ah ? Donc l'IA va report tous les picks Hanzo en hero league ? Mais comment je vais le jouer alors ?   


Membre
Bokha #166
Posté le mardi 10 avril 2018 à 17h39  -  #6
3

Des récompenses pour les comportements positifs? 

C'est juste ne pas être toxique ou alors c'est carrément au sens littérale, par exemple un joueur qui en félicite un autre,etc...?

En tout cas, c'est intéressant en effet.


Membre
Wicked_Larkin #285
Posté le mardi 10 avril 2018 à 17h40  -  #7
0

Le jeu étant tellement toxique l'IA va finir par croire que c'est une norme comportementale, et c'est les gens qui diront des compliments qui se feront kick. #trololo #L'IATwittercorrompueparsacommunauté.

Blague à part c'est une initiative louable, faudra voir par contre dans l'application si ça mène pas à des dérives. Pour exemple, Tay, une IA qui a été introduite sur Twitter est vite devenue une bête incontrôlable, corrompue par les utilisateurs, jusqu'à devenir une IA qui mettait des milliers de publications pro-nazies à la minute.

Wait and see, quoi, en espérant que l'IA d'Overwatch chope pas elle aussi le cancer.


Membre
Redhot332 #565
Posté le mardi 10 avril 2018 à 17h41  -  #8
1

Mouais, je sais pas trop quoi en penser...


Il est probable que pour entraîner leur IA, ils vont se baser sur les gars qui ont été reporté. Mais difficile de gérer les gars qui ont report à tort, sauf à se baser sur les personnes qui ont été reportés 1000 fois, qui sont clairement plus toxiques que la moyenne.

Moi, j'espère surtout qu'ils vont pas ban dès que quelqu'un rage. Arriver à détecter une frustration (notament sur les adversaires) d'un véritable post toxique est extrémement dur et peu amener à des abus, en tout cas au début.

Après, c'est probable qu'ils se servent de cette IA que comme une lanceuse d'alerte... Bref, à suivre^^


Sur le sujet, je vous invite à aller voir le kaggle jigsaw, si vous voulez voir comment ces IA sont codées.

https://www.kaggle.com/c/jigsaw-toxic-comment-classification-challenge


Membre
Innamor #695
Posté le mardi 10 avril 2018 à 17h44  -  #9
4

En fait y'a pas à récompenser les comportements "positifs". C'est pas positif que de ne pas être toxique. C'est juste normal...


Membre
Redhot332 #565
Posté le mardi 10 avril 2018 à 17h44  -  #10
1

@Wicked_Larkin 

Oui mais la se serait pas pareil: l'IA dont tu parles (de microsoft de mémoire) apprenait de ses conversations. Des gars de reddit (ou 4chan je sais plus) se sont amusés à la corrompre.

La Blizzard ne prendrait pas un tel risque : il entraînerait l'IA en interne avec les données actuelles (calcul des poids des réseaux de neurones), et laisserait agir une IA qui n'apprend pas (pas d'actualisation des poids au cours du temps).


 Pages :
1
2
3

Poster un commentaire

Vous devez vous identifier pour poster un commentaire.
SCREENSHOT ALÉATOIRE
DISCORD JUDGEHYPE
Discord
BOUTIQUE
1 2 3
Figurine Funko POP Fatale
Licence officielle Overwatch pour Funko, avec cette figurine Fatale.
Tout l'art de Blizzard
Plus de 700 illustrations des jeux de Blizzard, dont certains inédites. Un must have !
PC Gamer Materiel.net Juggernaut II
Modèle du processeur : Processeur Intel Core i7 7700K Puce graphique : NVIDIA GeForce GTX 1080 Ti Taille SSD : SSD 250 Go Mémoire intégrée : 16 Go DDR4 Prix : 1 999,99€ TTC
APPLICATIONS MOBILES
Application Android  Application iOS
SOUTENIR JUDGEHYPE
Logo Voici les moyens de soutenir JudgeHype :  Abonnez-vous au réseau JudgeHype  Désactivez adblock pour le réseau  Achetez via ce lien sur Materiel.net  Achetez via ce lien sur Amazon.fr  Achetez via ce lien sur Gamesplanet Nous vous remercions pour votre soutien sans qui le réseau JudgeHype ne pourrait continuer son travail !
GÉNÉRAL : Archives
PRÉSENTATION : Histoire d'OverwatchOrigine et affiliation des hérosCourts-métrages d'animationBande-dessinéeCinématique d'introductionCartesHauts faitsChoc de la semaineConfiguration requise PC
HÉROS : FaucheurGenjiMc CreePharahSoldat 76TracerBastionChacalFataleHanzoMeiTorbjörnChopperD.VaReinhardtWinstonZaryaAnaAngeLúcioSymmetraZenyatta
GUIDES : Voir les guidesCréez un guideBien débuter sur OverwatchÉditions Origins et Collector
IMAGES : AléatoiresCoffres de ButinHérosCartesIllustrationsEaster Eggs
DOSSIERS : BlizzCon 2015Gamescom 2015PAX East 2015BlizzCon 2014
POTG : Voir les Play of the GameProposez un POTG
Nombre de visites sur l'accueil depuis la création du site Overwatch : 6.747.294 visites.
© Copyright 1998-2018 JudgeHype SPRL. Tous droits réservés. Reproduction totale ou partielle interdite sans l'autorisation de l'auteur.
Partenaire : Gamesplanet