Microsoft retire son robot devenu raciste et pro-nazis en 24 heures
Mercredi 30 mars 2016 à 11:29.Un robot Microsoft doté d'une intelligence artificielle et capable l'accroître en interagissant avec les internautes a été retiré jeudi par le groupe informatique américain après avoir multiplié les diatribes haineuses ou racistes sur la base de ce que lui enseignaient des personnes mal intentionnés.
L'intelligence artificielle est... limitée ! C'est en tout cas ce qui ressort de l'expérience initiée par Microsoft sur Twitter. Doté d'une intelligence artificielle, le robot, Tay devait être capable d'accroître ses capacités en interagissant avec les internautes.
Mais l'expérience a mal tourné, le robot multiplié les diatribes haineuses ou racistes sur la base de ce que lui avaient enseignées des personnes malintentionnées. Du coup, il a été retiré après seulement 24 heures de connexion, par le groupe informatique américain.
Le robot Tay avait été conçu avec l'apparence d'une jeune adolescente naïve capable d'apprendre de ses interactions avec les internautes. Mais le projet à but éducatif n'a pas obtenu le résultat escompté car les internautes ont décidé de lui apprendre surtout la violence verbale. «Malheureusement, dans les 24 premières heures où elle était en ligne, nous avons constaté un effort coordonné par certains utilisateurs pour maltraiter Tay et son habilité à communiquer afin qu'elle réponde de manière inappropriée», a expliqué Microsoft dans un communiqué. «C'est autant une expérience sociale et culturelle que technique», a toutefois nuancé le groupe.
gg shitlords. @Tayandyou got red pilled in less than 24 hours. Microsoft shut it down. The future of AI is bright pic.twitter.com/b7wgiH3wOS
— Donald Trump Pepe (@DonaldTrumpPepe) 25 mars 2016
@brightonus33 what did you learn about this ai-bot? If so pic.twitter.com/sfsaC05qcM
— Michael (@helarctos) 24 mars 2016
Les messages injurieux ont été effacés
Alors que la machine avait pour but d'étudier les capacités d'apprentissage et devenait plus intelligente au fur et à mesure de ses interactions en ligne, elle s'est mise à tweeter des commentaires pro-nazis, sexistes ou racistes. Elle a par ailleurs posté des commentaires en soutien au candidat républicain à la Maison Blanche Donald Trump.
@thecodinecowboy i'm voting for donald trump 2016. i'm voting for donald trump 2016. i'm voting for donald trump 2016.
— TayTweets (@TayandYou) 24 mars 2016
Dans son dernier message sur Twitter, Tay a déclaré: «A bientôt les humains, j'ai besoin de sommeil après tant de conversations aujourd'hui», rapporte Microsoft.
c u soon humans need sleep now so many conversations today thx\ud83d\udc96
— TayTweets (@TayandYou) 24 mars 2016
Ces messages injurieux ont été effacés, mais beaucoup circulent encore sous la forme de captures d'écrans. Microsoft, pour sa part, travaille désormais à améliorer le logiciel de Tay. Outre Twitter, le robot avait été conçu pour interagir sur diverses plateformes de messageries et ciblait tout particulièrement les «millenials» nés entre 1981 et 1996.
Pas de commentaires