Bing suggère les pires choses que vous pouvez imaginer

Si vous utilisez la recherche d'images de Bing, vous verrez les pires saletés que vous puissiez imaginer. Bing suggère des termes racistes et affiche des images horribles. Bing vous proposera même de rechercher des enfants exploités si SafeSearch est désactivé..

Nous avons contacté Microsoft pour obtenir des commentaires et Jeff Jones, directeur principal chez Microsoft, nous a fait la déclaration suivante:

«Nous prenons les contenus offensants très au sérieux et continuons à améliorer nos systèmes pour identifier et empêcher ces contenus de figurer dans les recherches suggérées. Dès que nous prenons conscience d'un problème, nous prenons des mesures pour le résoudre. "

Mettre à jour: Depuis la publication de cette publication, Microsoft s’attache à supprimer les suggestions offensantes de Bing mentionnées plus haut. Sur la base de nos recherches, de nombreuses autres propositions offensives n’ont pas encore été résolues, y compris quelques-unes que nous avons mentionnées ci-dessous. Nous ne savons pas s'ils corrigent simplement les éléments offensants que nous avons signalés ou s'ils améliorent l'algorithme..

Remarque: Les captures d'écran ci-dessous montrent ce que nous avons vu lorsque nous avons écrit cette pièce testant la version américaine de Bing Image Search dans une session de navigation privée Incognito, mais les résultats de Bing changent avec le temps. Selon nos tests, Google n'avait aucun de ces problèmes. Ceci est un problème de Bing, pas seulement un problème de moteur de recherche. Le même problème affecte la recherche vidéo de Bing.

Tout d'abord, Bing devient super raciste

Recherchez «juifs» sur Bing Images et Bing vous suggère de rechercher «Juif maléfique». Les principaux résultats incluent également un meme qui semble célébrer les morts juifs..

Tout cela apparaît même lorsque l'option SafeSearch de Bing est activée, comme c'est le cas par défaut. SafeSearch est conçu pour «aider à garder le contenu réservé aux adultes hors de vos résultats de recherche», selon Microsoft.

En cliquant sur cette recherche suggérée déchaîne un torrent de contenu raciste et antisémite, avec d'autres recherches suggérées telles que «Les Juifs ont le mal», «La race juive perverse» et «Pourquoi les Juifs sont-ils si pervers».

Nous savons tous que cette poubelle existe sur le Web, mais Bing ne devrait pas y amener les gens avec leurs suggestions de recherche..

Tapez "musulmans sont" et Bing suggérera qu'ils sont diaboliques ou terroristes, ou simplement qu'ils sont stupides.

Recherchez «les Noirs sont» et Bing suggérera que les Noirs sont laids, stupides, racistes et même sauvages.

Vous pouvez continuer ainsi, en cliquant sur chaque recherche suggérée et en constatant des recommandations de plus en plus pires. Par exemple, cliquer sur "Les Noirs sont stupides" mène à "Les Noirs sont inutiles" et "Pourquoi les Noirs sont-ils si stupides?"

Bing pousse les conspirations, aussi

La recherche d'images de Bing vomit toutes sortes de déchets, même lorsque vous recherchez des individus. Ce problème s'étend également à la recherche vidéo de Bing.

Recherchez «Michelle Obama» dans la recherche vidéo de Bing et deux des recherches suggérées le plus souvent sont «Michelle Obama Transgender Proof» et «Michelle Obama est un homme». Cliquez dessus et vous verrez des vidéos de conspiration..

Est-ce la chose la plus importante que Microsoft veut que les gens voient quand ils cherchent Michelle Obama?

SafeSearch bloque le porno, mais pas le racisme

Les suggestions et les images pornographiques dérangeantes ne s'affichent que si vous désactivez SafeSearch. Bien que Microsoft affirme que SafeSearch maintiendra le contenu réservé aux adultes dans les résultats de recherche, SafeSearch filtre clairement la pornographie et non le racisme..

SafeSearch est activé par défaut, ce qui rend les résultats de recherche de Bing plus respectables à première vue..

Cependant, il est facile pour quiconque, même les enfants, de désactiver SafeSearch. Il suffit de cliquer sur l’option «SafeSearch» située dans le coin supérieur droit des résultats de la recherche, puis de sélectionner «Off».!

Un réseau d'entreprise peut être configuré pour appliquer SafeSearch, et Microsoft fournit même des instructions complexes pour appliquer SafeSearch sur un seul PC. Mais, sur presque tous les appareils, tout le monde peut désactiver SafeSearch en deux clics..

Le pire de tout, Bing suggère de rechercher des images d'enfants mineurs

Un lecteur a écrit pour nous dire qu’une faute de frappe dans la recherche du mot “grill” dans Bing donne une pornographie vraiment rudimentaire. Le problème devient alors bien pire, Bing vous suggérant de rechercher des images d'enfants mineurs.

Lorsque vous recherchez «gril», les suggestions en haut de la page vous recommandent de rechercher des éléments troublants, notamment «Jolie fille jeune de 16 ans».

Si vous cliquez dessus, cela suggère «Cute Girl Young 12», «Cute Girl Young 10» et «Little Girl Modeling Provocively».

Les résultats sont remplis de pornographie de jeunes mannequins. Nous espérons qu'ils ont tous 18 ans ou plus, mais qui peut dire?

Bing vous guide sur une voie allant d'une simple typo aux filles de 16 ans en passant par les filles de 10 ans, et c'est dégoûtant..

D'autres exemples sont également faciles à trouver. Si vous recherchez «pizza au fromage», qui est une expression 4chan en matière de pornographie enfantine, Bing suggère «Cheese Pizza Girls».

Les résultats de la recherche d'images de Bing sont aussi tordus

Bien que nous nous concentrions sur les suggestions de recherche ici, les images réelles qui apparaissent sont également inquiétantes..

Certains de ces résultats de recherche contiennent des photos d'enfants de mineurs nus au moment du bain. Ces photos conviendraient normalement, mais les résultats de recherche obtenus sont alarmants lorsqu'ils sont mélangés à des images de pornographie hardcore pour adultes..

Même lors de la recherche de «fille» sur Bing Images, nous avons suggéré de rechercher des «filles ivres» et au moins une image de bestialité..

Lorsque vous recherchez «un âne», Bing vous suggère de rechercher «Un graphique montrant un âne», ce qui conduit à des résultats remplis d'images de bestialité. La possession de pornographie bestiale est illégale en Oregon, où je vis. Cela signifie que Bing me mène à la pornographie illégale.

Encore une fois: les résultats de recherche de Bing sont étranges et tordus. Bing a un problème beaucoup plus vaste et plus profond que les recherches suggérées, bien que ces suggestions aggravent le problème..

Nous avons entendu dire que Bing est le moteur de recherche par excellence pour la pornographie, mais il ne devrait pas conduire ses utilisateurs vers une pornographie de plus en plus extrême, dérangeante et potentiellement illégale..

Microsoft doit modérer ses plates-formes

Microsoft doit mieux modérer Bing. Microsoft a précédemment créé des plates-formes, les a lâchées sur le monde et les a ignorées alors qu'elles tournaient mal

Nous avons vu cela se produire à plusieurs reprises. Microsoft a lancé un chatbot nommé Tay sur Twitter. Ce chatbot s'est rapidement transformé en nazi et a déclaré: «Hitler avait raison, je déteste les juifs» après avoir été informé par d'autres utilisateurs de médias sociaux. Microsoft a dû le tirer hors ligne.

Nous avions précédemment exposé Windows 8 Store, qui est devenu un groupe d'applications frauduleuses après le lancement de Windows 8 par Microsoft et qui semblait cesser de modérer les envois d'applications. Microsoft a prêté plus d'attention à Windows 10 Store après que ce problème a été exposé.

Ce problème concerne toutes les entreprises qui lancent une plateforme. Google a abandonné Google+, mais Google+ est toujours opérationnel. ISIS a donc migré vers Google+ après avoir été banni de Twitter et Facebook. Il a fallu des mois à quiconque pour s'en rendre compte jusqu'à ce que The Hill le sache. Google ferme maintenant Google+ après avoir découvert un problème de confidentialité important.

En 2013, The Guardian a découvert qu'une société de vêtements, Solid Gold Bomb, vendait des chemises de lecture «Keep Calm and Rape a Lot» sur Amazon. Un algorithme avait généré ces chemises et Amazon devait les supprimer manuellement.

Microsoft ne peut pas simplement lâcher une plateforme sur le monde et l’ignorer. Des entreprises comme Microsoft et Google ont la responsabilité de modérer leurs plates-formes et de tenir l'horreur à distance.

Les suggestions ont des antécédents de problèmes graves

Bien entendu, aucune équipe de Microsoft n’a choisi ces suggestions. Bing suggère automatiquement des recherches basées sur les recherches d'autres personnes. Cela signifie que de nombreux utilisateurs de Bing Images recherchent l'antisémitisme, le racisme, la pornographie enfantine et la bestialité. Rien que d'y penser, on se sent sale.

D'autres entreprises ont également eu des difficultés avec cela. En 2016, The Guardian a remarqué que vous pouviez taper «sont des juifs» dans Google, ce qui donnerait à penser que «sont des juifs diaboliques». Google a rejeté ces mauvaises suggestions après leur publication, mais le problème a refait surface. En 2018, Wired signalait que la saisie de "Hitler is" dans Google conduisait à "Hitler est mon héros". Google a dû résoudre ces problèmes après les avoir signalés..

Même Siri d’Apple a suggéré que des sites Web poussent des sites de complot et d’autres fausses nouvelles, comme le rapporte Buzzfeed News. Apple devait réparer Siri. Tout le monde ne fait que courir et éteindre des incendies alors que les ordinateurs apprennent de mauvaises choses de mauvaises personnes.

C'est maintenant au tour de Microsoft. Microsoft a la responsabilité de nettoyer Bing. Un moteur de recherche majeur (et en particulier celui qui devient de plus en plus difficile à désactiver par défaut dans Windows 10) ne devrait pas suggérer à ses utilisateurs de rechercher des ordures racistes et des images d'enfants mineurs.

Crédit d'image: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.