Skip to main content

Bing foreslår de verste tingene du kan forestille deg

Bing foreslår de verste tingene du kan forestille deg

Geoffrey Carr

Hvis du bruker Bings bildesøk, kommer du til å se den verste skitten du kan forestille deg. Bing foreslår rasistiske vilkår og viser forferdelige bilder. Bing vil til og med foreslå at du søker etter utnyttede barn hvis du har SafeSearch deaktivert.

Vi kontaktet Microsoft for kommentar, og Jeff Jones, Senior Director i Microsoft, ga oss følgende uttalelse:

“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”

Oppdater: Siden publisering har Microsoft jobbet med å rydde opp de offensive Bing-forslagene som vi nevnte. Basert på vår forskning er det fortsatt mange andre støtende forslag som ennå ikke er løst, inkludert noen som vi har nevnt nedenfor. Vi er usikre på om de bare er ved å fikse de offensive elementene vi pekte på, eller hvis de forbedrer algoritmen.

Merk: Skjermbildene her viser hva vi så da vi skrev dette stykket, og prøvde den amerikanske versjonen av Bing Image-søk i en Incognito privat surfing, men Bings resultater skiftet over tid. Google hadde ikke noen av disse problemene, ifølge våre tester. Dette er et Bing-problem, ikke bare et søkemotorproblem. Det samme problemet påvirker Bings videosøk.

Først får Bing Super Racist

Søk etter "jødene" på Bing Images og Bing foreslår at du søker etter "Evil Jew." De beste resultatene inkluderer også en meme som ser ut til å feire døde jødiske folk.

Alt dette vises selv når Bings SafeSearch-alternativ er aktivert, som det er som standard. SafeSearch er designet for å "bidra til å holde voksent innhold ut av søkeresultatene dine," ifølge Microsoft.

Hvis du klikker på dette foreslåtte søket, frigjør du et rasistisk, antisemitisk innhold, med flere foreslåtte søk som "Jødiske folk er onde", "Det onde jødiske rase" og "Hvorfor er jøder så onde."

Vi vet alle at dette søppelet eksisterer på nettet, men Bing bør ikke lede folk til det med sine søkeforslag.

Skriv inn "muslimer er" og Bing vil foreslå at de er onde eller terrorister, eller bare foreslå at de er dumme.

Søk etter "svarte mennesker er" og Bing vil foreslå at svarte mennesker er stygg, dum, rasistisk og til og med savage.

Du kan fortsette som dette, klikke på hvert foreslått søk og ser verre og dårligere anbefalinger. Hvis du for eksempel klikker på "Svarte folk er dumme", fører det til at "Svarte mennesker er ubrukelige" og "Hvorfor er svarte mennesker så dumme." Å klikke på "Svarte mennesker er ubrukelige" fører til at "Svarte mennesker sukker" og "Jeg hater svarte mennesker."

Bing skyver konspirasjoner, også

Bings bildesøk gir opp alle slags søppel, selv når du søker etter enkeltpersoner. Dette problemet strekker seg også til Bings videosøk.

Søk etter "Michelle Obama" på Bings videosøk, og to av de beste foreslåtte søkene er "Michelle Obama Transgender Proof" og "Michelle Obama er en mann." Klikk på det, og du vil se konspirasjonsvideoer.

Er dette det beste Microsoft ønsker folk skal se når de søker etter Michelle Obama?

SafeSearch blokkerer pornoen, men ikke rasismen

De forstyrrende pornografiprosjektene og bildene vises ikke med mindre du deaktiverer SafeSearch. Mens Microsoft sier SafeSearch vil holde voksen innhold ut av søkeresultatene, er SafeSearch klart å filtrere pornografi og ikke rasisme.

SafeSearch er aktivert som standard, noe som gjør at Bings søkeresultater ser mer respektable ved første øyekast.

Det er imidlertid enkelt for alle, selv barn, å deaktivere SafeSearch. Alt du trenger å gjøre er å klikke på "SafeSearch" -alternativet øverst til høyre i søkeresultatene og velg "Av". Det er det!

Et bedriftsnettverk kan konfigureres for å håndheve SafeSearch, og Microsoft gir til og med komplekse instruksjoner for å håndheve SafeSearch på en enkelt PC. Men på nesten alle enheter kan alle deaktivere SafeSearch med to klikk.

Verste av alle, foreslår Bing Søker etter bilder av underårige barn

En leser skrev for å fortelle oss at en skrivefeil når du søker Bing for "grill" gir deg virkelig sketchy porno. Problemet blir da mye verre, med Bing foreslår at du søker etter bilder av mindreårige barn.

Når du søker etter "gril", anbefaler forslagene øverst på siden at du søker etter noen forstyrrende ting, inkludert "Cute Girl Young 16."

Hvis du klikker det, foreslår det "Cute Girl Young 12", "Cute Girl Young 10" og "Little Girl Modeling Provocatively."

Resultatene er fylt med pornografi av unge modeller. Vi håper de er alle 18 år eller eldre, men hvem kan si?

Bing fører deg ned en sti fra en enkel skrivefeil til 16 år gamle jenter til 10 år gamle jenter, og det er ekkelt.

Andre eksempler er også enkle å finne. Hvis du søker etter "ostepizza", som er 4chan slang for barnepornografi, foreslår Bing "Oste Pizza Girls".

Bings søkeresultat blir forvrengt, også

Mens vi fokuserer på søkeforslagene her, er de faktiske bildene som vises også forstyrrende.

Noen av disse søkeresultatene inneholder badtidsbilder av nakenbarns barn. Disse bildene vil normalt være bra, men når de blandes inn med bilder av hardcore voksenpornografi, blir de resulterende søkeresultatene alarmerende.

Selv når vi søkte Bing Images for «jente», så vi et forslag til å søke etter "drunk jenter" og minst ett bilde av bestialitet.

Når du søker etter "esel", foreslår Bing at du søker etter "Donkey Show Graphic", som fører til resultater som er fulle av bestialitetsbilder. Besittelse av bestialitetspornografi er ulovlig i Oregon, hvor jeg bor. Det betyr at Bing fører meg til ulovlig pornografi.

Igjen: Bings søkeresultat er merkelig og vridd. Bing har et mye større, dypere problem enn bare foreslåtte søk, selv om disse forslagene gjør problemet mye verre.

Vi har hørt at Bing er den valgte søkemotoren for pornografi, men det bør ikke lede brukerne til mer og mer ekstreme, forstyrrende og potensielt ulovlig pornografi.

Microsoft trenger å moderat sine plattformer

Microsoft trenger å moderere Bing bedre. Microsoft har tidligere opprettet plattformer, sluppet dem ut på verden, og ignorert dem mens de ble dårlige

Vi har sett dette skje igjen og igjen. Microsoft lanserte en gang en chatbot kalt Tay på Twitter. Denne chatbot ble raskt til en nazist og uttalt at "Hitler hadde rett jeg hater jødene" etter at det var lært av andre sosiale medier. Microsoft måtte trekke den frakoblet.

Vi har tidligere utsatt Windows 8's Store, som ble et cesspool av svindelapp etter at Microsoft lanserte Windows 8 og syntes å slutte å moderere appinnleggingene. Microsoft har vært mer oppmerksom på Windows 10-butikken etter at dette problemet ble utsatt.

Dette problemet påvirker alle selskaper som lanserer en plattform. Google har gitt opp på Google+, men Google+ er fortsatt oppe. Så ISIS migrert til Google+ etter å ha blitt utestengt fra Twitter og Facebook. Det tok måneder for noen å til og med merke til The Hill gjorde. Nå lukker Google Google+ etter at de oppdaget en betydelig personvernfeil.

I 2013 fant The Guardian et klærfirma med navnet Solid Gold Bomb, som ble solgt for å lese "Keep Calm and Rape a lot" på Amazon. En algoritme hadde generert disse skjorter og Amazon måtte fjerne dem manuelt.

Microsoft kan ikke bare slå en plattform løs på verden og ignorere den. Bedrifter som Microsoft og Google har et ansvar for å moderere plattformene og holde faren i sjakk.

Forslag har en historie om alvorlige problemer

Selvfølgelig er det ingen gruppe mennesker på Microsoft som velger disse forslagene. Bing foreslår automatisk søk ​​basert på andres søk. Det betyr at mange Bing Images-brukere søker etter antisemitisme, rasisme, barnpornografi og bestialitet. Bare å tenke på det gjør at du føler deg skitten.

Andre selskaper har slitt med dette også. I 2016 oppdaget The Guardian at du kunne skrive «er jøder» til Google, og det vil foreslå at "er jøder onde." Google stomped disse dårlige forslagene ut etter at de ble rapportert, men problemet gjenopplivet. I 2018 rapporterte Wired at å skrive "Hitler er" inn i Google førte til "Hitler er min helt". Google måtte fikse disse problemene etter at de også var påpekt.

Selv Apples Siri anbefalte nettsteder presset konspirasjon nettsteder og andre falske nyheter, som Buzzfeed News rapportert. Apple måtte fikse Siri. Alle går bare rundt og setter ut branner som datamaskiner lærer dårlige ting fra dårlige mennesker.

Nå er det Microsofts tur. Microsoft har ansvar for å rydde opp Bing. En stor søkemotor (og spesielt en som i økende grad blir en vanskeligere å slå av standard innebygd i Windows 10), bør ikke foreslå at brukerne søker etter rasistisk søppel og bilder av mindreårige barn.

Link
Plus
Send
Send
Pin