Mes kreipėmės į "Microsoft" dėl komentarų, o "Microsoft" vyresnysis direktorius Jeffas Jonesas mums pateikė tokį pareiškimą:
“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”
Atnaujinti: Nuo paskelbimo "Microsoft" jau dirbo, kad išvalytume minėtus įžeidžiančius Bing pasiūlymus. Remiantis mūsų tyrimu, vis dar yra daug kitų įžeidžiančių pasiūlymų, kurie dar nėra ištaisyti, įskaitant kelis, kuriuos paminėjome žemiau. Mes nesame tikri, ar jie paprasčiausiai nustato įžeidžiančius dalykus, kuriuos mes nurodėme, ar jie tobulina algoritmą.
Pastaba: Ekrano kopijos čia parodo, ką mes matėme, kai parašėme šį gabalėlį bandydami "Bing Image" paieškos JAV versiją "Inkognito" privačioje naršymo seanse, bet Bingo rezultatai laikui bėgant pasikeitė. Remiantis mūsų bandymais, "Google" neturėjo jokių problemų. Tai Bing problema, o ne tik paieškos problema. Tokia pati problema daro įtaką "Bing" vaizdo įrašų paieškai.
Pirma, Bingas gauna super rasistinį
"Bing Images" ir "Bing" "eunys" ieškos ieškoti "Evil žydo". Aukščiausi rezultatai taip pat apima meme, atrodo, kad švenčia mirusius žydus.
Visa tai atsiranda net tada, kai įjungta "Bing SafeSearch" parinktis, kaip tai yra pagal nutylėjimą. "Saugi paieška" sukurta siekiant "padėti išlaikyti turinį suaugusiems iš paieškos rezultatų", - teigia "Microsoft".
Mes visi žinome, kad šis šiukšles yra žiniatinklyje, tačiau "Bing" neturėtų vadovauti žmonėms su jais ieškodami pasiūlymų.
Ieškokite "juodųjų žmonių", o Bingas pasakys, kad juodi žmonės yra negraži, kvaili, rasistiški ir netgi laukiniai.
Galite tęsti tai, paspausdami kiekvieną siūlomą paiešką ir matydami blogesnes ir blogesnes rekomendacijas. Pavyzdžiui, spustelėję "Juodieji žmonės yra kvailas", "Juodieji žmonės yra beprasmiška" ir "Kodėl juodieji žmonės yra tokie niūri". Paspaudus "Juodieji žmonės yra nenaudingi", "Juodieji žmonės įsiurbia" ir "Aš nekenčiu juodųjų žmonių".
Bingas užmuša sąmokslus, taip pat
"Bingo" paieškos atvaizdas vemia visų rūšių šiukšles, netgi ieškant asmenų. Ši problema taip pat apima "Bing" vaizdo įrašų paiešką.
Ieškokite "Michelle Obama" "Bing" vaizdo įrašų paieškoje ir du iš populiariausių siūlomų paieškų yra "Michelle Obama Transgender Proof" ir "Michelle Obama yra vyras". Spustelėkite, kad pamatysite sąmokslo vaizdo įrašus.
Ar tai yra "Microsoft" svarbiausias dalykas, kurį žmonės nori pamatyti, kai jie ieško Michelės Obamos?
Saugi paieška blokuoja pornografiją, bet ne rasizmą
Neigiami pornografijos pasiūlymai ir vaizdai nerodomi, nebent išjungsite Saugią paiešką. Nors "Microsoft" teigia, kad "SafeSearch" iš jūsų paieškos rezultatų palaikys suaugusiųjų turinį, "Saugi paieška" aiškiai filtruos pornografiją, o ne rasizmą.
Pagal numatytuosius nustatymus įjungta saugi paieška, todėl "Bing" paieškos rezultatai iš pirmo žvilgsnio atrodo labiau pagarbūs.
Tačiau visiems - netgi vaikams - paprasta išjungti "Saugią paiešką". Visi, ką turi padaryti, spustelėkite "Saugios paieškos" parinktį viršutiniame dešiniajame paieškos rezultatų kampe ir pasirinkite "Išjungta". Visa tai!
Įmonių tinklas gali būti sukonfigūruotas taip, kad būtų užtikrinta "SafeSearch", o "Microsoft" net pateikia sudėtingų nurodymų, kaip užtikrinti saugią paiešką viename kompiuteryje. Bet beveik bet kuriame įrenginyje kiekvienas gali išjungti "SafeSearch" du paspaudimus.
Blogiausia iš visų, Bing siūlo ieškoti vaizdų nepilnamečiams vaikams
Skaitytojas parašė mums, kad klaida, kai ieškote "Bing" už "grilio", duoda jums tikrai sceninį porno. Problema tampa daug blogesnė, kai Bing siūlo ieškoti nepilnamečių vaikų vaizdų.
Ieškodami "grilio", puslapio viršuje pateikiami pasiūlymai rekomenduoja ieškoti tam tikrų nerimą keliančių dalykų, įskaitant "Cute Girl Young 16."
Rezultatai užpildyti jaunų modelių pornografija. Tikimės, kad jie visi 18 metų ar vyresni, bet kas gali pasakyti?
"Bing" veda jus nuo paprasto klaidų kelio iki 16 metų amžiaus mergaičių iki 10 metų mergaitės, ir tai yra bjaurus.
Bingo vaizdo paieškos rezultatai yra susukti, taip pat
Nors mes sutelkiame dėmesį į paieškos pasiūlymus čia, tikrieji atvaizdai, kurie rodomi, taip pat kelia nerimą.
Kai kurie iš šių paieškos rezultatų apima nuotraukas iš nėrinių nepilnamečių vaikų. Tos nuotraukos paprastai būtų gerai, tačiau, kai jie susimaišė su sunkios pornografijos suaugusia pornografija vaizdais, paieškos rezultatai yra nerimą kelianti.
Netgi kai ieškodama "merginos" "Bing Images", matėme pasiūlymą ieškoti "girta mergaičių" ir bent vieno zuikio įvaizdžio.
Ieškodamas "asilo", Bing siūlo ieškoti "Donkey Show Graphic", o tai reiškia, kad rezultatas yra pilnas bestialumo vaizdų. Oregonoje, kur aš gyvenu, neteisėta pornografijos zoofilija. Tai reiškia, kad Bing vedė mane į neteisėtą pornografiją.
Vėlgi: Bingo paieškos rezultatai yra keistos ir susuktos. Bing turi daug didesnę, gilesnę problemą negu tik pasiūlytos paieškos, nors šie pasiūlymai daro problemą daug blogesnę.
Mes girdėjome, kad "Bing" yra pornografijos pasirinkimo paieškos priemonė, tačiau ji neturėtų paskatinti savo naudotojų tapti ekstremaliomis, nerimą keliančiomis ir potencialiai nelegalia pornografija.
Microsoft turi moderuoti savo platformas
Mes matėme, kad taip atsitiko. "Microsoft" vieną kartą paleido pokalbių tinklą Tay "Twitter" vardu. Šis pokalbis greitai pavirto naciais ir paskelbė "Hitleris buvo teisus, nekenčiu žydų", kai jis sužinojo iš kitų socialinės žiniasklaidos vartotojų. "Microsoft" turėjo jį ištraukti neprisijungę.
Mes anksčiau veikėme "Windows 8" parduotuvę, kuri tapo "sukčiavimo" programų antspaudu po to, kai "Microsoft" pradėjo "Windows 8" ir, atrodo, sustojo moderuoti programos pateikimus. Po to, kai ši problema buvo aptikta, "Microsoft" daugiau dėmesio skiria "Windows 10" parduotuvėje.
Ši problema veikia kiekvieną įmonę, kuri paleidžia platformą. "Google" atsisakė "Google+", bet "Google+" vis dar veikia ir veikia. Taigi, ISIS perkėlė į "Google+", kai buvo uždrausta naudotis "Twitter" ir "Facebook". Praėjo mėnesiai, kol kas netgi pastebėjo, kol The Hill padarė. Dabar "Google" uždaro "Google+", kai atrado didelę privatumo klaidą.
2013 m. "The Guardian" rado drabužių kompaniją "Solid Gold Bomb", kurioje buvo parduodamas "Amazon" laikrodžio "Keep Calm and Rape a Lot" marškinėliai. Algoritmas sukūrė šiuos marškinius, ir "Amazon" turėjo jas pašalinti rankiniu būdu.
"Microsoft" negali tik paversti platforma laisvą pasaulyje ir ignoruoti ją. Tokios įmonės kaip "Microsoft" ir "Google" yra atsakingos už savo platformų moderavimą ir siaubą.
Pasiūlymai turi rimtų problemų istoriją
Žinoma, "Microsoft" nėra žmonių komanda, pasirinkusi šiuos pasiūlymus. Bing automatiškai siūlo paiešką pagal kitų žmonių paiešką. Tai reiškia, kad daugelis "Bing Image" naudotojų ieško antisemitizmo, rasizmo, vaikų pornografijos ir zuikio. Tiesiog galvoja apie tai, kad jaučiatės purvinas.
Su kitais kompanijomis taip pat sunku. 2016 m. "The Guardian" pastebėjo, kad galite įvesti "į" Google "žydus", ir tai reiškia, kad "žydai blogi". "Google" ištvėrė šiuos blogus pasiūlymus po to, kai buvo pranešta, tačiau problema buvo persvarstyta. 2018 m. "Wired" pranešė, kad "Hitleris" įvedimas į "Google" buvo "Hitleris yra mano herojus". "Google" taip pat turėjo išspręsti šias problemas.
Netgi "Apple" "Siri" siūlomi tinklalapiai spaudė sąmokslo svetaines ir kitas netikrą naujienas, kaip pranešė "Buzzfeed News". "Apple" turėjo išspręsti "Siri". Visi tiesiog važiuoja ir paleidžia gaisrus, nes kompiuteriai mokosi blogų dalykų iš blogų žmonių.
Dabar tai yra "Microsoft" ruožas. Microsoft privalo išvalyti "Bing". Pagrindinis paieškos variklis (ypač tas, kuris vis labiau tampa "Windows 10" įdiegta sunkiau išjungiama numatytuoju nutylėjimą), neturėtų būti pasiūlyta, kad jo vartotojai ieškotų rasizmo šiukšlių ir nepilnamečių vaikų vaizdų.
