Како претраживачи шире дезинформације

девојка која гледа кроз спиралу боја

Слика преко Цриспина храброг / тренутка преко Гетти Имагес-а

Претраживачи су један од примарних пролаза ка информацијама и људима, али су и проводници за дезинформације.




Овај чланак о погрешним информацијама овде је поново објављен уз дозволу Разговор . Овај садржај се дели овде, јер тема може да занима читаоце Снопес-а, али она не представља рад проверавача чињеница или уредника Снопес-а.




Претраживачи су један од примарних пролаза ка информацијама и људима, али су и проводници за дезинформације. Слично проблематични алгоритми друштвених медија , претраживачи науче да вам служе оно на шта сте ви и други кликнули раније. Будући да људе привлачи сензационално, овај плес између алгоритама и људске природе може поспешити ширење дезинформација.

Компаније за претраживаче, као и већина услуга на мрежи, не зарађују само продајом огласа, већ и праћењем корисника и продајом њихових података путем лицитирања у реалном времену бацам се на посао. Људе често доводе до дезинформација због жеље за сензационалним и забавним вестима, као и информацијама које су или контроверзне или потврђују њихове ставове. Једно истраживање је открило да су популарнији ИоуТубе видео снимци о дијабетесу мање вероватно да ће имати медицински валидне информације него мање популарни видео снимци на ту тему, на пример.



Огласни претраживачи, попут платформи друштвених медија, дизајнирани су да награђују кликом на примамљиве везе, јер помажу претраживачким компанијама да појачају своје пословне показатеље. Као истраживач који проучава системе за претрагу и препоруке , Ја и моје колеге показујемо да је ова опасна комбинација мотива корпоративне добити и индивидуалне подложности отежава решавање проблема .

Како резултати претраге иду погрешно

Када кликнете на резултат претраге, алгоритам претраживања сазнаје да је веза коју сте кликнули релевантна за ваш упит за претрагу. Ово се зове релевантност повратне информације . Ове повратне информације помажу претраживачу да убудуће даје већу тежину тој вези за тај упит. Ако довољан број људи кликне на ту везу довољно пута и на тај начин даје снажне повратне информације о релевантности, та веб локација почиње да се појављује више у резултатима претраге за то и сродне упите.

пре него што себи дијагнозирате депресију или ниско самопоштовање

Људи су већа је вероватноћа да ће кликнути на везе приказане горе на листи резултата претраживања. Ово ствара позитивну повратну спрегу - што се више приказује веб локација, то је више кликова, а то заузврат чини да се та веб страница помиче више или да је држи више. Технике оптимизације претраживача користе ово знање за повећање видљивости веб локација.



Постоје два аспекта овог проблема са дезинформацијама: како се процењује алгоритам претраживања и како људи реагују на наслове, наслове и исечке. О претраживачима се, као и за већину мрежних услуга, процењује помоћу низа показатеља, од којих је један ангажовање корисника. У најбољем је интересу компанија које траже претраживаче да вам дају ствари које желите да прочитате, погледате или једноставно кликнете. Стога, док претраживач или било који систем препорука креира листу ставки које ће се представити, израчунава вероватноћу да ћете кликнути на њих.

Традиционално, ово је требало да изнесе информације које би биле најрелевантније. Међутим, појам релевантности постао је нејасан јер су људи користили претрагу за проналажење забавни резултати претраге као и заиста релевантне информације .

Замислите да тражите штимер за клавир. Ако вам неко покаже видео мачке која свира клавир, да ли бисте кликнули на њега? Многи би, чак и ако то нема никакве везе са подешавањем клавира. Служба за претрагу осећа се потврђено позитивним повратним информацијама и сазнаје да је у реду показати мачку која свира клавир када људи траже клавирске штимере.

У ствари, то је чак и боље од показивања релевантних резултата у многим случајевима. Људи воле да гледају смешне видео записе о мачкама, а систем за претрагу добија више кликова и ангажовање корисника.

божић је био незаконит до 1836. године

Ово може изгледати безазлено. Па шта ако људи с времена на време одврате пажњу и кликну на резултате који нису релевантни за упит за претрагу? Проблем је што људе привлаче узбудљиве слике и сензационални наслови. Они имају тенденцију да кликћу на теорије завере и сензационализоване вести , не само мачке које свирају клавир, и то раде више од клика на стварне вести или релевантне информације.

Познати, али лажни пауци

2018. потрага за „новим смртоносним пауком“ на Гоогле-у након објаве на Фејсбуку у којој се тврди да је нови смртоносни паук убио неколико људи у више држава. Моје колеге и ја анализирали смо првих 100 резултата Гоогле-ове претраге за „новог смртоносног паука“ током прве недеље овог популарног упита.

Дистрибуција резултата претраге за

Прве две странице Гоогле-ових резултата претраге за „новог смртоносног паука“ у августу 2018. (осенчено подручје) биле су повезане са оригиналним лажним вестима о тој теми, без разобличавања или чињеничних података на други начин.
Цхираг Схах, ЦЦ БИ-НД

Испоставило се ова прича био лажан , али људи који су је тражили били су у великој мери изложени дезинформацијама у вези са оригиналним лажним постом. Како су људи наставили да кликћу и деле те дезинформације, Гоогле је и даље приказивао те странице на врху резултата претраге.

Овај образац узбудљивих и непроверених прича се појављује и људи који на њих кликћу настављају се, при чему људи очигледно или нису забринути за истину или верују да ако им поуздана служба као што је Гоогле Сеарцх приказује те приче, онда приче морају бити истините. У новије време, а оповргнути извештај тврдећи да је Кина пустила да коронавирус процури из лабораторије стекао је снагу на претраживачима због овог зачараног круга.

Уочите дезинформације

Да бисмо тестирали колико добро људи разликују тачне информације од погрешних информација, осмислили смо једноставну игру под називом „ Гоогле или не . “ Ова онлајн игра приказује два скупа резултата за исти упит. Циљ је једноставан - одаберите сет који је поуздан, поуздан или најрелевантнији.

Снимак екрана који приказује два скупа резултата Гоогле претраге упоредо

У тестовима, отприлике половина времена људи не могу да разликују разлику између резултата Гоогле претраге који садрже погрешне информације и оних који имају само поуздане резултате.
Цхираг Схах, ЦЦ БИ-НД

Један од ова два скупа има један или два резултата који су или верификовани и означени као дезинформације или разоткривена прича. Игру смо учинили јавно доступном и оглашавали је путем различитих канала друштвених медија. Укупно смо прикупили 2.100 одговора из преко 30 земаља.

да је гласање важно било би незаконито

Када смо анализирали резултате, открили смо то отприлике половину времена људи су погрешно одабрали као поуздан сет са једним или два резултата дезинформација . Наши експерименти са стотинама других корисника током многих понављања резултирали су сличним налазима. Другим речима, отприлике половина времена људи бирају резултате који садрже теорије завере и лажне вести. Како све више људи бира ове нетачне и обмањујуће резултате, претраживачи сазнају да је то оно што људи желе.

Питања везана за регулацију и саморегулацију великих технологија, важно је да људи схвате како ови системи функционишу и како зарађују. Иначе ће тржишна економија и природна склоност људи да их привлаче привлачне везе задржати зачарани круг.

Разговор


Цхираг Схах , Ванредни професор информационих наука, Универзитет у Вашингтону

Овај чланак је поново објављен од Разговор под лиценцом Цреативе Цоммонс. Прочитајте оригинални чланак .

Занимљиви Чланци