Manipulacja w internecie – wykorzystywanie technologii cyfrowych, takich jak algorytmy mediów społecznościowych i zautomatyzowane skrypty, do celów komercyjnych, społecznych lub politycznych.
Taka taktyka może być stosowana z wyraźnym zamiarem manipulowania opinią publiczną, do polaryzowania postaw obywateliMarchal, Nahema; Neudert, Lisa-Maria (2019). „Polarisation and the use of technology in political campaigns and communication” (PDF). European Parliamentary Research Service., uciszania dysydentów politycznych, szkodzenia przeciwnikom korporacyjnym lub politycznym oraz poprawiania reputacji osobistej lub marki. Hakerzy, wynajęci specjaliści i obywatele dopuszczają się manipulacji w internecie przy użyciu oprogramowania w tym zazwyczaj botów, w szczególności botów społecznościowych, głosobotów i clickbotów.
Hackowanie poznawcze odnosi się do cyberataku, którego celem jest zmiana percepcji użytkowników i modyfikacja ich zachowań” (PDF). 2003. Dostęp: 2020-10-28.„Cognitive Hacking: A Battle for the Mind” (PDF). Dostęp: 2020-10-28..
Manipulacja internetem jest czasami stosowana również do opisania selektywnej cenzury Internetu lub naruszenia neutralności sieci„Condemnation over Egypt’s internet shutdown”. Financial Times. Data dostępu: 2020-10-29.„Net neutrality wins in Europe – a victory for the internet as we know it”. ZME Science. 31 sierpnia 2016. Data dostępu: 2020-10-29..
Zagadnienia Emocjonalny potencjał responsywności: Treści, które wywołują silne emocje (takie jak strach, złość lub lęk), są bardziej responsywne w dotarciu. Dotyczy to również emocji takich jak zaskoczenie, ciekawość lub użyteczność. Prostota ponad kompleksowością: Dostarczanie prostych wyjaśnień złożonych okoliczności i następnie utrwalanie ich może być wykorzystywane do manipulacji wirtualnej. Często są one łatwiejsze do zinternalizowania, są dostępne wcześniej niż inne badania i mają wyższą responsywność niż jakiekolwiek złożone, zniuansowane wyjaśnienia i informacjeHoff, Carsten Klotz von (6 kwietnia 2012). „Manipulation 2.0 – Meinungsmache via Facebook” (po niemiecku). Der Freitag. Dostęp: 2020-10-28.. Wpływ znajomych: Kolektywna ocena jakości treści internetowych wpływa na postrzeganie treści przez odbiorców. W 2015 roku wykazano, że oceny dzieł sztuki ocenianych w środowisku wirtualnym mogą być łatwo manipulowaneGolda, Christopher P. (2015). Informational Social Influence and the Internet: Manipulation in a Consumptive Society. Dostęp: 2020-10-28.. Społeczność platformy Reddit zauważyła, że materiał, który dostaje na początku określone głosy – aprobujące lub negujące – ma dużą szansę być odbieranym w taki sam sposób później. Użytkownicy i administratorzy nazwali to „głosowaniem śnieżnym”, co wpisywało by się w koncepcję bandwagoningu„Moderators: New subreddit feature – comment scores may be hidden for a defined time period after posting • /r/modnews”. Reddit. Dostęp: 2020-10-28.. Bańki informacyjne: Komory pogłosowe czy bańki filtrujące mogą być używane przez administratorów lub moderatorów witryn internetowych na przykład poprzez blokowanie ludzi o innych punktach widzenia, przez ustalenie nowych zasad lub przez standaryzację punktu widzenia członków społeczności internetowych. Stronniczość i manipulacja treści: Fałszywe wiadomości nie muszą być czytane, ale i tak mogą mieć wpływ na jakość, siłę i efekt emocjonalny odbiorcy. Konkretne propozycje, poglądy, problemy i pozornie naturalne rozpowszechnienie informacji mogą być przez to wzmocnione, stymulowane lub symulowaneSolon, Olivia (27 April 2017). „Facebook admits: governments exploited us to spread propaganda”. The Guardian. Dostęp: 2020-10-28.. (Zobacz także: efekt czystej ekspozycji) Aktualność i niepoprawność informacji: Reakcja na nieprawdziwą informacje – wyjaśnienia, demistyfikacja konspiracji i ujawnianie fałszywych wiadomości – często pojawiają się z opóźnieniem, gdy szkody są już wyrządzone i / lub nie docierają do większości odbiorców związanych z dezinformacją„Die Scheinwelt von Facebook & Co. (niemiecki film dokumentalny telewizji ZDF)” (in German). Dostęp: 2020-10-28.. Psychologiczne targetowanie: działania w mediach społecznościowych i na innych wirtualnych danych, które można wykorzystać do analizy osobowości ludzi oraz przewidywania ich zachowania i preferencji„Ich habe nur gezeigt, dass es die Bombe gibt”. Das Magazin. 3 Grudnia 2016. Dostęp: 2020-10-28.Beuth, Patrick (6 Grudnia 2016). „US-Wahl: Big Data allein entscheidet keine Wahl”. (po niemiecku) Die Zeit. Data dostępu: 2020-10-29.. Doktor Michał Kosiński opisał taką procedurę. Mogą to być media lub informacje dostosowane do psychiki osoby, np. Facebook. Według doniesień mogły one odegrać integralną rolę w zwycięstwie Donalda Trumpa. (Zobacz także: reklama targetowana)„The Data That Turned the World Upside Down”. Motherboard. 2017-01-28. Data dostępu: 2020-10-29.
Algorytmy i polaryzacja Coraz większa ilość źródeł internetowych stanowi wektor prowadzący do wzrostu pluralizmu mediów, ale algorytmy używane przez platformy społecznościowe i wyszukiwarki w celu zapewnienia użytkownikom spersonalizowanego doświadczenia w oparciu o ich indywidualne preferencje, stanowią wyzwanie dla tegoż pluralizmu, ograniczając dostęp do różnych punktów widzenia i wiadomości. Jest to powszechnie określane jako pogłosy społeczne czy bańki informacyjne.
Algorytmy wpływają na wybory użytkowników i ich postrzeganie rzeczywistości, sprawiając wrażenie, że dany punkt widzenia lub reprezentacja jest szeroko rozpowszechniona. Po referendum w sprawie członkostwa w Unii Europejskiej w Wielkiej Brytanii w 2016 oraz wyborach prezydenckich w Stanach Zjednoczonych zwróciło to uwagę, ponieważ wiele osób przyznało się do zaskoczenia wynikami, które wydawały się bardzo odległe od ich oczekiwań. Na zakres pluralizmu wpływa spersonalizowana indywidualizacja usług i sposób w jaki ogranicza ona wybórWorld Trends in Freedom of Expression and Media Development Global Report 2017/2018. UNESCO. 2018. p. 202..
Badania przeprowadzone przez Flaxmana, Goela i RaoFlaxman, Seth, Sharad Goel, and Justin M. Rao. 2016. Filter bubbles, echo chambers, and online news consumption. Public Opinion Quarterly 80 (S1): 298–320., PariseraPariser, Eli. 2011. The filter bubble: What the Internet is hiding from you. Penguin UK. Accessed 20 May 2017., i Grömpinga sugerują, że korzystanie z mediów społecznościowych i wyszukiwarek powoduje tendencję do zwiększania dystansu ideologicznego między jednostkami.
Porównania między segregacją online i offline wykazały, że segregacja jest zwykle wyższa w kontaktach twarzą w twarz z sąsiadami, współpracownikami lub członkami rodzinyGentzkow, Matthew, and Jesse M. Shapiro. 2011. Ideological segregation online and offline. The Quarterly Journal of Economics 126 (4): 1799–1839.. Istniejące badania wykazują, że dostępne dowody empiryczne nie potwierdzają najbardziej pesymistycznych poglądów na temat polaryzacjiZuiderveen Borgesius, Frederik J., Damian Trilling, Judith Moeller, Balázs Bodó, Claes H. de Vreese, and Natali Helberger. 2016. Should We Worry about Filter Bubbles? Available at https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2758126. Accessed 20 May 2017.. Na przykład badanie przeprowadzone przez naukowców z Facebooka i University of Michigan sugeruje, że własne wybory poszczególnych osób są napędzane przez algorytmy, ograniczające dostęp do szeregu treściBakshy, Eytan, Solomon Messing, and Lada A. Adamic. 2015. Exposure to ideologically diverse news and opinion on Facebook. Science 348 (6239): 1130–1132.. Chociaż algorytmy mogą nie powodować polaryzacji, mogą ją wzmacniać, stanowiąc istotny składnik nowego krajobrazu informacyjnegoHargittai. 2015. Why doesn’t Science publish important methods info prominently? Crooked Timber. Available at http://crookedtimber.org/2015/05/07/why-doesnt-science-publish-important-methods-info-prominently/. Accessed 20 May 2017..
Badania i wykorzystanie przez agencje wywiadowcze i wojskowe
mały|Niektóre z metod / technik używanych przez JTRIG ujawnione w wyniku wycieku danych. Jednostka Joint Threat Research Intelligence Group w Government Communications Headquarters (GCHQ), brytyjska agencja wywiadowcza„Snowden leaks: GCHQ ‘attacked Anonymous’ hackers”. BBC News. BBC. 5 lutego 2014. Data dostępu: 2020-10-29. została ujawniona w ramach ujawnień dotyczących globalnego nadzoru w dokumentach ujawnionych przez byłego wykonawcę Agencji Bezpieczeństwa Narodowego Edwarda Snowdena„Snowden Docs: British Spies Used Sex and 'Dirty Tricks'”. NBC News. 7 lutego 2014. Data dostępu: 2020-10-29. i jego misji. zakres obejmuje stosowanie „brudnych sztuczek” do „niszczenia, zaprzeczania, degradowania [i] zakłócania” wrogówGlenn Greenwald (2014-02-24). „How Covert Agents Infiltrate the Internet to Manipulate, Deceive, and Destroy Reputations”. Data dostępu: 2020-10-29.. Podstawowe taktyki obejmują wstrzykiwanie fałszywych materiałów do Internetu w celu zniszczenia reputacji celów oraz manipulowanie dyskursem i aktywizmem w Internecie, do czego służą takie metody, jak publikowanie materiałów w Internecie i fałszywe przypisywanie ich komuś innemu, udawanie ofiary celu osoby, których reputacja ma zostać zniszczona i zamieszczające „negatywne informacje” na różnych forach mogą być wykorzystywane.
Działania JTRIG, znane jako „efekty”, stały się „główną częścią” działalności GCHQ do 2010. Działania propagandowe jednostki w Internecie (o nazwie „Online Covert Action”) wykorzystują „masowe wysyłanie wiadomości” i „rozpowszechnianie [z] historii” za pośrednictwem Twittera, Flickr, Facebooka i YouTube. Operacje online typu „fałszywa flaga” są również wykorzystywane przez JTRIG przeciwko celom. JTRIG zmienił również zdjęcia w serwisach społecznościowych, a także wysyłał e-maile i SMS-y do kolegów i sąsiadów z „niesmacznymi informacjami” o docelowej osobie. W czerwcu 2015 r. Pliki NSA opublikowane przez Glenna Greenwalda ujawniły nowe szczegóły dotyczące pracy JTRIG nad potajemnym manipulowaniem społecznościami internetowymiGreenwald, Glenn and Andrew Fishman. Controversial GCHQ Unit Engaged in Domestic Law Enforcement, Online Propaganda, Psychology Research. The Intercept. 2015-06-22.. Ujawnienia ujawniły również technikę „zbierania danych uwierzytelniających”, w której dziennikarze mogą być wykorzystywani do rozpowszechniania informacji i identyfikowania dziennikarzy spoza Wielkiej Brytanii, którzy po zmanipulowaniu mogliby udzielić informacji zamierzonemu celowi tajnej kampanii, być może umożliwiając dostęp podczas wywiadu. Nie wiadomo, czy dziennikarze mieliby świadomość, że są manipulowani.
Ponadto Rosja jest często oskarżana o finansowanie „trolli”, które publikują prorosyjskie opinie w InternecieShearlaw, Maeve (2 April 2015). „From Britain to Beijing: how governments manipulate the internet”. The Guardian. Data dostępu: 2020-10-29.. Internet Research Agency stała się znana z zatrudniania setek Rosjan do publikowania propagandy w Internecie pod fałszywymi tożsamościami w celu stworzenia iluzji masowego poparciaChen, Adrian (2 June 2015). „The Agency”. The New York Times. Data dostępu: 2020-10-29.. W 2016 roku Rosja została oskarżona o wyrafinowane kampanie propagandowe mające na celu rozpowszechnianie fałszywych wiadomości w celu ukarania demokratycznej Hillary Clinton i pomocy republikaninowi Donaldowi Trumpowi podczas wyborów prezydenckich w 2016 roku, a także podważenia wiary w amerykańską demokracjęWatts, Clint; Weisburd, Andrew (6 sierpnia 2016), „Trolls for Trump – How Russia Dominates Your Twitter Feed to Promote Lies (And, Trump, Too)”, The Daily Beast. Data dostępu: 2020-10-29.„Russian propaganda effort likely behind flood of fake news that preceded election”, PBS NewsHour, Associated Press, 25 listopada 2016. Data dostępu: 2020-10-29.„Russian propaganda campaign reportedly spread ‘fake news’ during US election”, Nine News, Agence France-Presse, 26 listopada 2016. Data dostępu: 2020-10-29..