Zdroje manipulace

Manipulace ve feedu může mít několik zdrojů.

Prvním z nich je skutečnost, že automat sbírá informace z internetu, ale ne vždy dokáže posoudit, zda je daný zdroj důvěryhodný. Pokud se na internetu objeví falešné zprávy, senzační titulky nebo obsah vytvořený pouze za účelem vyvolání emocí, automat je může převzít a dále publikovat. Uživatel, který takový proces spustil, si pak nemusí ani všimnout, že se na jeho profilu objevil obsah, který ostatní uvádí v omyl.

Druhým zdrojem manipulace jsou chyby nástrojů umělé inteligence. Umělá inteligence může zaměnit fakta, špatně pochopit kontext, spojit nesouvisící informace nebo zjednodušit téma do takové míry, že vznikne falešný obraz situace. Taková chyba může vypadat věrohodně, protože text je napsán plynule a „profesionálně“, ale přesto může být nepravdivý.

Třetím zdrojem manipulace je záměrné jednání. Někdy někdo nastaví automatizované systémy tak, aby propagovaly konkrétní narativ, útočily na určité osoby nebo skupiny, podněcovaly konflikt nebo přesvědčovaly k extrémním názorům. V takovém případě není automatizace pohodlím, ale nástrojem vlivu. Může se to týkat politiky, zdravotnictví, financí a dokonce i každodenních společenských sporů.