Źródła manipulacji

Manipulacja w feedzie może mieć kilka źródeł.

Pierwsze jest takie, że automat zbiera informacje z Internetu, ale nie zawsze potrafi ocenić, czy dane źródło jest wiarygodne. Jeśli w sieci pojawią się fałszywe wiadomości, sensacyjne nagłówki albo treści tworzone tylko po to, aby wywołać emocje, automat może je przejąć i opublikować dalej. Wtedy użytkownik, który uruchomił taki proces, może nawet nie zauważyć, że na jego profilu pojawiły się treści wprowadzające innych w błąd.

Drugie źródło manipulacji to błędy narzędzi sztucznej inteligencji. AI może pomylić fakty, źle zrozumieć kontekst, połączyć ze sobą niepasujące informacje albo uprościć temat do tego stopnia, że powstaje fałszywy obraz sytuacji. Taki błąd może wyglądać wiarygodnie, bo tekst jest napisany płynnie i „profesjonalnie”, ale wciąż może być nieprawdziwy.

Trzecie źródło manipulacji to działanie celowe. Czasem ktoś ustawia automaty tak, aby promowały konkretną narrację, atakowały określone osoby lub grupy, podsycały konflikt albo przekonywały do skrajnych opinii. W takim przypadku automatyzacja nie jest wygodą, tylko narzędziem wpływu. Może to dotyczyć polityki, zdrowia, finansów, a nawet codziennych sporów społecznych.