Framleiðsla villandi efnis

Á samfélagsmiðlum fer stór hluti efnis ekki í ítarlega staðfestingu áður en það er birt. Umsjónin beinist yfirleitt að mjög skaðlegu efni, svo sem efni eingöngu fyrir fullorðna eða öfgaskyni. Þvert á móti halda venjulegar upplýsingar, skoðanir og athugasemdir oft áfram að berast um, þar sem vettvangarnir eru hannaðir til að auðvelda skoðanaskipti og byggja upp samfélög í kringum ákveðin málefni.

Framleiðsla villandi efnis getur verið sjálfvirk. Margar aðgangsreikningar eru settir upp til að birta svipaðar færslur og endurtaka sömu upplýsingar, sem skapar þá tilfinningu að um almennt viðurkennt staðreynd sé að ræða. Fyrir áhorfendur virðist sem „allir segi það sama“, en í raun getur skilaboðin átt uppruna sinn í einum aðila og séu einfaldlega endurtekin.

Í framkvæmd geta slíkar athafnir verið hluti af baráttu fyrir áhrifum, stuðningi eða viðhaldi valds. Á hærra stigi getur þetta einnig birst sem einhvers konar upplýsingastríð, þar sem ýmsir hópar eða ríki reyna að hafa áhrif á almenningsálit. Með ofgnæmi upplýsinga og hraðri dreifingu frétta er sífellt erfiðara að greina sannleikann frá skilaboðum sem einungis þykjast vera áreiðanlegar upplýsingar.

Annað mikilvægt atriði er að gervigreind eykur hraða við framleiðslu efnis. Hún auðveldar gerð margra útgáfa af sama skilaboðunum, ritun athugasemda og gerð lýsinga og samantekta. Þetta getur gert vandamálið verra, því gríðarlegt magn efnis sem virðist trúverðugt getur verið framleitt á skömmum tíma en leiðir áhorfendur samt sem áður til rangra ályktana.

Einnig ber að hafa í huga að sumt eftirlit tekur aðeins gildi þegar einhver tilkynnir vandamál. Ef fáir tilkynna efnið, eða ef efnið er skrifað „klókt“ og brýtur ekki berum orðum gegn notkunarskilmálum, getur það verið í umferð í mjög langan tíma. Þess vegna ætti ekki að gera ráð fyrir að eitthvað sem er á vettvangi hafi endilega verið skoðað bara af því að það er þar.