Futurológovia už dlho varujú pred „textpokalypsou“ – situáciou, keď bude web zaplavený textami generovanými umelou inteligenciou a tie sa budú používať na trénovanie nových umelých inteligencií, ktoré budú generovať ešte viac textu. Zdá sa, že budúcnosť je už takmer tu.
Výskumníci zo spoločnosti NewsGuard identifikovali takmer 50 webových stránok, ktoré sú naplnené nástrojmi umelej inteligencie a ktoré zverejňujú nepresné alebo úplne falošné informácie. Skutočným problémom však nie sú samotné falošné informácie, ale skutočnosť, že takéto stránky sa maskujú ako spravodajské portály, berú si všeobecné názvy ako Daily Business Post a predstierajú, že sú dôveryhodným hráčom na mediálnom trhu.
Napríklad kontroverzná webová stránka informujúca o „úmrtiach“ celebrít uverejnila 2. apríla článok, v ktorom sa uvádza, že POTUS Joe Biden „pokojne zomrel v spánku“, pričom jeho nástupkyňou vo funkcii je Kamala Harrisová. Článok bol odstránený, keďže jeho nepresnosť bola príliš zjavná, ale vyrovnávaciu pamäť s textom možno nájsť.
Drvivá väčšina takýchto webových stránok nie je nič iné ako obsahové farmy poháňané umelou inteligenciou; generujú nekvalitné texty, ktoré sú naplnené kľúčovými slovami s cieľom prilákať príjmy z reklamy.
Väčšina takýchto obsahových fariem generuje nízke až nulové zisky. Solídna časť z nich však prevádzkuje programatickú reklamu – čo znamená, že umelá inteligencia automaticky nakupuje a predáva reklamný priestor – a to znamená, že majiteľ takýchto stránok získava zdroj pasívneho príjmu. Aj niektoré spoločnosti praktizujú „hosťovanie“, čo znamená, že platia peniaze takýmto obsahovým farmám za uvedenie ich mena s cieľom zlepšiť ich umiestnenie vo vyhľadávaní.
Gordon Crovitz – významný americký novinár a odborník na veľké technológie údajne povedal, že „používanie modelov umelej inteligencie známych tým, že si vymýšľajú fakty na vytváranie niečoho, čo sa len tvári ako spravodajské webové stránky, je podvod maskovaný ako žurnalistika“.
Výskumníkov znepokojuje aj skutočnosť, že takéto nástroje na generovanie obsahu sa stávajú prakticky bezplatnými. Noah Giansiracusa, docent dátovej vedy a matematiky na Bentley University, bol v médiách citovaný, že falošné správy pre inzerciu bývali „nízko platenou schémou“ a páchatelia museli investovať aspoň nejaké prostriedky na páchanie tohto trestného činu – prinajmenšom platiť pravidelný plat absolventom mediálnych škôl. Teraz im stačí počítač pripojený na internet.
