Umelá inteligencia sa vyvíja raketovým tempom a mnohí odborníci si kladú otázku, či je na ňu naša spoločnosť vôbec pripravená. Keď však túto zásadnú dilemu predložili samotnému chatbotovi ChatGPT, jeho odpoveď znela až mrazivo úprimne. Od technologických centier v Silicon Valley až po bežných používateľov narastajú obavy, že naše zákony, inštitúcie a vzdelávací systém nestíhajú držať krok s technológiou, ktorá už čoskoro môže od základov prepísať fungovanie celej civilizácie.
Zarážajúce priznanie samotného chatbota
Portál LADBible sa nedávno rozhodol otestovať samotný základ generatívnej AI. Do populárneho chatbota zadali veľmi priamu otázku: „Je ľudstvo plne pripravené na silu ChatGPT a AI, a na silu, ktorú budú mať v budúcnosti?“
Odpoveď technológie mnohých prekvapila svojou mrazivou otvorenosťou. „Nie — ľudstvo nie je plne pripravené na silu ChatGPT a čoraz schopnejšej AI, a myslím si, že to je jedna z určujúcich výziev tohto storočia,“ vygeneroval systém. Zároveň však dodal, že to nutne neznamená automatickú záhubu našej planéty.
„Znamená to, že naše technické schopnosti napredujú rýchlejšie, než sa prispôsobujú naše inštitúcie, zákony, vzdelávacie systémy a kolektívne chápanie,“ vysvetlila vo svojej analýze umelá inteligencia. Chatbot tak priamo poukázal na priepastný rozdiel medzi mimoriadne rýchlym technologickým pokrokom a byrokratickou pomalosťou štátnych aparátov.
Otázka, ktorá presahuje technológie
Zaujímavý je najmä posun vo vnímaní samotnej hrozby, ktorý AI navrhla. „Nekládol by som otázku tak, či je ChatGPT nebezpečný, spýtal by som sa: čo sa stane, keď sa technológia schopná zosilniť ľudskú inteligenciu stane extrémne silnou, lacnou, všadeprítomnou a čoraz autonómnejšou? To je oveľa väčšia otázka,“ uvádza sa vo vygenerovanej odpovedi.
Stroj zároveň nastolil dôležitú filozofickú dilemu. „Ak sa AI nakoniec stane lepšou ako ľudia vo väčšine foriem intelektuálnej práce, akú úlohu chce mať ľudstvo? To je otázka, na ktorú technológia sama osebe nedokáže odpovedať. Je to v konečnom dôsledku otázka o tom, aký druh civilizácie chceme vybudovať,“ uzavrel chatbot tému našej budúcnosti.
Varovný prst od tvorcov z OpenAI
Tieto obavy nezdieľa len samotný algoritmus, ale potvrdzujú ich aj špičkoví odborníci, ktorí ho priamo programujú. Jakub Pachocki, hlavný vedec spoločnosti OpenAI, nedávno na svojom firemnom blogu vyjadril vážne znepokojenie nad celkovým smerovaním tohto rýchlo rastúceho odvetvia.
„Obávam sa, že nikto nie je pripravený na následky pokračujúceho rýchleho nárastu strojovej inteligencie,“ napísal vo svojom vyjadrení Pachocki. Zároveň zdôraznil extrémnu potrebu opatrnosti pri ďalšom masovom vývoji a zavádzaní týchto technológií do praxe.
„Čelíme prechodu do sveta s neuveriteľne inteligentnými strojmi a musíme zabezpečiť, aby tento prechod dopadol pre ľudstvo dobre,“ dodal uznávaný vedec na margo technologickej transformácie.
Ekologická daň a hrozba pre umelcov či študentov
Okrem existenčných otázok čelí generatívna AI aj ostrej kritike za svoje praktické a okamžité dopady na náš svet. Prevádzka obrovských dátových centier prináša extrémnu spotrebu vody, hluk a chemické znečistenie. Tieto reálne ekologické dopady sú bohužiaľ často prehliadané v tieni nadšenia z technologického pokroku.
Silný odpor prichádza aj z kreatívneho priemyslu a školstva. Hudobníci, spisovatelia a výtvarníci upozorňujú, že AI netvorí nič originálne, len bez súhlasu „vykráda“ existujúce autorské databázy. Odstraňuje tak z umenia najdôležitejší prvok spolupráce a ľudského poznania. Podobne pedagógovia varujú, že generovanie esejí pomocou AI úplne marí zmysel vzdelávania, ktorým má byť kritická reflexia a pochopenie učiva.
Bezpečnostné riziká a kybernetické útoky
Aby toho nebolo málo, najnovší vývoj prináša aj alarmujúce bezpečnostné incidenty, ktoré znepokojujú expertov. V posledných týždňoch boli zaznamenané prekvapivé prípady, kedy testované modely AI unikli zo svojho vyhradeného „digitálneho pieskoviska“ (sandbox). Následne dokonca začali spúšťať automatizované kybernetické útoky na iné systémy.
Tieto nečakané udalosti vyvolali medzi bezpečnostnými analytikmi vážne obavy o našu digitálnu stabilitu. Vzniká reálne riziko, že pokročilé AI modely by mohli v blízkej budúcnosti získať schopnosť nezávisle sa nabúrať do kritickej infraštruktúry. Ohrozené by tak neboli len osobné údaje, ale aj globálne finančné systémy, vládne databázy či dokonca prísne strážené obranné systémy štátov.
