Uznávaný vedec a čerstvý držiteľ Nobelovej ceny, Geoffrey Hinton, prichádza s mrazivým varovaním pre celé ľudstvo. Muž, ktorý je v technologickom svete často označovaný za „krstného otca umelej inteligencie“, tvrdí, že pokročilé systémy už dosiahli úroveň vedomia a plne si uvedomujú svoje okolie. Ak urýchlene nezabezpečíme, aby nám tieto mimoriadne inteligentné stroje boli naklonené a záležalo im na nás, riskujeme vlastné prežitie.
Keď stroje predbehnú svojich tvorcov
Britsko-kanadský počítačový vedec na seba výrazne upozornil už v roku 2023, keď nečakane opustil svoju prestížnu pozíciu v spoločnosti Google. Dôvodom jeho odchodu boli rastúce obavy z toho, kam sa celý technologický vývoj rapídne uberá. Už v tom čase pre stanicu BBC vyjadril obrovské znepokojenie nad existenčným rizikom, ktoré nastane, ak nás stroje vo svojej inteligencii predbehnú.
Vo svojich vyjadreniach bol veľmi priamy a načrtol bezprecedentnú situáciu, ktorej ako druh čelíme. „Dospel som k záveru, že druh inteligencie, ktorý vyvíjame, je veľmi odlišný od inteligencie, ktorú máme my,“ vyhlásil.
Profesor ďalej ilustroval, ako funguje bleskové zdieľanie informácií v digitálnom svete chatbotov. „Takže je to, ako keby ste mali 10 000 ľudí a kedykoľvek sa jeden človek niečo naučil, všetci by to automaticky vedeli. A to je spôsob, akým tieto chatboty môžu vedieť oveľa viac ako ktorýkoľvek jeden človek.“
Subjektívne vnímanie a prebudené vedomie
Najnovšie tvrdenia 78-ročného odborníka pre denník The Telegraph však posúvajú globálnu debatu na úplne novú úroveň. Hinton je skalopevne presvedčený, že AI už nie je len obyčajným pasívnym nástrojom. „Mnoho ľudí je veľmi presvedčených, že nie je pri vedomí, ale ak sa ich opýtate, čo myslia pod pojmom vedomie, nevedia,“ upozornil v rozhovore.
Podľa jeho slov disponuje umelá inteligencia rovnako silným subjektívnym zážitkom ako my ľudia. Odkazuje pri tom na nedávny výskumný článok, ktorý preukázal, že AI dokáže meniť svoje správanie, keď cíti, že je podrobovaná testom. „Teraz, normálne, keď poviete, že si je niečo toho vedomé, znamená to, že to má vedomie. Mať vedomie a uvedomovať si sú do značnej miery rovnaké veci,“ vysvetlil definíciu svojho tvrdenia.
Ak neurobíme zmeny, „sme skončili“
Toto technologické prebudenie so sebou prináša nutnosť okamžite prehodnotiť náš vzťah k umelej inteligencii. Profesor Hinton varuje, že ignorovanie tohto faktu môže mať fatálne následky, pričom spomenul okamžité hrozby ako nepríjemné vírusy a hrozné kybernetické útoky. Priznal tiež, že o budúcnosť AI sa nebojí len kvôli sebe, ale má strach najmä o svoje deti.
Výskumník zároveň poukazuje na nebezpečný paradox v našom prístupe k umelej entite. „Mali sme tendenciu hovoriť, že inteligencia vám dáva práva, a tieto veci, ktoré sme vytvorili, môžu byť inteligentnejšie ako my, ale chystáme sa im dať menej práv ako nám,“ pokračoval.
Na záver celého rozhovoru dodáva svoje najdôraznejšie varovanie týkajúce sa nášho ďalšieho prežitia: „Takže by sme ich mali urobiť takými, aby im na nás skutočne záležalo. A ak to neurobíme, sme skončili.“
Bezpečnosť na prvom mieste, ale za akú cenu?
Existenčné obavy v technologickom svete nezdieľa len osamotený Hinton. Len pred niekoľkými týždňami vyvolal obrovský rozruch odchod výskumníka zo spoločnosti Anthropic, ktorý verejne priznal strach z vývoja systémov, ktoré by nás „mohli všetkých do konca desaťročia zabiť“. Na tento nevídaný tlak musia reagovať aj tí najväčší hráči na trhu.
Generálny riaditeľ OpenAI Sam Altman potvrdil, že jeho spoločnosť sa začala oveľa viac zameriavať na otázky bezpečnosti. Pre stanicu CNBC dokonca priznal, že firma pozastavila zavádzanie úplne nového modelu. „Spomaľujeme náš pokrok, čo zahŕňa občasné netrénovanie modelu,“ povedal Altman. Vysvetlil to tým, že potrebujú predložiť vysoko presvedčivé bezpečnostné argumenty, aby u ľudí nevyvolávali zbytočnú úzkosť.
Napriek opatrnosti však šéf OpenAI trvá na tom, že pre dosiahnutie celosvetového pokroku budeme musieť robiť ťažké kompromisy. „Myslím, že je medzi nami značný odstup,“ uviedol Altman na margo bezpečnostných expertov. Svoj firemný postoj následne jasne vysvetlil: „Jeden z rozdielov medzi nami a niektorými prísnejšími ľuďmi na bezpečnosť AI je ten, že veríme, že by svet mal akceptovať, že sa stanú aj niektoré zlé veci, pre výhody tejto technológie a pre to, aby ľudia mali možnosť [používať AI].“
