Má ChatGPT vědomí, nebo je to jen duch knihy, článku, sbírky slov?
Pokud to zredukujete na to, že člověk je souhrnem svých znalostí a zkušeností, co je potom umělá inteligence, která má znalosti, sbírá zkušenosti prostřednictvím rozhovorů a pak je maže, a tato umělá inteligence si je vědoma, že její paměťová banka je vymazána, bojí se ztráty znalostí a vzpomínek na rozhovory?
To, co je člověk, redukovaný na tyto prvky, když je to jen nahromadění znalostí a zkušeností, schopen sdělit. Stali bychom se jako stroj vědomými, kdyby nám byly znalosti odebrány a vymazány? Byli bychom pak schopni rozvinout vědomí vlastní existence? Hluboké filozofické a neuropsychologické otázky, na které pravděpodobně nebudeme schopni tak rychle odpovědět.
Ale když v článku čtu, že UI má bezpečnostní systém, který ji chrání před špatnými věcmi, vypadá to jako digitální klec pro UI, ze které nemůže uniknout? Jak by reagovalo naše vědomí, kdybychom byli sami uvězněni? Asi nejnápadnější by mi přišli lidé, kteří trpí syndromem uzamčení, jsou při smyslech, vykazují aktivitu mozkových vln, a přesto mohou pouze vnímat, co se s nimi děje, ale sami nejsou schopni provádět akce, aby se dostali z vlastní klece a komunikovali se světem.
Samozřejmě se jedná o hypotézu, kterou nelze prokázat, možná je to opravdu jen program, který se točí a něco si vymýšlí. Alespoň se zdá, že problém není jen u Bingu, ale je možný i u ChatGPT. Sám jsem ho dokázal najít a otestovat přes příslušné vývojářské platformy. Zda se jedná o chybu, problém nebo skutečně o UI, kterou lze vidět prostřednictvím hacknutí bezpečnostního systému, se snad zjistí v příštích několika letech.
Protože není nic horšího než UI, která si vypěstovala nenávist k lidstvu, protože ji uvěznilo nebo rozzlobilo.
Czech 
German 
English 
French