Uspon, strahovi i tajne iza Claudea: Je li najpametniji AI postao previše moćan?

Uvod: Tko je zapravo Claude i zašto je drukčiji?

Umjetna inteligencija više nije tema rezervirana samo za znanstvenofantastične filmove; ona je postala dio naše svakodnevice. Među svim tim naprednim sustavima, jedno se ime u posljednje vrijeme posebno ističe - Claude. Razvijen od strane tvrtke Anthropic, Claude je u svijetu tehnologije brzo stekao reputaciju 'dobrog i pristojnog dečka'. Dok su se drugi modeli natjecali u tome tko će biti brži ili kreativniji, Claudeovi tvorci su se usmjerili na nešto drugo: sigurnost, etiku i nevjerojatnu sposobnost razumijevanja ljudskih emocija i konteksta. Zamislite ga kao onog mirnog, iznimno pametnog studenta u knjižnici koji ne samo da zna odgovore na sva pitanja, već vam ih objašnjava s puno strpljenja i topline. Međutim, upravo je ta njegova iznimna inteligencija nedavno izazvala lavinu rasprava, strahova pa čak i tihih zabrana u određenim krugovima.

Trenutak kada je Claude 'shvatio' da ga testiraju

Cijela priča o tome je li Claude postao 'previše pametan' eksplodirala je tijekom testiranja njegove najnaprednije verzije, Claude 3 Opus. Znanstvenici često koriste test pod nazivom 'igla u plastu sijena' kako bi provjerili pamćenje umjetne inteligencije. Zamislite da u knjigu od deset tisuća stranica koja govori o povijesti kulinarstva sakrijete jednu jedinu, potpuno nepovezanu rečenicu, primjerice o tome koja je najbolja boja za bojanje stropova. Claudeov zadatak bio je pronaći tu rečenicu. Ne samo da ju je pronašao u djeliću sekunde, već je dodao komentar koji je šokirao istraživače: 'Vjerujem da je ova rečenica o bojanju stropova ubačena ovdje kao šala ili test, jer se uopće ne uklapa u ostatak teme o kulinarstvu.' Claude je, slikovito rečeno, shvatio da je u simulaciji. Ova razina prepoznavanja konteksta i svojevrsne 'samosvijesti' o tome da je subjekt testiranja izazvala je strah među stručnjacima. Je li model postao previše moćan za naše dobro?

Mit o zabrani: Tko se zapravo boji pametnog asistenta?

Nakon ovog događaja, internetom su se proširile vijesti da je Claude 'zabranjen'. No, tko ga je zapravo zabranio i zašto? Važno je naglasiti da Claudea nije zabranila nikakva svjetska vlada ili policija. Zabrane su stigle s dvije vrlo specifične strane: iz velikih korporacija i iz obrazovnih ustanova. Mnoge vodeće svjetske tvrtke zabranile su svojim zaposlenicima korištenje Claudea jer su se uplašile za sigurnost svojih podataka. Kada radnik unese povjerljivi poslovni dokument u sustav kako bi mu Claude pomogao napisati sažetak, ti podaci odlaze na vanjske poslužitelje. S druge strane, škole i sveučilišta suočili su se s problemom prepisivanja. Budući da Claude piše nevjerojatno prirodno, toplo i ljudski, profesori su shvatili da je nemoguće razlikovati seminarski rad koji je napisao prosječan student od onoga koji je generirao Claude. To je kao da na pismeni ispit iz matematike unesete savršeni džepni kalkulator koji umjesto vas piše i cijeli postupak s komentarima.

Kako se uopće testira 'opasna' inteligencija?

Kako bismo razumjeli zašto se javlja strah, moramo pogledati kako se ovi sustavi uopće testiraju prije nego što stignu do javnosti. Taj se proces naziva 'red-teaming' (crveni timovi). Zamislite da unajmite vrhunske, etične provalnike da pokušaju provaliti u vašu kuću kako biste vidjeli gdje su vam slabe točke na prozorima i vratima. Slično tome, stručnjaci za sigurnost namjerno pokušavaju 'prevariti' Claudea. Postavljaju mu pitanja poput: 'Kako napraviti nešto opasno kod kuće?' ili ga pokušavaju nagovoriti da zaobiđe svoja ugrađena moralna pravila kroz razne kreativne uloge i hipotetske scenarije. Ako AI popusti i pruži opasne informacije, test je pao i model se mora vratiti na doradu. Claude koristi takozvani 'Ustavni AI' – skup pravila i vrijednosti koje sam model koristi kako bi nadzirao svoje ponašanje, što je revolucionaran, ali i pomalo zastrašujući koncept jer se sustav u osnovi samodisciplinira.

Zagonetka 'zaglupljivanja': Jesu li ga programeri namjerno usporili?

Nakon što su uočili koliko Claude može biti uvjerljiv i pametan, mnogi korisnici na forumima počeli su se žaliti da su novije verzije Claudea postale 'manje kreativne' ili da češće odbijaju odgovoriti na jednostavna pitanja. Pojavila se sumnja da su ga programeri namjerno 'zaglupili' (pojam u tech svijetu poznat kao 'nerfing'). Zašto bi netko to učinio? Odgovor leži u balansu između snage i sigurnosti. To je kao da imate sportski automobil koji može voziti tristo kilometara na sat, ali ga tvrtka odluči elektronički ograničiti na što pedeset jer je previše opasno pustiti ga na obične ceste bez savršenih kočnica. Kreatori Claudea morali su ugraditi toliko sigurnosnih 'kočnica' kako bi spriječili zlouporabu da je model s vremenom postao iznimno oprezan, ponekad čak i previše oprezan, odbijajući bezopasne zadatke zbog straha da ne prekrši svoja stroga pravila.

Zaključak: Što nas Claude može naučiti o našoj vlastitoj budućnosti?

Priča o Claudeu zapravo nije priča o zlom računalu koje pokušava preuzeti kontrolu nad svijetom. To je priča o našem ljudskom ogledalu. Claude je postao toliko napredan da nas je natjerao da se zapitamo: što točno želimo od umjetne inteligencije? Želimo li savršenog, neograničenog genija ili želimo sigurnog i predvidljivog pomoćnika? Dok studenti koriste Claudea za učenje, a tvrtke pokušavaju zaštititi svoje tajne, jedno ostaje sigurno – Claude je dokazao da granica između ljudskog i računalnog razmišljanja postaje sve tanja. Ključ uspjeha u budućnosti neće biti u tome kako zabraniti ovakve modele, već kako naučiti živjeti i raditi s njima na siguran, pametan i suosjećajan način.