Etika, regulativa i društvena priprema za AGI: jesmo li spremni za moć koju stvaramo?

Pojava naprednih sustava umjetne inteligencije obilježila je posljednjih nekoliko godina razdoblje ubrzanog tehnološkog rasta. No unutar velikog interesa za AI, trenutnu pozornost plijeni koncept AGI-ja (Artificial General Intelligence) ili opće umjetne inteligencije. Za razliku od današnjih specijaliziranih AI modela, AGI bi trebao biti sposoban razumjeti, učiti i rješavati probleme jednako široko i fleksibilno po uzoru na čovjeka. U medijima se vode debate na pitanje jesmo li blizu AGI-ju ili ne, je li on uopće moguć itd? Trenutno nas više zanima jesmo li etički, društveno i regulatorno spremni za ono što bi takav ili sličan tehnološki napredak mogao jednog dana donijeti? 

Ta ideja nije samo tehnološki fascinantna, ona otvara niz pitanja o moći, odgovornosti i društvenim promjenama koje bi ovakva ili slična tehnologija mogla izazvati. Budući da svjetske tehnološke kompanije, istraživački instituti i države sve otvorenije govore o utrci za AGI-jem, postaje ključno sagledati njegov etički, regulatorni i društveni kontekst. Zanimljiv članak na The Gardian-u iznosi pozadinu globalne utrke za AGI-jem i zauzimanja pozicija najvećih tehnoloških igrača. Za razumijevanje društvenog utjecaja, najprije treba razjasniti što AGI razlikuje od današnje umjetne inteligencije (AI). Očito je to termin koji ćemo sve više slušati pa je važno u startu znati o čemu je riječ.

Što je zapravo AGI i zašto ga smatraju prekretnicom?

AGI je kratica za Artificial General Intelligence, opću umjetnu inteligenciju. Microsoft i Open AI svaki imaju svoje objašnjenje, ali činjenica je da današnji AI sustavi (poput većine modela za prijevod, prepoznavanje slika, preporuke proizvoda itd.), čak i oni najnapredniji, su usko specijalizirani, u nekoj konkretnoj zadaći, ali ne mogu generalno “shvaćati” svijet. AGI, s druge strane bio bi, po tim predviđanjima, sposoban samostalno učiti, prelaziti s jednog zadatka na drugi bez dodatnog treniranja, koristiti razne oblike znanja, prilagođavati se novim situacijama, donositi odluke u širokom rasponu područja, na način koji zahtijeva fleksibilnost, kreativnost i dublje rezoniranje.

Takav sustav potencijalno bi mogao raditi kao znanstveni istraživač, liječnik, inženjer, analitičar ili strateg, sve u jednoj “osobi”. Zbog toga se AGI često opisuje kao potencijalno najvažnija tehnološka prekretnica našeg vremena, koja bi bila usporediva s pojavom električne energije, interneta ili nuklearne tehnologije. Međutim, upravo ta razina moći koju bi AGI potencijalno mogao donijeti nosi i najviše nedoumica i rizika.

Etika AGI-ja: između inovacije i odgovornosti

Etička pitanja povezana s AGI-jem izranjaju iz njegove goleme kompleksnosti. Ako se predviđanja ostvare pa se izgradi sustav koji može nadmašiti ljudske intelektualne sposobnosti, kako ćemo osigurati da djeluje i u skladu s ljudskim vrijednostima? Tko definira te vrijednosti, kako provjeriti radi li AI u skladu s njima ako je njegov način razmišljanja drugačiji od našeg?

Jedna od najvećih briga jest problem usklađenosti. Pitanje je kako umjetnoj inteligenciji zadati ciljeve i granice koje će sigurno poštovati? Kod AGI-ja taj problem postaje još složeniji jer bi on mogao tumačiti ciljeve na način koji ne možemo predvidjeti. Također, etička pitanja obuhvaćaju pravednost i izbjegavanje diskriminacije, transparentnost donošenja odluka, privatnost i kontrolu nad podacima kao i rizik da AGI bude korišten u nadzoru, manipulaciji ili automatiziranom donošenju odluka bez ljudske odgovornosti. Što je sustav moćniji, to je odgovornost za njegovu izgradnju veća. A utrka za AGI-jem potiče brzinu nad promišljanjem, što povećava rizike.

Regulacija AGI-ja: možemo li kontrolirati nešto što još ne razumijemo?

Dok je razvoj današnje AI već izazvao potrebu za novim zakonima, regulacija AGI-ja predstavljat će još veći izazov. Ključno pitanje glasi: kako unaprijed regulirati tehnologiju koja tek treba nastati?

Trenutni regulatorni okviri, čak i oni najnapredniji poput EU AI Acta, uglavnom su fokusirani na postojeće specijalizirane sustave. AGI, koji bi bio sposoban samostalno učiti, prilagođavati se i optimizirati vlastite procese, zahtijevao bi nadzor u razmjerima kakvi danas ne postoje.

Potrebni bi bili međunarodni sporazumi o sigurnosti i transparentnosti razvoja, stroge procedure testiranja i verifikacije ponašanja sustava, neovisna globalna tijela za nadzor AI-ja kao i jasna pravila o tome tko smije razvijati, implementirati i koristiti AGI sustave a tko ne.

No, postoji i politički faktor: države su rijetko spremne surađivati u područjima koja donose stratešku prednost. Zbog toga postoji realna opasnost da AGI bude razvijan pod tajnošću, uz minimalan nadzor, što bi njegove rizike učinilo još većima.

Društveni i ekonomski utjecaj: između napretka i destabilizacije

Društveni učinci AGI-ja mogli bi biti monumentalni. S pozitivne strane, AGI bi mogao ubrzati znanstvena otkrića, omogućiti personaliziranu medicinu, optimizirati resurse, poboljšati obrazovanje te riješiti mnoge sustavne probleme današnjeg svijeta, od klimatskih promjena do bolesti koje danas ne znamo liječiti.

No jednako su mogući i negativni scenariji. AGI bi mogao radikalno promijeniti tržište rada i zamijeniti ogroman broj poslova, koncentrirati moć u rukama malog broja tehnoloških ili državnih aktera, stvoriti snažne informacijske asimetrije, povećati digitalni nadzor i smanjiti osobne slobode, kao i kreirati ovisnost društva o sustavima koje ne razumije.

Najveći izazov nije samo tehnološki nego i društveni. Kako pripremiti institucije, ekonomiju i kulturu za svijet u kojem intelektualni rad više nije isključivo ljudsko područje? 

Koliko smo ustvari blizu AGI-ju?

Stručnjaci se razilaze i oko objašnjenja AGI-ja tj. njegovog stvarnog značenja, a posebno se razilaze oko toga kada će i da li će nastupiti.. Neki vjeruju da je AGI udaljen desetljećima, dok drugi tvrde da bi mogao nastati iznenadno, kao posljedica jednog neočekivanog proboja. Zbog toga je ključno da priprema ne kaska za tehnologijom. Jer najveća opasnost nije sama opća umjetna inteligencija nego razvoj bez nadzora, primjena bez etike i nastajanje bez sigurnosnih standarda.

Zaključak

Utrka za AGI-jem više nije hipotetska nego predstavlja jedno od najvažnijih tehnoloških i društvenih pitanja našeg doba. Ona oblikuje tehnološku i društvenu budućnost. AGI obećava revoluciju u znanosti, ekonomiji i svakodnevnom životu, ali istodobno otvara vrata rizicima koji nadilaze iskustvo modernog društva. Dok se znanstvenici i kompanije natječu u inovacijama, svijet se suočava s dvojnom prirodom ove tehnologije: potencijalom za nezamisliv napredak i rizikom od dubokih poremećaja. Upravo zato etika, regulativa i društvena priprema moraju biti temelj razvoja, a ne naknadna misao.

Ako želimo da AGI, ili bilo kakva slična buduća tehnologija, bude alat za napredak, a ne izvor destabilizacije, važno je bez odgode definirati jasna pravila i mehanizme nadzora. Bilo da AGI stigne za deset ili pedeset godina, a možda i nikad, rasprava o tome kako ga dočekati već sada mora biti ozbiljna, otvorena i globalna. Budućnost AGI-ja neće određivati samo tehnologija, odredit će je i naše odluke, vrijednosti i spremnost da odgovorno upravljamo moći koju možda stvaramo. A upravo u tome leži najveći izazov i jedna od velikih odgovornosti našeg vremena.