Kineska soba: razumije li AI ono što ti piše?

Postaviš ChatGPT-u ili Claudeu pitanje, a odgovor zvuči kao da ga je napisao pametan i načitan prijatelj. I onda se zapitaš: razumije li on uopće što mi piše?

Isto pitanje filozof John Searle postavio je još 1980. godine, desetljećima prije ChatGPT-a. Odgovorio je jednim od najpoznatijih misaonih eksperimenata u povijesti umjetne inteligencije: kineskom sobom.

U Searleovoj verziji u sobi sjedi čovjek. Mi ćemo posuditi našu ovcu, jer je zabavnije.

Ovca u sobi

Zamisli zatvorenu sobu s dva otvora za papiriće. U sobi sjedi ovca. Pametna je, ali kineski ne zna. Ni jedan jedini znak.

Kroz lijevi otvor netko ubaci papirić s kineskim znakovima. Ovci to izgleda kao šare. Ali na stolu ima golemu knjigu pravila napisanu na hrvatskom, i u njoj piše otprilike ovo:

Pazi na jednu stvar: knjiga ne objašnjava što znakovi znače. Samo kaže ako vidiš ove oblike, nacrtaj one oblike. Ovca pronađe pravilo, precrta znakove na novi papirić i gurne ga kroz desni otvor.

Knjiga je ogromna i ima pravilo za svako moguće pitanje, a ovca je brza. Jako brza.

Pogled izvana

Ispred sobe stoji netko kome je kineski materinji jezik. Piše pitanja i dobiva odgovore: smislene, duhovite, gramatički savršene. Zaključak mu je logičan: unutra sjedi netko tko odlično govori kineski.

A unutra? Ovca koja nema pojma je li upravo pričala o vremenu, dala recept za knedle ili nekome priznala ljubav.

Što je Searle htio reći

Računalo radi isto što i ovca. Prima simbole, slijedi pravila (to je program) i vraća simbole. Searle tu razlikuje dvije stvari:

• sintaksu: pravila kako se simboli slažu,
• semantiku: što ti simboli zapravo znače.

Računalo ima sintaksu. Searle tvrdi da samo slijeđenjem pravila nikad ne dolazi do semantike.

Zato je poanta eksperimenta jednostavna: ponašati se kao da razumiješ nije isto što i razumjeti. Iz istog razloga Searle smatra da ni slavni Turingov test nije dovoljan dokaz. Prema tom testu stroj „misli” ako ga u razgovoru ne možeš razlikovati od čovjeka.

A što je s ChatGPT-om?

Jezični modeli rade nešto vrlo slično, samo u golemom mjerilu. Nitko im nije napisao knjigu pravila. Umjesto toga, čitanjem ogromne količine teksta naučili su milijarde brojeva. Ti brojevi im govore koja riječ najvjerojatnije dolazi sljedeća. Tako, riječ po riječ, slažu odgovor.

Zvuči kao kineska soba? Mnogima zvuči. To objašnjava i zašto AI ponekad samouvjereno izmisli činjenicu: slaže uvjerljiv tekst, a ne provjerava je li istinit.

Ali čekaj, nije sve tako jednostavno

Kineska soba ima i puno kritičara. Najpoznatiji prigovor zove se argument sustava: ovca ne razumije kineski, ali možda ga razumije cijeli sustav, odnosno ovca, knjiga i soba zajedno.

Searle odgovara: neka ovca nauči cijelu knjigu napamet i izađe iz sobe. Sad je ona sama cijeli sustav, a kineski i dalje ne razumije.

Kritičari uzvraćaju: ni jedan neuron u tvojoj glavi ne razumije hrvatski, a ti ga ipak razumiješ. Možda razumijevanje uvijek nastaje iz dijelova koji sami ništa ne razumiju?

Postoji i argument robota. Možda soba ne razumije jer nikad nije vidjela, okusila ni dotaknula ništa od onoga o čemu piše. Daj joj kameru i ruke, pa da vidimo.

Tko je u pravu? Više od 40 godina kasnije, filozofi se oko toga i dalje ne slažu.

Što to znači za tebe

Ne moraš riješiti filozofsku zagonetku da bi dobro koristio AI. Ali kineska soba daje tri praktična savjeta:

1. AI zvuči jednako sigurno i kad griješi. Važne činjenice uvijek provjeri.
2. Tvoj prompt je papirić kroz otvor. Što jasnije pitaš i što više konteksta daš, to bolji odgovor dobiješ.
3. Razumijevanje je tvoj posao. AI je moćan alat, ali procjena je i dalje na tebi.

Možda AI ne razumije što piše. Ali ti moraš razumjeti što od njega tražiš.

Kako jezični modeli „razmišljaju” i zašto ponekad griješe upravo je tema prvog predavanja Sheep Academyja.