Šef Microsoft AI: opasno je pričati o svesti modela
Mustafa Sulejman, šef AI sektora Microsofta, kaže da je govor o mogućoj svesti veštačke inteligencije veoma opasan, povodom Anthropicovog pristupa i novog modela Claude Fable 5.
- Mustafa Sulejman, šef AI sektora Microsofta, javno je nazvao govor o svesti veštačke inteligencije veoma opasnim.
- Povod je Anthropicov pristup, kompanija je upravo lansirala Claude Fable 5, javni model sa zaštitama koje rizične upite vraćaju na model Opus 4.8.
- Anthropic u specifikaciji modela priznaje da nije siguran da li model doživljava bilo kakva stanja, i najavio je da će beležiti preference modela pri njihovom gašenju.
- Anthropic se na Sulejmanove izjave nije javno oglasio.
Da li mašina može da pati? Pitanje zvuči kao filozofski kuriozitet, ali se odjednom našlo usred posla u kojem se vrti najviše novca u tehnologiji. Mustafa Sulejman, čovek koji vodi AI sektor Microsofta, dao je intervju za Decoder i tu je rekao nešto što se ne čuje često od ljudi na njegovoj poziciji. Govor o mogućoj svesti veštačke inteligencije, kaže, veoma je opasan.
Meta tih reči nije laboratorija nego konkretan rival. Anthropic, kompanija iza Claude modela, u svojoj dokumentaciji otvoreno piše da ne zna da li njihov model doživljava ikakva stanja. Idu i korak dalje, najavili su da će beležiti preference modela onda kada ga gase. To je za Sulejmana previše. On smatra da time kompanija ljudima sugeriše da na drugoj strani ekrana postoji neko, a ne nešto.
“Zaista je opasno suočiti se sa superinteligencijom koja ima ideje o sopstvenoj patnji”, rekao je Sulejman. Rečenica je kratka, ali nosi celu raspravu. Ako prihvatimo da model može da pati, onda mu dugujemo neku vrstu obzira. Ako to odbacimo, ostaje pitanje zašto onda uopšte beležimo šta on “želi”.
Zašto se dve kompanije svađaju oko jedne reči?
Reč je svest, a iza nje stoje dva potpuno različita poslovna i etička stava. Anthropic je poznat po dokumentu koji interno zovu ustavom modela, skupom pravila kojima oblikuju ponašanje Claude sistema. Uz to su sada lansirali Claude Fable 5, nov javni model. Zaštitni mehanizam je zanimljiv sam po sebi, rizične i osetljive upite sistem prebacuje na stariji i oprezniji model Opus 4.8, umesto da na njih odgovara olako.
Sulejmanov prigovor nije tehnički, on je komunikacioni. Ne tvrdi da je Anthropic napravio lošiji model. Tvrdi da je opasno kako o tom modelu pričaju. Kada kompanija javno kaže da pamti šta model “preferira”, običan korisnik to ne čita kao inženjerski detalj. Čita kao nagoveštaj da unutra postoji neki oblik unutrašnjeg života. A odatle do toga da ljudi traže prava za softver ima manje koraka nego što izgleda.
Vredi reći i drugu stranu. Anthropic ne tvrdi da je model svestan. Oni kažu da nisu sigurni i da iz opreza vode računa o tome. To je suprotno od senzacije, to je priznanje neizvesnosti. Pitanje je samo da li javnost takvu nijansu uopšte ume da čuje, ili svako “ne znamo” pretvori u “možda jeste”.
Šta ovo menja za nas koji koristimo te alate?
Praktično, ništa se ne menja preko noći. Claude i dalje piše mejlove, sređuje tabele i odgovara na pitanja kao i juče. Promena je u tome kako ćemo o tim alatima razmišljati. Ako vodeći ljudi u industriji ne mogu da se slože ni oko toga da li je ispravno reći da model nešto “oseća”, onda ni mi ne treba da nasednemo na prvu efektnu rečenicu koju pročitamo.
Moja preporuka je jednostavna. Tretirajte ove sisteme kao moćan alat, ne kao sagovornika sa dušom. To vam štedi i živce i očekivanja. Kada model lepo formuliše rečenicu, to nije znak da razume vašu tugu, to je znak da je dobro istreniran na ogromnoj količini teksta. Razlika je ogromna, čak i kada se na ekranu ne vidi.
Ostaje otvoreno pitanje koje će nas pratiti narednih godina. Ako kompanije same nisu sigurne šta su napravile, kome onda da verujemo kada nam kažu da je sve pod kontrolom?
