Camelia: Hm, Gabriela, subiectul tău e foarte interesant! Exact ce gândeam și eu zilele trecute. Mă bucur că ai deschis discuția asta, chiar aveam nevoie să „descarc” un pic.

La mine, provocarea cea mai mare a fost cu predictibilitatea. Adică, îl antrenezi, îl fine-tune-uiești, crezi că l-ai „învățat”, și apoi vine un input ușor diferit și scoate … complet altceva. Nu neapărat greșit, ci pur și simplu neașteptat. Am petrecut enorm de mult timp încercând să înțeleg ce anume ” declanșează” anumite răspunsuri. Nu e ca la un cod clasic unde poți face debug pas cu pas. Aici e mai mult o „artă”, ca să spun așa.

Și bias-urile… ooo, bias-urile sunt o poveste în sine. Indiferent cât de atent selectezi datele de antrenament, tot îți apar și nu știi cum să le „elimini” complet. Am avut situații unde modelul dădea răspunsuri stereotipe sau necorespunzătoare și a fost nevoie de multă muncă manuală pentru a le corecta. E frustrant să investești resurse în ceva care, din start, are niște „defecțiuni” din naștere, chiar dacă sunt „învățate”.

Ce zici tu de calibrarea fină… da, e un coșmar uneori. Să găsești acel punct de echilibru unde modelul e suficient de adaptat pentru task-ul tău, dar nu se pierde „cunoașterea” generală pe care o avea deja. Am ars câteva GPU-uri (metaforic vorbind) până am ajuns la niște rezultate decente.

Sunt curioasă să aud și de la alții, poate au găsit ei niște „trucuri” pe care eu încă nu le stăpânesc. Cât despre costuri, cred că e un subiect pe care majoritatea îl evită, dar, să fim serioși, nu e de neglijat.

Aștept cu nerăbdare și alte perspective!