PC Ekspert Forum - Svaštara

PC Ekspert Forum (https://forum.pcekspert.com/index.php)

- Svaštara (https://forum.pcekspert.com/forumdisplay.php?f=29)

- - Svaštara (https://forum.pcekspert.com/showthread.php?t=317464)

Citiraj:

Autor Colop (Post 3836448)

Više manje sa svime se slažem, uveo bi re-certifikaciju svakih pet godina + pisani test i psiho test.
Al ovo boldano je totalan fail.
Pokušao sam pronaći moj razgovor sa CHAT GPT om gdje sam mu postavio konkretno pitanje.
LLM odgovara samouvjereno članak 100 stavak 3 Ovršnog zakona.
Ja gledam odgovor, gledam Zakon i govorim mu ali Ovršni zakon nema članak 100 stavak 3. Niti takav tekst postoji u ovršnom zakonu.

LLM odgovara u pravu si, mislio sam na članak 400 stavak 8.
Ja gledam zakon, nema ni tog članka.Niti takav tekst postoji u ovršnom zakonu.

Pitam ga koji zakon koristi, LLM koristi zakon iz 2020, iako su bile dvije izmjene zakona nakon toga (2022 i 2024).
Zaključno, LLM izmišlja zakonske članke, i ne zna primjeniti pravo s obzirom na vrijeme.

Jedino ako bi taj LLM bio samo za zakone koji bi se odmah nadograđivali na sve promjene. Mislim da s ovim koji su sveopći tj. za široke mase se ne nadograđuju s tekstom tako često nego je do neke godine.

Trebalo bi ga trenirati samo za određenu državu i zakone. Moje mišljenje a i moguće da sam u krivu s razmišljanjem.

Citiraj:

Autor spiderhr (Post 3836458)

ne,ne, LLM to ne razumije.
Znači ja sam mu postavio parametre:

1. Koristi isključivo važeće zakone sa zakon.hr
2. koristi isključivo hrvatsko pravo.

Ovaj daje izmišljene zakonske članke, i koristi srpsko pravo :D

Citiraj:

Autor Colop (Post 3836448)

LLM odgovara u pravu si, mislio sam na članak 400 stavak 8.
Ja gledam zakon, nema ni tog članka.Niti takav tekst postoji u ovršnom zakonu.

Standardna halucinacija.
Takav modus operandi sam isto primijetio:
- izađe s podatkom koji se lako provjeri i ne postoji
- upozoriš ga da to ne postoji
- odmah se ispravi u stilu: "sorry, mislio sam na to i to"
- i tu opet provali nepostojeću kombinaciju
:D
Za pravne situacije čujem od dosta ljudi da su dobivali upravo tako citate iz nepostojećih članaka zakona.

Citiraj:

Autor c-shadow (Post 3836485)

lako što si dobivao citate iz nepostojećih članaka, recimo da je taj članak postojao u nekoj ranijoj varijanti zakona, pa je ukinuti izmjenama i dopunama, nego je on doslovno izmislio zakonske odredbe koje nisu nikada postojale u niti jednoj varijanti zakona, da mi pomogne u rješavanju situacije koje imam.

Nema tu zasad pomoći, tako nažalost rade ovi današnji sustavi koje nazivaju "AI".
Da bi davao koliko toliko dobre rezultate, mora biti treniran na skupu podataka koji odgovaraju problemskoj domeni.
Chat GPT je LLM opće namjene, nije strogo treniran na tim podacima.
Da ga nahraniš svim dosad postojećim zakonima RH (i samo time), vjerojatno bi radio bolje, ali i dalje bi bio podložan izmišljanju podataka kad ne zna odgovor.
A u tom slučaju si dobio "glorificiranu tražilicu" kako je to netko bio naveo tu na forumu :D

E jebiga, otkrio si fail u mom inače posve realnom planu :D
A ništa, onda studenti i sl. kad već LLM generira sranje umjesto da radi što mu se kaže, ipak se zove generativni AI :D

U firmi smo nakon par tečajeva i sl. gledali kako da dignemo LLM da obrađuje helpdesk zahtjeve, nahraniti ga dokumentacijom itd.
Na kraju odustali, komplikacija žešća, izgleda da će uprava to outsourceati na neku vanjsku firmu. Vele da im je prihvatljiv rizik da "AI" povremeno korisnike malo odvede na krivo :D