|
GenAI - Statisticko pogadjalo ili ipak nesto vise?
Naletio sam na jedan jako dobar kratki znanstveni clanak u vezi transformer GenAI-jeva u koje se svi kunu... Problem je sto je princip rada doslovno statisticko pogadjanje i namjestanje rezultata... Transformerima nije cilj napisati istinitu tvrdnju, vec samo zgotoviti recenicu prema nekim zakonitostima i uz maksimalno tocnu konvergenciju kako se ide prema kraju recenice...
Borges and AI - https://arxiv.org/abs/2310.01425 Naime, lingvisticki gledano, slaganje recenice je definirano lingvistickim zakonitostima (ma mozemo komotno reci matematickom formulom)... Mislim, oni koji se sjecaju mojih nepodopostina sa Useneta tamo jos sa kraja 90ih i pocetkom 2000tih su naletili na tzv. Runfa... Runf je bio (prema mojoj ideji) pokusaj nas nekolicine blentavaca da napisemo programcic koji ce generirati recenice... Imao je tocno predefiniran nacin slaganja recenica (link je ispod)... Imenice, glagole, priloge, prijedloge, pridjeve i stajaznam sta je po random odabiru odabirao iz malih fajlica u koje smo pisali sve te gluposti... Cak je skroz lijepo deklinirao i konjugirao, sve po pravilima jezika... Kasnije sam se malo zaigrao pa sam mu preslozio fajlice tako da je umjesto imenica koristio pridjeve, umjesto glagola veznike i slicno tako da su te generirane recenice bile besmislene, ali urnebesno smijesne... Primjeri runfovih gluposti - probajte naglas procitati:
Tu me skini - Runf.zip Idem dalje sa lingvistikom... Dakle, lingvisti su utvrdili da postoji konacan (i relativno malen broj) nacina slaganja recenica... I onda uzmes LLM, nakrcas ga trening podacima (knjige, clanci, govori, itd) i pustis ga da izvodi korelacije svega sa svacime i izvodi tezinske faktore za svaku korelaciju... Kada to nauci, onda imas sve to u njegovoj 'bazi' tezinskih faktora (aka. neuronskoj mrezi)... Generiranje teksta ne bi onda trebalo biti pretesko... Krene od prve rijeci, onda ima hrpu mogucnosti za sljedecu rijec, no zna se da nakon subjekta ide predikat, tako da je ipak ogranicen po pitanju odabira rijeci... PA onda ide dalje, i vec mu se izbor malo smanjio jer rijec ovisi o nekom tezinskom faktoru iz onoga sto je 'shvatio' iz upita... I onda sa svakom sljedecom rijeci konvergira i smanjuje si mogucnost odabira rijeci, sve dok ne dodje do kraja recenice gdje stavi tocku i nastavi dalje sa novom recenicom ukoliko je potrebno... Ono sto velika vecina ljudi ne shvaca je - generative AI se ne bavi tocnoscu materijala sa kojim barata... OK, postoje nacini kako da ga se zacementira da ne pise gluposti, no i dalje, odgovore je moguce navoditi u smjeru u kojem zelis, tako da je moguce dobiti konacni odgovor na upit koji je potpuno netocan, ali je toliko dobro potkrijepljen brdom 'smislenog' teksta da jednostavno nemas volje sumnjati u taj odgovor jer, eto, zvuci tocno... Iz mog nekog iskustva koristenja tih chatbotova, nije pozeljno vjerovati im na rijec... U 80% slucajeva sam skuzio da su mi u silnom generiranom tekstu dali par krivih informacija... Ali onako, ne krivih nego totalno krivih... Recimo sinoc mi je DeepSeek izjavio da Betrion mast koristi imikvimod kao aktivnu tvar, a na lijeku uredno pise mupirocin... Dakle, imikvimod je imunomodulator, dok je mupirocin antibiotik... Onako, razlika je nebo i zemlja, no to toliko sa autoritetom pise da nema razloga da mu ne vjerujes... Dapace, isprva sam i povjerovao, no isao sam za svaki slucaj na HALMED procitati koja je aktivna tvar u Betrion masti, jer znam da je antibiotska, kad ono mupirocin, nesto skroz deseto od onog sto mi je ovo smece izjavilo... Danas sam ga navlacio da prihvati da Messina nije u Italiji i nije nikad bila, u par navrata mi je napisao da je Messina treci najveci grad na Siciliji, no onda mi je pred kraj napisao da je drugi najveci grad na Siciliji... Dokaz da pogadja i da uopce ne barata cinjenicama, nego samo onime sto njegovim lingvistickim zakonitostima odgovara u danom trenutku... Pa sam ga svojedobno pitao da li je silikonsko ulje koje se stavlja u oko kao tamponada nakon operacije ablacije retine lakse ili teze od vode, ovaj uredno tvrdi da je teze od vode, ali navodi gustocu od 0.97 (sto je lakse od vode) i to u istom odgovoru... Onako - wtf?! Poanta price - GenAI se ne bi trebao koristiti za fact-checking, analitike i slicne zadace, vec za ono za sto je namijenjen - generiranje teksta / slike / videa... Definitivno ce dobro napisati pricu, nekakav opceniti clanak, pa jos ako mu ubacis tocne podatke i zamolis da to sve inkoroporira u neki clanak ili govor ili nesto, to ce dobro odraditi... Dakle, dokle god se od njega ne ocekuje da ti kaze tocan odgovor na pitanje, moze proci... Za sve ostalo treba koristiti nesto sto je za to namijenjeno i eventualno GenAI koristiti kao final-output stage koji ce dobivene podatke iz nekog pametnijeg AI-ja (ML recimo) samo napisati na ljudima razumljiv nacin... Inace, za one koji nisu nikad culi, postoji ELIZA, chatbot razvijen 1964-1967... https://en.wikipedia.org/wiki/ELIZA, Nekada davno tamo pocetkom 1990ih su ju neki BBSovi imali instliranu pa se moglo caskati sa doticnom... Poanta prica - GenAI je, kako bih ja to nazvao - statisticko pogadjalo... I nista vise od toga... I sada, umjesto da krene flame, molio bih da napisete ovdje neke smislene primjene za koje koristite GenAI alate, te koje alate koristite, koliko dugo, itd... Ima ih sad vec podosta, no volio bih iz prve ruke cuti iskustva - koji alati su se pokazali kao odlicni, koji su najveci lazovi, itd... Inace, naletio sam na neki moj post iz 2002, majkemi, zvuci ko da ga je ChatGPT napisao... :D Ja se ne sjecam da sam bio u stanju ovakve gluposti trkeljat... :D Je ono sa medjukanalnim interferencijama i RT MDU? Mah, nisi ti jos cuo za Millenium RPK.... Nas najnoviji izum... Stroj za izradu kobasica... Cak imamo i algoritam za softver... Naime, koristimo paradigmatske procese pri razlucivanju uzoraka (tzv. sampleova) prilikom izrade kobasica... Gledaj, vrlo je jednostavno... Uzmemo komade mesa... Pustimo paralipticni odsmjerivac da ga malo ocisti, i onda pomocu RPK sve to smijesamo, i uvaljamo u posebno monostrukturalno-transformirana crijeva... Takvim postupkom omogucavamo potpunu sigurnost od sitnih cestica iz zraka... 'nako, da ne zagadimo kobasice kao vecina stranih proizvodjaca... Nasi domaci su jos OK sto se toga tice... A softver je posebna prica... To je vec pamet... Jebga... To je poslovna tajna i ne smijem ti nista otkriti... Kad napravimo uredjaj, svi cete dobiti po paket kobasica... Inace, uredjaj je upogonjen sa Motorolom 68XXX, zbog toga sto nam ne treba nista zahtjevno, a svi prekidi koje Motorola moze obraditi su nam taman... Stvarno... Mogli smo komotno i neki PIC uzeti, ali eto, uzeli smo Motorolu u slucaju da razvijemo dizajn i da ga unaprijedimo u kasnijim verzijama uredjaja... Ko zna, mozda se dobro plasira na trzistu... |
Naravno da je statisticko pogadjanje. Ali pravo je pitanje radimo li ti i ja ista pametnije, ili samo isto statisticki pogadjano iducu misao.
|
rendula, ja bih kazao da ljudi ipak primjenom rezona, ako ništa drugo, uglavnom znaju da laprdaju kada laprdaju. "AI" ne zna ništa.
Ja osobno "besplatne AI" servise ne koristim, samo sam nešto lokalno nabadao po tome i to za generiranje grafike, malo sam se igrao i sa aplikacijama kao što je Krita kojoj se može pridodati LLM. Moja 1070 i nije neka velika sreća za takvu primjenu. Što se tiče preciznosti, frendovi (koji se inače ne bave sa IT) kojima spominjem kako "AI" nije za precizne stvari te ima tendencije izmišljati gluposti, uglavnom ostaju u čudu i pitaju "pa koji je onda smisao toga". Smisao je u tome da treba veliki, možda najveći ikada, balon napuhati. Problem je u tome što velika većina korisnika pojma neće imati kako to čudo izmišlja gluposti i samo će to prenositi verbatim. I bude kako je Eric Schmidt kazao, dobiješ "točan" odgovor iz prve. Točan ako ne ideš provjeriti. |
Sjecam se runfa, citao sam svaki i cerio se :D
|
Citiraj:
Prilicno sam siguran da GenAI nema misaone procese, nego doslovno samo pici po statistici i slaze rijeci koje najvise odgovaraju kao odgovor na dani upit... Pitanje - sto radi GenAI kada ga nitko nista ne pita? Moj odgovor - apsolutno nista... |
Citiraj:
What is AI? – It’s a tool. Nothing more, nothing less. Nothing fancy about it.
Dakle, ovo drugo je mozda najbitnija stavka - human-machine interaction, i tu je mozda najveci potencijal GenAI... Ocekivati da ce statisticko pogadjalo (GenAI) dati tocan odgovor na pitanje je naivno, ne moze ga se za to koristiti... No, ocekivati da ce izvrsiti neki relativno jednostavni zadatak na temelju pisanja ili izgovaranja upita, to se vec sada ocekuje... A tocno to je ono sto 99% ljudi zeli - da ne moraju uciti kako koristiti softver/aplikaciju, vec da samo objasne sto zele napraviti... I onda cijeli koncept aplikacije kao komada softvera koji ima UI kojeg treba nauciti koristiti pada u vodu... Nekako imam filing da stize uskoro svijet bez aplikacija, prepun specijaliziranih AIjeva (zapravo, ovo ce postati nove 'aplikacije') koji ce odradjivati posao na temelju glaspvnog ili pisanog upita... Dakle, manipulacija raznim tipovima podataka (poruke, dokumenti, tablice, video, audio, fotografije, itd) bez potrebe za specijaliziranom aplikacijom... Nesto u stilu kompjutera na Enterpriseu iz StarTreka... Dio vezan uz povecanje efikasnosti isto vrijedi, jer AI (ne GenAI, nego neki drugi oblik AI, poput ML, DL i slicnih) moze neke zadatke odradjivati nekoliko redova velicine brze od ljudi... Uzmimo za primjer korelaciju podataka iz kojih se moze izvuci neka zakonitost koja je ljudima ovako na prvu nevidljiva jer ne mogu baratati sa tolikom kolicinom informacija... No, onda dolazi do izrazaja GenAI koji moze te rezultate pretociti u tekst/govor (prilikom odgovaranja na upit) ili foto/video/audio izricaj... I to je to sto sam zakljucio da su mozda najvaznije prednosti i potencijal skriven u AI alatima... |
Citiraj:
Mislim da je to prilicno filozofski, slicno onome sto ako padne drvo, ali nitko ne cuje... ali ja kad razmisljam, razmisljam na hrvatskom, uz vizualne elemente. Kako to rade osobe koje ne znaju govoriti - ne znam. Ali mozes nauciti model da razmislja na bilokojem apstraktnom jeziku, samo sto to naravno nije korisno tolikim ljudima. A po onome da ljudi znaju kad laprdaju bezveze a AI ne zna - jeste li vi procitali nedavno mozda neke vijesti ili komentare ispod tih vijesti? :D I modeli danas prilicno dobro shvacaju kad lupetaju bezveze, velik dio reinforcement learninga se svodi na self-critique. Samo sto je infrastruktura i nacin na koji se sample-a text iz njh takva da mora nesto proizvesti, i onda to opet dobiti u inputu. Uglavnom, mislim da oko ovo tema nema trenutno tocnog ili netocnog odgovora, samo kad malo razmislis neke stvari ipak nisu toliko jednostavne. U konacnici i nase misli i govor i sve sto radimo je kontrolirano od strane hrpe neurona koji ili upale ili ne. |
Pa ovo sa drvom i nije baš nešto filozofski, ako znamo što je zvuk lako ćemo riješiti taj problem :D
Što se tiče misli i govora koji su "hrpa neurona koji se pale i gase" lol, to osim što je naravno krivo je i primjer žestokog redukcionizma koji čak i da je točan nam ništa ne donosi. Kao da je kažem da je rendula samo hrpa atoma koji se eto spajaju kemijskim vezama i da netko kopira rendulu samo treba tako to sve skupa naslagati vamo tamo i eto nam rendule :D Drugi problem je što sa ovim "upale ili ne" insinuiraš da su neuroni nekakvi električki sklopovi koji mogu zauzeti 2 stanja slično kao tranzistor u računalu, što opet naravno nije točno. Treba se okaniti takvih metafora, kako se tehnologija pojavljivala već smo imali i hidrauličke teorije mozga, pa telefonske :D pa električne, sad i računalne. O mozgu ima sve više podataka, ali sve manje znanja. Znanstvena teorija svijesti ne postoji (u principu se znanost teško dogovara oko definicije toga što je uopće mozak, a gdje je tek svijest) a danas nismo u stanju objasniti paljenje neurona kod nekakvog crva koji ih ima beznačajno u usporedbi sa čovjekom. Što se tiče LLM-a, čini mi se da je calypso u pravu. Strogo gledajući, nitko (relevantan) niti ne tvrdi da je LLM išta više od generatora teksta koji na upite proizvodi statistički značajne outpute. Članke za portale tipa index i sl. ne brojim jer oni uglavnom prenose marketinške poruke, ništa bitno. To naravno ne znači da LLM ne može biti vrlo koristan, naprotiv. Ali to je softver čijih ograničenja treba biti svjestan i treba ga koristiti sa time na umu. Dakle, ne preuzimati te outpute ne-kritički i očekivati da su automatski točni, što nažalost velik broj ljudi upravo tako shvaća a zato što su kupili priču da je tu riječ o nekakvoj inteligenciji. LLM ima inteligenciju 0 i to treba uvijek imati na umu, on ne zna ništa. P.S. sjećam se i ja runfa sa newsa :D |
Nekidan sam napao DeepSeek i pokusavao mu objasniti da ne postoji grad Messina u Italiji... Jako se trudio uvjeriti me da postoji, tako da je u dva navrata napisao da je Messina 3. najveci grad na Siciliji, no u jednom od odgovora je postao 2. najveci grad na Siciliji... Tako daaaaaa, statisticko pogadjalo...
Danas sam pak ChatGPT pokusavao ugnjaviti da mi pomogne nesto oko instalacije CentOS 8 (trebala mi je starija masina za nesto)... I kopipejstam mu gresku, ovaj mi napise da moram zamijeniti nesto u .repo fajlovima i promijeniti mirrorlist i baseurl u vault.centos.org... Nije se bas proslavio, ali se voli pravit pametan da je to nesto prestrasno... |
Casna rijec, ovo smece od ChatGPT nemre pogodit nista pa da mu nacrtam... Instaliram NetBackup 10.5 za neko testiranje, jedno 10 puta to velim... Trazim da mi kaze gdje je certifikat od webservera i pitam na koji nacin da ga nanovo izgeneriram... Daje mi jedno 17 krivih foldera za lokaciju, a i nacin generiranja novog certifikata mu nije bas najpoznatiji pojam... Ali svaki put ima onaj 'aha!' pocetak... Grozno beskoristan alat... :/
|
Preciznost nije na popisu vrlina koje ima.
|
Citiraj:
Problem je sto se GenAI reklamira kao vrhunski asistent za sve... Sve ga mozes pitati, sve ce ti reci... Problem je stvarno sto daje toliko besmislene i netocne odgovore da je to nevjerojatno... Neki mi vele - e pa, to ti je zato sto koristis beskorisnu verziju... Well, ono, onako... Ovo je do pred pola godine bila placena verzija... :) |
je, baš je smeće sve to.
Ja sam ga na kraju svea na alat za pomoć pri pisanju pjesmica. :D Koristim onaj Perplexity Pro, šta se dobivala besplatno od T-Coma, majko mila....koliko tih "aha" momenata ima, pogotovo u programiranju i slaganju skripti.... Ono mi objašnjava algoritam, a samo ne zna oduzeti dva broja. Naravno, na kraju dođe i kaže, "da, u pravu si oko algoritma bla bla bla i tip meni vraća moje objašnjenje upućeno njemu i kaže: HOĆEŠ LI PAR PRIMJERA DA TI BUDE JASNIJE? " Jebeš mi sve, kakva drskost! :D |
Vi se tu sprdate sa ubogim LLM-om a ja čitam na općenarodnim portalima za idio...za narod kako superinteligencija dolazi za mjesec dva i preuzima sve, Skynet stiže. Zato se i pravi da ne zna koliko je 2+2, to je sve dio plana.
|
a gle, neće od toga biti ništa dok ta "inteligencija" nije svjesna informacija o kojima priča i nema razumijevanja za njih.
Što bi rekao calypso, ne razmišlja o stvarima koje "zna". |
Ja lokalno koristim "GPT4All" koji podržava razne modele, gdje sam limitiran na ove koji stanu u 8GB VRAM. Reasoner je jedan od tih, i ako postavljan neka relativno high level pitanja, dobijem korektne odgovore. NPR.
JA: Can you lay out steps for optimizing SQL Server views? Citiraj:
Citiraj:
|
Ja sam odustao nakon dva "aha". Samo je promijenio objašnjenje, a sample je ostao isti. Za neke stvari mi je bio okej, čak i s glupo postavljenim pitanjem i minimalno informacija. S druge strane, nafilao sam ga s konkretnim info i postavio konkretno pitanje, ali nijedan "aha" nije bio dobar.
|
Znaci nula nula nula nula bodova... Daje mi uporno krive lokacije foldera, potpuno krive filenameove za NetBackup 10.5... Jos mu 20 puta ponovim da koristim NetBackup 10.5... Svaki put - veli - Aha! Tako je, u verziji 10.5 je doslo do promjena u imenima fajlova i foldera i onda mi opet daje iste one fajlove i foldere koje mi je davao prije...
Znaci, izgubio sam dva dana na ovu instalaciju... Ovo je njesra, odustajem, idem dignut NBU na Windows Server masini... Mozda tu nesto i uspijem... :/ Da se odma opravdam - ovo je prvi put u zivotu da instaliram NBU, ne znam kako se to radi, iz NBU dokumentacije, proces je prilicno straightforward, no nikako na zelenu granu... :/ |
Mislim da je generalno zbunjenost GEPETE kod davanja uputa vezano za razne tehničke pizdarije dokaz jedino loše dokumentacije :D
|
Citiraj:
:D:D Da da, kakvi podaci ulaze takvi i izlaze, jebiga :D |
Citiraj:
|
Ne zna GPT da nešto ne zna, je li. Tamo gdje ima rupe, to popuni generativno. Prilično sam siguran da bi u tom tvom slučaju, kada bi trenirali LLM s dokumentacijom koja pokriva razne verzije, GPT bi dao korektan odgovor. To su stvari koje bi milion indijaca mogli riješiti, nego je vjerojatno slabo pokriven use case.
|
Citiraj:
Realno, instalacija NetBackupa bi trebala biti poprilicno dobro dokumentirana... Postoji dokumentacija na Veritasovom websiteu, NetBackup je softver star desetljecima (razvijen prvi put 1987)... Jednostavno nema objasnjenja zasto GEPETE kao, kakti najnapredniji GEPETE ne zna nista o nicemu kad je u pitanju NetBackup, ali uredno samouvjereno tvrdi da se fajlovi koje trazim nalaze u folderima koji ne postoje... https://vox.veritas.com/blog/backup-...to-know/782767 |
Meni je Perplexity super olakšao neke stvari. Njihovo "istraživanje" mi je top.
Npr. neki dan sam htio skriptu koja će mi povući cijenu jednog ne baš popularnog crypto tokena. Postavio upit na deep research da mi istraži preko kojih besplatnih api se to može, po mogućnosti bez registracije, i da mi napiše skriptu za node.js Više se ne sjećam koliko je stranica prosurfao i naveo kao izvor, ali na kraju mi je ponudio nekoliko besplatnih api od kojih je prvi bio bez registracije i napravio skriptu koja je od prve radila. Prezadovoljan. :) |
Meni je WOW efekat bio kad sam mu rekao da mi napiše recenziju Super Konzuma na Črnomercu u stilu Miroslava Krleže.
Vjerojatno je treniran na Google Maps recenzijama iz doba Todorića kad je pogled u oči blagajnica ostavljao teške duševne patnje. |
|
Citiraj:
https://www.youtube.com/watch?v=WsNQTfZj4o8 |
Ovi genAI ne samo da pogadjaju, nego su tolko samouvjereni u svojem pogadjanju da se nemrem jos uvijek prestat smijat...
Dakle, trazim film... Objasnio sam okvirnu radnju filma DeepSeeku, do sada su mi i ChatGPT i DeepSeek izvukli koji sam film trazio... Ali ovo je potpuno nova dimenzija... Ako niste znali, Čaruga je film iz 2001 i to o frizerskom natjecanju... :D :D :D https://i.postimg.cc/QNghG9Mv/Trostruki-karpat-upit.jpg https://i.postimg.cc/d39Y8XXJ/Trostr...at-odgovor.jpg Imamo i nastavak price... :D :D Jedini problem je sto navedeni film iz odgovora nikad nije snimljen... :D https://i.postimg.cc/q7mQCGQW/Trostr...-odgovor-3.jpg |
Možda je snimljen u nekom paralelnom svemiru.
|
Citiraj:
Ali Čaruga covjece!! Film o frizerima! :D :D :D |
| Sva vremena su GMT +2. Sada je 04:32. |
Powered by vBulletin®
Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
© 1999-2024 PC Ekspert - Sva prava pridržana ISSN 1334-2940
Ad Management by RedTyger