Umjetna inteligencija (AI)

[Neo-ST]

Autor tomek@vz

Hm...i zbilja ti se isplati placat kolko vidim 100$ mjesecno za to cudo? Nikad nisam koristio placene verzije posto sam "besplatnim" (Gemini najvise...Copilot sam odavno otkantao)...tja...ajmo rec da mi zadaju vise posla nego su od koristi. Daj par primjera u kojim slucajevima je fakat tolko bolji da se isplati.

Jesi spreman za potpuno novo otkriće koje bi ti moglo promijeniti stavove prema AI-u ? 😀

[Ivo_Strojnica]

Autor tomek@vz

Hm...i zbilja ti se isplati placat kolko vidim 100$ mjesecno za to cudo? Nikad nisam koristio placene verzije posto sam "besplatnim" (Gemini najvise...Copilot sam odavno otkantao)...tja...ajmo rec da mi zadaju vise posla nego su od koristi. Daj par primjera u kojim slucajevima je fakat tolko bolji da se isplati.

Slažem aplikaciju.
Imam složenu Jira like aplikaciju, gdje sam posložija cijeli svoj URS, što aplikacija treba raditi i to sam raspisa.
Imam 3 agenta koji mi prolaze raspisane taskove i slažu mi aplikaciju.
imam 1 agenta koji mi testira i 2 agenta koji mi rade research na temu radi koje radim aplikaciju, da budem dovoljno vague.

Reći ću ti samo jedno:
Potrošija sam 800€, aplikacija je u verziji 7.1 trenutačno i donosi mi fini profit.

To je aplikacija koja ima 10 web servisa, nekih 80 formi, sve složeno, dinamički se popunjava, validacija pitaj boga koliko, složeni model baze od 124 tablica, sa više milijuna podataka, a algoritmi u njoj su nešto što bih istraživa možda 2 godine, a kamoli složija aplikaciju.

In any case, mindblown sam koliko je toga složeno.

jebeno mindblown.


EDIT: i da nadodam, imam 3 razine, dev, test & production. sve održavaju i deployaju agenti.
ja sam čisti manager

[OuttaControl]

Daju daju, npr imam na poslu copilot koji ima par modela, Claude Sonnet - kojeg imas i ako besplatnog vjerojatno i Claud Opus, koji je "premium"

Opus je jeben, dakle priprpemili smo mu MD file sa uputama kako napravit flow od kontrolera do state machine i samo mu kazes Napravi po tim uputama endpoint do effecta, sam u roku od par minuta generira
Controller endpoint - mediator request, mapper, handler, interface na klijenta, poziv na klijenta, ulaz u state machinu sve do effecta to odradi 100% tocno svaki put, ustedi par sati posla. To je grunt work u pravilu al odradi.
I onda mi sami dodamo logiku u effectu, nekad i opusu damo, tu je uspjesnost 50tak posto.

Sonnet to nije nikad bio u mogucnosti odradit, uvik nesto zbrcka radi nesto po svom itd itd.

Radio sam deployment novog projekta na k8s i nesto je stekalo i pitam njega da vidi što je, koristi komande kubectl, i lista po logovima(dobro gledat sto pita smije li executeat), i u jednom trenutku pita me komandu da desifrira secret, reka sam ne moze i sam to desifriram, kad ono typo u tom secretu.


Falije li opus, falije, triba dobro gledat šta radi ali skratio nam je projektni posa sa pa ja bi reka 2 mjeseca na 3 tjedna. Kljuc je da imamo dobro strukturiran i dokumentiran projekt tako da nas AI moze brzo zaminit kad bude tribalo

[tomek@vz]

Autor Neo-ST

Jesi spreman za potpuno novo otkriće koje bi ti moglo promijeniti stavove prema AI-u ? ��

Samo kad se smisleno i sa razumijevanjem koristi i opet ne iskljucis vlastiti mozak pri tome svemu Nisam kontra AI nego prenapuhavanja i ljudske gluposti. Ako mi moze pomoci u svakodnevnim zadacima i da imam vremena za ostalo > why not? Samo mi je trenutno 100$ too much za tak nekaj svaki mjesec kesirat. Self hosting bi me vise zanimao da cijene hardwera trenutno nisu otisle nebu pod oblake, mislio sam ionako desktop kantu prenamijenit u server ali ispod 128GB meme nebi o tome razmisljao. Ostalo - nemam pojma trenutno je ionak trzisni krkljanac. Ja kod sebe imam potrebu konverzije Perl i Python2 skripti u Python3 format jer ih imam mali milion koje moram provjerit i obradit i pazit da se nekaj ne skrsi pa reko ako bi AI mogao prebacit skripte u valjan moderan format , da ja bacim kontrolu na skriptu samo i cekiram dal je to to > to bi mi dosta skratilo potrebno vrijeme za cijeli projekt i mogu se na druga sranja koncetrirat gdje AI ne moze pomoci.

[Neo-ST]

Po mom iskustvu:
GPT-5.4 Extra High za planiranje, jer stalno razmišlja "out of the box", pa često otkrije i stvari koje meni nisu pale na pamet.
Opus 4.6 kao glavni inžinjer, izvođač i nadzornik radova.
Sonnet 4.6 kao usko specijalizirani izvođač, kojeg se koristi ako se želi proći jeftinije, ali mora imati detaljna uputstva šta napraviti i kako...
Naravno, paziti kako im se context puni, pa ukoliko je projekt prevelik, prilagoditi workflow na chunkove za njihove contexte.
Na context summarizing se ne bih oslanjao previše.

Ova kombinacija inače lijepo košta ako niste programer, pa im samo govorite "ja želim ovo, ja želim ono". Ne pitajte kako znam 😅

[mkey]

Autor Ivo_Strojnica

Slažem aplikaciju.

Tu aplikaciju slažeš sam? Nema drugih developera/managera? Tko određuje kako aplikacija treba funkcionirati? Tko piše user story, acceptance criteria odnosno čime se već vodi razvoj?

[Ivo_Strojnica]

sve apsolutno sam.

[Neo-ST]

Autor tomek@vz

Ja kod sebe imam potrebu konverzije Perl i Python2 skripti u Python3 format jer ih imam mali milion koje moram provjerit i obradit i pazit da se nekaj ne skrsi pa reko ako bi AI mogao prebacit skripte u valjan moderan format , da ja bacim kontrolu na skriptu samo i cekiram dal je to to > to bi mi dosta skratilo potrebno vrijeme za cijeli projekt i mogu se na druga sranja koncetrirat gdje AI ne moze pomoci.

Ako nemaš ništa protiv da ja podijelim nešto svog znanja i pokušam ti pomoći, jer sam baš zadnjih mjesec dana imao dosta materijala kojeg je trebalo slati na AI obradu...

Za tako velike poslove ne koristiš Claude app i slične programe koji direktno komuniciraju sa LLM-ovima. Obrada koja tebi treba je idealna za tzv. batch API processing.

To je asinkroni način obrade velike količine zadataka. Za razliku od direktne komunikacije sa LLM-om putem npr. Claude aplikacije gdje ti odgovori trebaju odmah, batch processing se, ovisno o količini podataka, čeka neko vrijeme dok se obradi (prema mom iskustvu to je uvijek <1h, mada Anthropic kaže da može trajati do 24h).

Razlika od sync obrade je da se svi tvoji zadaci (u ovom slučaju svaka skripta za konverziju = jedan zaseban zahtjev) šalju u jednom paketu. Anthropic ih stavlja u queue i obrađuje u pozadini, svaki zahtjev nezavisno. Kad svi završe, rezultati su dostupni za preuzimanje, skripta ih skine i spremi konvertirane fajlove. Kao bonus, batch obrada je iz tih razloga (jer ti odgovor ne treba odmah) 50% jeftinija od sync obrade, šta je idealno za tvoj use case.

Bio sam slobodan iskoristiti nešto svojih resursa, pa ti je moj Sheldon (Opus 4.6) složio ovu skriptu prema mojim uputstvima, znajući o tvom problemu samo koliko si ovdje napisao, pa imaj to na umu.

Skripta.

Unutra ti je sve objašnjeno, pa ako šta nije jasno, pitaj.

I ukoliko želiš, mogu ti procijeniti trošak obrade svih tih skripti, samo će mi trebati više detalja, koliko ih je, koliko KB imaju, kompleksnost, itd.
Dobra stvar kod batch procesuiranja je šta nemaš nikakav subscription kao kod sync modela, već je "prepaid" - staviš unutra para koliko misliš potrošiti i to je to.

[Dule]

Hm... ako su skripte imalo kompleksnije, a vjerojatno jesu jer se radi o DevOpsu, i recimo za zadatak portanja Perl u Python 100 skripti, koliko će ih biti funkcionalno iz prve? 10%? Većina takvih zadataka treba po 10ak promptova s testiranjem nakon svake iteracije da skripta "proradi".

[tomek@vz]

Autor Neo-ST

Ako nemaš ništa protiv da ja podijelim nešto svog znanja i pokušam ti pomoći, jer sam baš zadnjih mjesec dana imao dosta materijala kojeg je trebalo slati na AI obradu...

Za tako velike poslove ne koristiš Claude app i slične programe koji direktno komuniciraju sa LLM-ovima. Obrada koja tebi treba je idealna za tzv. batch API processing.

To je asinkroni način obrade velike količine zadataka. Za razliku od direktne komunikacije sa LLM-om putem npr. Claude aplikacije gdje ti odgovori trebaju odmah, batch processing se, ovisno o količini podataka, čeka neko vrijeme dok se obradi (prema mom iskustvu to je uvijek <1h, mada Anthropic kaže da može trajati do 24h).

Razlika od sync obrade je da se svi tvoji zadaci (u ovom slučaju svaka skripta za konverziju = jedan zaseban zahtjev) šalju u jednom paketu. Anthropic ih stavlja u queue i obrađuje u pozadini, svaki zahtjev nezavisno. Kad svi završe, rezultati su dostupni za preuzimanje, skripta ih skine i spremi konvertirane fajlove. Kao bonus, batch obrada je iz tih razloga (jer ti odgovor ne treba odmah) 50% jeftinija od sync obrade, šta je idealno za tvoj use case.

Bio sam slobodan iskoristiti nešto svojih resursa, pa ti je moj Sheldon (Opus 4.6) složio ovu skriptu prema mojim uputstvima, znajući o tvom problemu samo koliko si ovdje napisao, pa imaj to na umu.

Skripta.

Unutra ti je sve objašnjeno, pa ako šta nije jasno, pitaj.

I ukoliko želiš, mogu ti procijeniti trošak obrade svih tih skripti, samo će mi trebati više detalja, koliko ih je, koliko KB imaju, kompleksnost, itd.
Dobra stvar kod batch procesuiranja je šta nemaš nikakav subscription kao kod sync modela, već je "prepaid" - staviš unutra para koliko misliš potrošiti i to je to.

Hvala, cekiram

[OuttaControl]

Autor Dule

Hm... ako su skripte imalo kompleksnije, a vjerojatno jesu jer se radi o DevOpsu, i recimo za zadatak portanja Perl u Python 100 skripti, koliko će ih biti funkcionalno iz prve? 10%? Većina takvih zadataka treba po 10ak promptova s testiranjem nakon svake iteracije da skripta "proradi".

Mozda prije, novi modeli su dosta bolji, bas navedeni Opus 4.6, to radi jako dobro i ako je kvalitento strutkuriran prompt, i radi se skriptu po skriptu, a skripte imaju do 1000 linija koda, i ima gdje sam pokrenuti lokalno skriptu ili neki temp environment, jako je dobra sansa da ce napraviti dobro. Ako je samo prevodjenje u pitanju bez novih funkcionalnosti ili slicno. Naravno uvijek bit skeptican i provjeriti što on do drlja tamo

[Neo-ST]

Autor Dule

Hm... ako su skripte imalo kompleksnije, a vjerojatno jesu jer se radi o DevOpsu, i recimo za zadatak portanja Perl u Python 100 skripti, koliko će ih biti funkcionalno iz prve? 10%? Većina takvih zadataka treba po 10ak promptova s testiranjem nakon svake iteracije da skripta "proradi".

Većinu posla batch iz prve obradi odlično. Bilo kakve potrebne korekcije se naknadno mogu slati ponovo u batch, i onda je obujam posla dosta manji jer ne radi više kompletnu obradu iz nule već samo korekcije, pa bude brži i jeftiniji. Nakon toga dobiješ korigirane rezultate koji, ako nisu iz prve bili dobri, budu nakon druge obrade... u 99% slučajeva...
Samo za tu drugu obradu treba onda složiti drugačiji prompt od prvog (u skripti), jer ne radi više isti posao.

[Neo-ST]

Autor tomek@vz

Hvala, cekiram

Jedina stvar koja u skripti netočno piše je "You'll see live progress in the terminal the whole time.".
Naime, kod batch procesuiranja nemaš uvid u progress batcha, pa čisto da ne misliš kako nešto nije u redu ako pokreneš skriptu.
Pisati će ti da je progress 0, a vrijeme će teći, i onda će ti odjednom sve završiti i progress će biti 100%.
Također, procjena troška u skripti je rudimentarna, pa se nemoj oslanjati na nju. Za test pošalji da ti batch odradi najtežu skriptu i u dashboardu/Billing pogledaj koliko ti je skinuo para, to je najtočniji izračun.
Ako si zadovoljan s rezultatom i troškom, znat ćeš isplati li se slati ostatak.

E da, totalno zaboravio napomenuti, kad tek otvoriš račun na platform.claude.com, biti ćeš Tier1 i imati određene početne batch limite, pa ako ti obujam posla pređe mogućnosti tvog Tiera, možda budeš udario u limite i skripta ti vrati neke errore.
Limiti se povećavaju ovisno koliko si "creditsa" kupio, detaljno opisano u njihovim dokumentima.

[tomek@vz]

A new study found a sharp rise in real-world cases of AI chatbots and agents ignoring instructions, evading safeguards, and taking unauthorized actions such as deleting emails or delegating forbidden tasks to other agents. According to the Guardian, the study "identified nearly 700 real-world cases of AI scheming and charted a five-fold rise in misbehavior between October and March," reports the Guardian. From the report:

[mkey]

Autor Ivo_Strojnica

sve apsolutno sam.

Koliko korisnika ima ta aplikacija? Samo pokušavam shvatiti što se događa kada korisnici dobiju ideju kako hoće "nešto" odnosno što se događa kada neki od tih algoritama, koje sam kažeš da ne razumiješ, ne rade onako kako bi trebalo. Ako je uopće moguće utvrditi kako nešto ne radi kako treba. Kako odrediti da nešto ne radi kako treba ako ne razumiješ kako radi? To je vjekovno pitanje na kojeg se pokazalo da je dosta teško naći odgovor.

[tomek@vz]

Ongoing AI datacenter construction has created shortages of DRAM and NAND that manufacturers say will impact prices for years, but memory isn't the only component that datacenters require. Recent reports indicate that manufacturers are also facing shortages of CPUs that might further increase prices.

PC and server manufacturers recently informed Nikkei Asia that they are no longer receiving enough processors from Intel and AMD to satisfy demand. Server and OEM PC manufacturing could face delays, and prices might rise by 10% to 15%.

Companies such as Dell and HP report that delays and shortages have worsened in recent months. One server manufacturer stated that lead times have lengthened from two weeks to several months, and other sources report that delays and shortages could become even more severe in the second quarter of 2026. While Intel's foundries partially insulate it from the problem, AMD must compete with other chipmakers for semiconductors.

> It's not just memory anymore: AI data centers are taking all the CPUs, too

[Ivo_Strojnica]

Autor mkey

Koliko korisnika ima ta aplikacija? Samo pokušavam shvatiti što se događa kada korisnici dobiju ideju kako hoće "nešto" odnosno što se događa kada neki od tih algoritama, koje sam kažeš da ne razumiješ, ne rade onako kako bi trebalo. Ako je uopće moguće utvrditi kako nešto ne radi kako treba. Kako odrediti da nešto ne radi kako treba ako ne razumiješ kako radi? To je vjekovno pitanje na kojeg se pokazalo da je dosta teško naći odgovor.

Trenutno ima oko 722 korisnika.
Nisam reka da ne razumijem, nego napisati ih bi mi trebalo fijuuuu.....Točno znam što treba za određeni izlaz izaći, no opet, kao što kažeš, "iznutrice" same implementacije ne znam.

Moj point je da sam doslovno samostalno arhitekt i manager te aplikacije, koristeći alat za koji neki ovdje govore da je to smeće i laprdalo, i sve to u rasponu od 12 mjeseci.


Još će se početi i pričati da su bicikle bezvezno sredstvo za transport.

[Hamm]

Autor Ivo_Strojnica

Slažem aplikaciju.
Imam složenu Jira like aplikaciju, gdje sam posložija cijeli svoj URS, što aplikacija treba raditi i to sam raspisa.
Imam 3 agenta koji mi prolaze raspisane taskove i slažu mi aplikaciju.
imam 1 agenta koji mi testira i 2 agenta koji mi rade research na temu radi koje radim aplikaciju, da budem dovoljno vague.

Reći ću ti samo jedno:
Potrošija sam 800€, aplikacija je u verziji 7.1 trenutačno i donosi mi fini profit.

To je aplikacija koja ima 10 web servisa, nekih 80 formi, sve složeno, dinamički se popunjava, validacija pitaj boga koliko, složeni model baze od 124 tablica, sa više milijuna podataka, a algoritmi u njoj su nešto što bih istraživa možda 2 godine, a kamoli složija aplikaciju.

In any case, mindblown sam koliko je toga složeno.

jebeno mindblown.


EDIT: i da nadodam, imam 3 razine, dev, test & production. sve održavaju i deployaju agenti.
ja sam čisti manager

Ok ovo je impresivno.

[mkey]

Autor Ivo_Strojnica

Trenutno ima oko 722 korisnika.
Nisam reka da ne razumijem, nego napisati ih bi mi trebalo fijuuuu.....Točno znam što treba za određeni izlaz izaći, no opet, kao što kažeš, "iznutrice" same implementacije ne znam.

Moj point je da sam doslovno samostalno arhitekt i manager te aplikacije, koristeći alat za koji neki ovdje govore da je to smeće i laprdalo, i sve to u rasponu od 12 mjeseci.


Još će se početi i pričati da su bicikle bezvezno sredstvo za transport.

Moj point je da bez razumijevanja načina rada aplikacije, ukoliko nešto pođe po krivu, bude bio popriličan problem. To je istina bez obzira da li aplikacija imala jednog developera/managera i 722 korisnika ili obratno. I općenito vrijedi kako god da je aplikacija napravljena.

Da li ti imaš pregled toga što, kada i zašto botovi mijenjaju? Da li možeš biti siguran da nešto nije promijenjeno?


I da, ovisno o primjeni, bicikla može biti bezvezno sredstvo za transport.

[The Exiled]

Autor Ivo_Strojnica

Moj point je da sam doslovno samostalno arhitekt i manager te aplikacije, koristeći alat za koji neki ovdje govore da je to smeće i laprdalo, i sve to u rasponu od 12 mjeseci.

Tvoj primjer uopće nije sporan ni upitan i općenito takvi i slični primjeri koji se protežu kroz temu nisu nešto negativno, ali nažalost ovo je ogledni primjer načina na koji većina stručLJaka danas koristi AI putem mobilne aplikacije, jer im se prezentira kao sveznajući i superpametan J.A.R.V.I.S. batler koji bez ikakvog dodatnog razmišljanja radi umjesto nas, a to je ono kaj svi zajedno ismijavamo.

[calypso]

Autor Ivo_Strojnica

Trenutno ima oko 722 korisnika.
Nisam reka da ne razumijem, nego napisati ih bi mi trebalo fijuuuu.....Točno znam što treba za određeni izlaz izaći, no opet, kao što kažeš, "iznutrice" same implementacije ne znam.

Moj point je da sam doslovno samostalno arhitekt i manager te aplikacije, koristeći alat za koji neki ovdje govore da je to smeće i laprdalo, i sve to u rasponu od 12 mjeseci.

Još će se početi i pričati da su bicikle bezvezno sredstvo za transport.

Evo da se i ja ubacim...

Moram priznati da mi je ovo jako interesantno sto si napisao i sto si sa njim stvorio... I ocito prilicno dobro baratas sa problematikom i znas sto zelis postici, i znas kako i igras se vec dovoljno dugo sa AIjem da, ocigledno, znas sve zackoljice...

No, jbg, u opisu mog posla je procjena rizika, a meni je koristenje bilocega sto je zapravo one-man-band, ogroman rizik i necu nikad koristiti nesto takvo... Jednostavno, ne mogu bazirati poslovne procese na necemu za sto nema nikakve podrske niti se zna ikakav roadmap za razvoj... Osobno sam koristio dosta aplikacija koje su jednostavno s vremenom prestale sa razvojem i onda sada jako pazim sto koristim... Jedna od glavnih stvari koje me zanimaju kada trazim neki komad softvera za klijente je - podrska... Tako da, ako nema dobre podrske, moze biti i najbolja aplikacija, ali ne zelim ovisiti o jednom covjeku koji to razvija... Tu je recimo velika razlika izmedju Microsoft i Linux aplikacija... Dok iza Microsoft aplikacija stoji jedan Microsoft za desecima tisuca developera i support inzenjera, iza Linux aplikacija stoji hrpa pojedinaca koji samo u jednom trenutku mogu reci da im se vise neda...

Sto se tice laprdala, kod programskog koda moze dati OK rezultate... Racunaj da su LLMovi trenirani na bazi jezika koji ima po 160-180.000 rijeci... A programski jezik ima sto? 100 komandi i prilicno jednostavnu sintaksu? Nes ti problema pisat programski kod za nesto sto je u stanju pisati eseje o nicemu... Problem kod laprdala je sto ga velika vecina koristi umjesto Google Searcha, prvenstveno za trazenje informacija ili provjeru informacija... Znaci, velikoj vecini neukih korisnika je AI zapravo source-of-truth, prvenstveno jer nemaju pojma nacin rada, uz ogroman marketing koji im je takav jedan alat prezentirao kao sveznalicu... Ja imam stvarno porazan rezultat sa laprdalima, gdje sam tocne odgovore dobio u mozda 20% slucajeva kada sam nesto ozbiljnije pitao...


Sto se tice bicikla, da, uzasno je glupo sredstvo za transport preko zime kada pada snijeg... Ili kad pada kisa... Ili kad je hladno... Ili kad jako puse... Ili kad zivis u gradu gdje ima vise uzbrdica nego nizbrdica... Ili kad si bio u speceraju pa moras hrpu vrecica nosit doma... Ili kd moras djecu vozit u skolu/vrtic/na trening... U principu je super prijevozno sredstvo kad nemas nis pametno za obavljat i kad je suncano i toplo (ali ne pretoplo) i samo ti treba za otic na kavu ili pobjec od zene...

[Ivo_Strojnica]

@calypso: hahahahahahaha još nemaš srce biciklista, hahaha
Što se tiče sintakse programskog jezika, nije ti to sasvim točno. LLMovi su trenirani na bazi osnovnih riječi, sve ostale riječi oni pretražuju iz svoje baze, pa samim time imaju zapravo mogućnost puuuuunoo toga pročitati i protumačiti, puno više nego mi.
Njihov problem leži u kvaliteti podataka koje čitaju, jer ne znaju da li su ti podaci dobri ili nisu, no to je opet druga priča. Ukoliko ti njima daješ podatke koji su validirani i jednoznačno točni, njihovo korištenje je super.

Ovo kažem čisto na primjeru iz naše firme, gdje smo digli AI da nam procesira cijeli documentation koji imamo. Digli smo "Sveznalicu" koji nam toliko olakšava rad i baratanje dokumentima da je to nešto prestrašno. Sve ima svoj source, svoj kontekst, primjere, restricted/public/private dijelove, što ovisno o osobi koja ga pita zna dati informaciju.
PREPOROD u firmi, bez pretjerivanja.

@mkey: razumijem što je napravljeno i kako radi. Svaka promjena se logira u bazi, gdje agent upiše što je radio i zašto je to radio. Zapravo odlična stvar za viditi kako određeni model "razmišlja" i u kojem pravcu ide.
Također je i stvar konteksta, LLM ne može držati sve "u glavi", pa mu se s vremenom zapuni kontekst. Ta log tablica je super rješenje za imati i kontekst što veći, a i troši time manje tokena.

Imam potpuni pregled što botovi mijenjaju i zašto mijenjaju, sve zapisano i definirano.
Svaki research koji obavljaju je dokumentiran, testiran i na kraju se validira ispravnost tog researcha, čime se sve svede na "valja/ne valja/inconclusive".

[tomek@vz]

University of Bristol researcher Chris Preist said the findings may be more complicated than they look. "It would be worth doing follow-up research to understand to what extent it's the heat generated from computation versus the heat generated from the building itself," he says. For example, the building being heated by sunlight may be part of the effect.

The findings of the study, which has not yet been peer-reviewed, can be found on arXiv.

Notably, the report says everyone interviewed for the article "expressed overall positive views of AI despite the downsides." In fact, a recent BCG study actually found a decline in burnout rates when AI took over repetitive work tasks

[mkey]

> the increase in temperature was 9.1C

Čisti dokaz klimatskih promjena. K nozi, stoko.

https://arstechnica.com/ai/2026/03/g...icing-quality/

TurboQuant is aimed at reducing the size of the key-value cache, which Google likens to a “digital cheat sheet” that stores important information so it doesn’t have to be recomputed. This cheat sheet is necessary because, as we say all the time, LLMs don’t actually know anything; they can do a good impression of knowing things through the use of vectors, which map the semantic meaning of tokenized text. When two vectors are similar, that means they have conceptual similarity.

So does all this math work? Google says it tested the new algorithmic compression across a suite of long-context benchmarks using both Gemma and Mistral open models. TurboQuant apparently had perfect downstream results in all tests while reducing memory usage in the key-value cache by 6x. The algorithm can quantize the cache to just 3 bits with no additional training, so it can be applied to existing models. Computing the attention score with 4-bit TurboQuant is also 8x faster compared to 32-bit unquantized keys on Nvidia H100 accelerators.

Što god rekli i mislili, čini se kako ova tehnika ima još jako puno mjesta za napredak i optimizaciju. Gdje je inače x6 ili x8 izvedivo maltene preko noći? Ovo samo po sebi bi moglo uzrokovati pucanje balona.

[Bono]

Balon je vec pukao kad se sanznalo da je projekcija potraznje za ramom bila temeljena na pismu namjere, a ne na temelju narudzbe.

Sent from my SM-S931B using Tapatalk

[mkey]

Pa ne bih baš rekao da je puklo. Otvori se poneka rupica svako toliko (npr ukidanje sore) pa se dođe do neke točke infleksije, ali brzo Altman i ekipa odrade turu i nastave pumpati hype.

[Bono]

Igrao se sa parama koje nema i kako sam rekao slao je pismo namjere proizvodacima. AI ce ostati, ali fake potraznja za hardwareom ce nestati.
Ako krene jaca kriza investitori ce traziti prihode, tu ce se trziste procistiti.

Ja pod balonom smatram ovo:

The "AI circle of fake money financing" refers to a self-reinforcing financial ecosystem where major AI technology firms, hardware manufacturers, and cloud providers invest in each other, effectively recycling the same capital to generate revenue and boost valuations
.


Imagine closing your entire consumer memory division because this guy signed a non binding letter that he would buy 40% of the world’s RAM.

Only to have him rug pull 3 months later.

https://fxtwitter.com/Grummz/status/2038715748567408675


The timeline on this is genuinely insane.

October 2025: Sam Altman flies to Seoul and signs simultaneous deals with Samsung and SK Hynix for 900,000 DRAM wafers per month. That's 40% of global supply. Neither company knew the other was signing a near-identical commitment at the same time.

Those deals were letters of intent. Non-binding. No RAM actually changed hands. But the market treated them as gospel. Contract DRAM prices jumped 171%. A 64GB DDR5 kit went from $190 to $700 in three months.

December 2025: Micron kills Crucial, its 29-year-old consumer memory brand, to reallocate every wafer to AI and enterprise customers. The company explicitly said it was exiting consumer memory to "improve supply and support for our larger, strategic customers in faster-growing segments." Translation: the AI demand signal was so loud that selling RAM to PC builders stopped making financial sense.

March 2026: Google publishes TurboQuant, a compression algorithm that reduces AI memory requirements by 6x with zero accuracy loss. Cloudflare's CEO called it "Google's DeepSeek." The entire thesis that AI would consume infinite memory forever just got a six-month expiration date on it.

Same month: OpenAI and Oracle cancel the Abilene Stargate expansion. The $500 billion data center vision that justified the RAM deals couldn't survive its own financing terms. Bloomberg attributed the collapse partly to OpenAI's "often-changing demand forecasting."

MU is now down ~33% from its post-earnings high. Revenue up 196% year over year, EPS up 682%, and the stock is in freefall because the company restructured its entire business around a demand signal that came from non-binding letters and is now being compressed out of existence by a research paper.

Micron bet the consumer division on Sam Altman's signature. The signature was worth exactly what the paper said: nothing binding.


Sent from my SM-S931B using Tapatalk

[Libertus]

Baš čitam jučer na Twitter, da su tri različita developera na temelju tog Google whitepapera i matematike u njemu, napravile kod koji to radi i objavili. Ako je to istina, mogao bi zajedno s ovime što piše Bono biti dobar poguranac za pad cijena. Povećanje cijena je već udarilo na dio potražnje, kao i povećanje cijene prekomorskog prijevoza, avio prijevoza itd.

[tomek@vz]

Yep...cim se prije rijese svog bullshita oko sve te fame bit ce i AI korisniji i produktivniji.

[Neo-ST]

Primjećujem sličan pattern kod igara, npr.
Rade neoptimizirane igre i podižu hardverske zahtjeve (pitanje je da li namjerno) dok netko ne izbaci igru koja izgleda jednako ili čak bolje, a manje je zahtjevna od tih napuhanih AAA naslova.

Već sada po Githubu kruže razne optimizirane verzije LLM modela, tako da ne sumnjam da bi se fokusom na softver moglo riješiti puno hardverskih "problema".