View Single Post
Staro Jučer, 16:57   #208
calypso
Premium
Moj komp
 
calypso's Avatar
 
Datum registracije: Oct 2002
Lokacija: Zagreb/Rijeka
Postovi: 2,165
Citiraj:
Autor tomek@vz Pregled postova
Nije isto - svjestan si toga. Ne sjecam se da je nastajanje interneta kakvog poznajemo imalo takve negativne popratne implikacije kao sto to ima trenutno sva ta fama oko AI-a. Na primjer: guralo se godinama manja potrosnja struje i opcenito manji utjecaj na okolis da bi AI probio doslovce kroz noc sve sto je dosad po tom pitanju napravljeno po pitanju potrosnje (vode i struje na primjer). A onda jos dolazi i tema sa jebenom nestasicom cipova koja , ako se oduzi kako se predvida - bi mogla imati puno gore implikacije, barem za segment consumer trzista elektronikom (i ne mislim samo na IT sektor).
Problem je sto je cijeli AI baziran na neuronskim mrezama koje jedino sto rade je number-crunching... Zato su njima GPUovi dusu dali jer imaju brdo ALUova... Pravi problem su LLMovi jer su oni ti koji trose brdo resursa... Svi ostali tipovi AI trose drasticno manje energije od LLMova... Tako da, ako nesto treba optimizirati, to su LLMovi... Postoje vec neke naznake da se ide u tom smjeru, recimo, mene je odusevio HRM koji je na bazi 1000 uzoraka kod treniranja postigao prilicno zavidan rezultat na onom ARC-AGI testu... Imas ovdje ukratko objasnjeno sto i kako radi...

https://www.linkedin.com/posts/leadg...23085824-2QVI/

I sad, ako se uspiju razviti modeli koji ce biti energetski efikasni, onda cemo dobiti nase chipove, memorije i sve ostalo natrag...


Iako, mene ovo sada razdoblje veseli jer ce mozda NAPOKON programeri (ili AI) poceti optimizirati je*eni kod! A ne da ispadne da gledam kako mi iscrtava prozore po ekranu na Win11, sto sam zadnji put vidio valjda na Win 3.1...
__________________

GMKTec K8Plus
AMD Ryzen 7 PRO 8845HS, 3.80-5.10GHz 8-core
64GB DDR5-5200 (2x32GB), quad-channel
NVMe1 - 512GB Micron 3400, PCI-E 4.0 x4
NVMe2 - 512GB Samsung PM981, PCI-E 3.0 x4
AMD Radeon 780M integrirana grafika


2x EIZO EV2336WFS3-BK
23" 1920x1080 IPS


Dell Latitude 7390
intel i7 8650U, 1.90-4.20GHz, 4-core
32GB DDR4-2666
512GB Samsung PM981a, PCI-E 3.0 x4
intel UHD 620
13.3" FullHD IPS Touchscreen


calypso je offline   Reply With Quote