Citiraj:
Autor dada-as
Hey. Evo ja krenuo runat par tih umjetnih inteligencija. mene trenutno zanima text i pisanje textova. Igram se sa GPT-2 kojhi radi na tensorflow.
E sad ja sam svasta isprobao i trenutno sve radim na clouderizer i google colab. najeftinije i izgleda najbolje.
Pokusao sam runat od doma na ubuntu koristeci 1060 nvidiju i tensorflow mi je papo memoriju i nije to bas islo, e sad mozda sam nesto pogrijesio, mozda sam morao smanjiti nekako koristenje memroije, ako tko zna ili je runao tensorflow na nekim stolnim racunalima neka javi kako to radi, jel stabilno i kako ga ustabiliti?
Inace sam duze vrijeme bavim robotikom i automatizmom, ali ovo machinelearning je daleko novi nivo.
Sto ti radis i sto pokusavas napraviti?
|
Ja ti radim sa image i video processingom za sad. Odnosno u konačnici detekcija objekata sa slike i videa. Za sad sam radio modele za licence plate detection koji nam je kao nekakav prezentacijski primjer, te prepoznavanje stanja brojila(plinska, elekt. i sl.) sa slike(to nam je nedavno krenulo u produkciju).
Koristimo u pozadini konvolucijske neuronske mreže(CNN) i to implementacije u Darknet(YoloV3) ili Tensorflow(SSD).
Što se tiče text processinga nisam do sad ništa radio oko toga, al u uvodnom postu sam stavio link na fast.ai video tutoriale(u pozadini nije Tensorflow, već fast.ai + pytorch).
U 4. videu(Part 1) ti lik radi sa NLP(natural language processingom) i koliko se sjećam radio je primjer sa komentarima sa IMDB-a. Odnosno napravio je model koji mu je prepoznavao koji od komentara su pozitivni, koji negativni na temelju text-a pa ako te zanima tako nešto pogledaj.
Što se tiče memorije moguće da ti 1060 grafa nije dovoljna(pogotovo ako je verzija sa 3GB memorije). Meni za nekakav normalan rad sa image i video processingom treba min grafa sa 6GB memorije. E sad, kakva je situacija sa obradom texta nemam pojma.
Ono na što sam ja mogao utjecat što se tiče memorije(da mi training/detekcija ne puca) je smanjivanje batch size-a u konfiguracijskim file-ovima kod treninga/detekcije. Batch size u mom slučaju označava broj frame-ova/slika koji se obrađuju u jednoj iteraciji. Tako da si pogledaj jel imaš kakvu alternativu za batch size kod text processinga. Moguće da isto tako možeš smanjiti nekakvu vrijednost prilikom traininga, a da ti grafa to onda istrpi. Training/detekcija će biti malo duži u tom slučaju, al barem radi.
Rentanje na cloudu je super, al cijene su jebene barem dok sam ja gledao prošle godine. Sad u firmi imamo 2 1070Ti grafe sa 8GB i s tim se već može normalno radit.