Nu man jau vairāk interesē kodam.
Teiksim ja ir Gitlabā kādi 100 projekti un kādi 30 programmētāji regulāri papildina kodu.
Tad automātiski katrs MR tiek pārbaudīts ar AI un tas pievieno komentārus, analizē kodu utt. Palaiž testus.
ChatGPT un visi pārējie tam neder, jo tad vienkārši atdot kodu.
Viss tas ai ir bulšits, pašlaik. Ja modelis nav trennēts ar tekstu, kas satur atbildi uz tavu jautājumu, tad mazticams ka tas varēs tev kautkā palīdzēt.
Un kautko lokāli darbināt, protams, nav īsti jēgas, ja pietiek ar chatgpt.
Plus nedauz pēc bulšita izklausās. Salasītas kartes pa pasuli, kurām uz doto mirkli nav pielietojuma.
Ja par vienu karti prasa 1188 mēnesī, tad viņi to karti pa gadu nevar atpelnīt pat ar 100% noslogojumu.
Ābolu gadījumā jau iet runa par 512GB katrā klasterī 😂
Ko tu iesākisi ar 8GB? Kautkādus sīkus modeļus palaist? Pilnīgi neinteresanti.
Nu kautkādi 4x h100 jau būs $6.40 stundā, jeb 4-5k mēnesī.
Ja vajag kautkādu Gitlab Pipeline darbināt, tad tāpat nav lēts prieks.
Ja tev dators par īsu, var mēģināt cloud gpu hostingu, (cpu vps būs par lēnu), piemēram šo:
https://vast.ai/
Dators ar vismaz 8gb vram un 32gb ram, jau būs gana labs pat necenzētu bildīšu ģenrešanai, piemēram, qwen image edit - nano banana offline variants.
Ja grib izmēģināt tildes modeli, tad jāņem šis:
https://huggingface.co/bartowski/TildeAI_TildeOpen-30b-GGUF/blob/main/TildeAI_TildeOpen-30b-Q4_K_M.gguf
Vēl interesanti ka vienu klani nekādi nevarēju izskruvētm...izrāvu vītni ar izvilcēju...ok fleksis darbu izdarīja...otrs īzī nonāca .pat smēre bija uz ass...kvadrāta bb atskrūvējās viegli, jo bija plastmasas..gultņi protsms tur bija miroņi...pārejsis viss jau standartiņš, tie acid klaņi izskatās tādu, ka atomkaru izturētu .
Nezinu, es to veco izsistu ārā, nopirktu normālu jaunu hedsetu un nomainītu.
Tas pats headsets nāk 100 un 1 citam Cube. Tie kas tirgo tos velo ganjau uzreiz var pateikt ar ko nomaināms.
Es jau smejos. Un pilnīgi par to, ko Tu uzrakstīji.
Nu jau ne tikai atvaļinātās militārpersonas, bet aktīvā dienestā esošas sāk izteikties, ka Sirski vajadzētu pamainīt.
Nesaku ka, lētāk bet, vai, divreiz trīsreiz dārgāk, par, deviņdesmitniecēm var, šīs, notirgot?
Nav, nav, bet par šito cenu?? Par pieciem simtiem taču var nopirkt kaut ko jau ļoti zolīdu no tā čaļa ar fototapeti pie sienas.