Cum să folosești AI pe laptop-ul personal și de ce vei vrea să faci asta

Dacă ești pasionat de tehnologie atunci știi că în anul 2024 am avut o explozie de dispozitive cu AI: indiferent că e vorba de telefoane, laptop-uri sau gadgeturi dedicate pentru asta. Am văzut tot mai mulți producători care vorbesc despre nuclee NPU, putere AI calculată în TOPs (trilioane de operațiuni pe secundă) și așa mai departe. 

Noile laptop-uri, de exemplu, vin cu procesoare care au nuclee NPU pentru sarcini de inteligență artificială: ce pot include blurarea fundalului într-un call sau generare de imagine pe dispozitiv. Dacă aceste lucruri ți-au stârnit interesul află că nu ai nevoie de cel mai nou laptop cu AI ca să folosești unelte AI.

Poți să-l folosești cel pe care-l ai deja, ba chiar laptop-ul tău actual s-ar putea potrivi mai bine la sarcini AI. Un procesor de laptop cu AI are un nucleu NPU cu o putere de cam 50 TOPs, însă placa ta video din laptop are o putere și mai mare. De exemplu, RTX 4060 are 242 TOPs. Chiar și o placă video RTX 2060 din 2018 are 57 TOPs. 

Deci dacă ai un PC sau laptop cu o placă video poți să beneficiezi de funcții AI. Astfel poți folosi AI pentru a genera imagini sau clipuri video într-un mod mai eficient și mai rapid. 

AI local - ce este și cum îl folosești

AI local se referă la utilizarea AI pe un dispozitiv local, în special pe un laptop sau pe un desktop PC. Cel mai des întâlnit acum sunt tot felul de unelte online cu generative AI care trimit informațiile tale (fie poze, text sau clipuri video) în cloud pentru a fi procesate apoi tu le poți descărca. Când rulezi un program AI local toate datele sunt procesate pe PC,, fără a fi nevoie de conectarea la o rețea sau la un server extern.

Care sunt beneficiile utilizării AI Local?

Mai mare securitate: Prin utilizarea AI local, datele și informațiile sunt mai securizate, deoarece nu sunt trimise pe internet.

Mai mare eficiență: AI local permite utilizarea AI în mod eficient, fără a fi nevoie de conectarea la o rețea sau la un server extern, deci nu mai depinzi de viteza de internet

Mai mare autonomie: AI local permite utilizarea AI în mod autonom, fără a fi nevoie de conectarea la o rețea sau la un server extern.

De ce trebuie să ții cont când vrei să folosești unelte AI pe laptop este faptul că vei avea nevoie de spațiu liber pe SSD pentru a descărca fișiere, baze de date și așa mai departe înainte de a le pune în funcțiune. 

Ce putem face cu AI pe un laptop

Pentru că am trecut puțin prin teorie cred că este cazul să vorbim mai concret despre cum poți să folosești AI pe un laptop. Eu am luat Pc-ul din dotare, adică MSI Pulse 15 B13V, dotat cu o placă video NVIDIA GeForce RTX 4070, procesor Intel Core i7-13700H, 32 GB RAM. 

M-am uitat în mai multe direcții despre cum pot folosi AI-ul și am găsit mai multe unelte online, iar majoritatea sunt accesibile și oamenilor fără prea multe cunoștințe tech. Majoritatea aplicațiilor descrise în continuare utilizează placa video pentru a crește timpul de procesare.

Am folosit aplicația Krita de editare de imagini cu un plugin pentru generare de imagine cu ajutorul Stable Difussion. Am folosit aplicația Jan și diferite LLM-uri (modele mari de limbaj) precum Llama 3.1 pentru a crea texte, scrie cod, am folosit AI-ul Final 2x pentru a face upscaling la imagini de rezoluție mică, am folosit Pinokio și CogStudio pentru a genera video pornind de la un simplu text și așa mai departe.

Am intrat în lumea asta a AI-ului și am descoperit că e mai ușor ca niciodată să lucrezi cu inteligența artificială pentru a face tot felul de lucruri de care ai putea avea nevoie. Acest material nu este un review al diferitelor unelte pe care le-am folosit, ci mai degrabă să-l interpretați ca un ghid cu exemple despre și cum tu ai putea să le folosești pe laptop-ul tău în funcție de ce ai nevoie. 

Generare imagini cu AI

Krita este o aplicație gratuită pentru editare de imagini, dar are și o secțiune de plugin-uri și am instalat un plug-in de generative AI care folosește Stable Diffusion pentru a crea imagini pornind de la diferite descrieri. Am trei stiluri în care imaginile pot fi generate: cinematic photo, comic & anime și digital artwork

Am creat mai multe imagini folosind acest plugin și în funcție de cât de bun este promptul (indicațiile sau descrierea) cu atât AI-ul poate face o treabă mai bună. Ca și viteză, o imagine a fost generată în cam 2 minute, dar depinde de la caz la caz și se folosește GPU-ul pentru a procesa asta. Funcționează doar pe un PC cu placă video dedicată, deci nu merge pe laptop-uri doar cu placă video integrată. 

Tot pentru a genera imagini am folosit InstantID cu aplicația Pinokio și astfel am reușit să creez diferite imagini cu mine pornind de la o fotografie. Imaginile create sunt de calitate înaltă, detaliate și cred că au ieșit bine, însă și timpul de redare a fost destul de lung, cam 13 minute pentru o imagine.

 [*/gallery/Imagini generate AI cu Kryta/*]

Upscaling de imagine cu inteligență artificială

Cu Final 2x poți să faci upscaling la imagini la o rezoluție mai mare. Aici rezultatele nu au fost cele mai bune, dar poate funcționa în anumite scenarii. Dacă ai o imagine mică și ai nevoie de ceva upscaling poți încerca acest program.

 

Generare video cu AI

Pinokio este o interfață de unde poți instala tot felul de programe AI pe care să le folosești local. De acolo mi-au atras atenția CogStudio, ce promite să realizeze video din descrieri și LivePortrait, care animează imagini. 

Cu CogStudio am creat două clipuri video de câte șase secunde fiecare. Primul este unul cu o mașină de curse care merge pe un drum de țară, iar al doilea este cu un personaj feminin Anime care cântă la karaoke într-un bar. Clipul cu mașina a fost realizat în 17 minute folosind GPU-ul în mod constant la 90-100% și al doilea clip a fost realizat în 10 minute. Cu laptopul setat doar pe placa video integrată nu a funcționat. 

Propriul ChatGPT - generare text cu AI

Dacă îți place să folosești ChatGPT atunci poate o să fii încântat de faptul că poți face un astfel de AI capabil de a genera text, opinii și așa mai departe direct la tine pe laptop. 

Am instalat programul numit Jan, care funcționează ca o interfață de unde poți instala tot felul de LLM-uri, și de acolo am descărcat Llama 3.1, LLM-ul dezvoltat de Meta. Cu acesta poți vorbi, îți poate genera texte, rețete, programe de fitness, să scrie cod pentru un chatbot și cam orice ai vrea să-l întrebi și pe ChatGPT. Ca să-l folosești pe acesta nu ai nevoie de placă video dedicată, dar sigur vei beneficia de puterea acesteia. 

L-am pus pe LLama 3.1 să-mi scrie un articol despre cele mai mari reușite ale omenirii cu exemple și a făcut-o în 2 minute și 40 de secunde, apoi să-mi scrie un articol cu cele mai mari eșecuri, dar de data aceasta am activat placa video a laptop-ului și video a crescut considerabil la doar 47 de secunde. 

Aceeași diferență în rapiditate procesării s-a văzut și în cazul scriei unui cod pentru crearea unui chatbot. Cu placa video activată a fost realizat în câteva zeci de secunde, fără a trecut două minute. 

Cum îți instalezi propriul tău asistent AI pe laptop

Ce mai poți face este să-ți faci propriul tău asistent AI care poate căuta poze, documente sau chiar informații din PDF-uri pentru tine. Cu ChatRTX de la NVIDIA poți face asta. După ce instalezi aplicația ai LLM-ul Mistral preinstalat și pe acesta îl poți folosi pentru generare de idei, texte etc. Însă poți alege ca bază de date un folder de la tine din PC unde ai documente sau poze. Apoi îl poți întreba ceva ce se regăsește într-unul din documentele Word, iar asistentul poate extrage informația pentru tine. Sau îți poate găsi imagini cu bărci, pisici sau cu orice fără să-ți mai pierzi vremea: doar îi spui să-ți arate toate imaginile cu pisici din folder și ți le afișează.

 

Generare voce cu AI

Bineînțeles, poți genera și audio cu AI și cu ajutorul unui progrămel numit OpenVoiceAI2 am introdus primul paragraf din acest articol apoi a fost citit de către AI în limba engleză. Ai putea să introduci texte întregi pentru a fi citit de către AI apoi integrate într-un site pentru cei care vor să-și primească astfel informația. Durează doar câteva zeci de secunde pentru a genera un astfel de audio. 

Nu ai talent la desen? Nicio problemă: desen cu AI

Toată lumea mă știe ca anti-talent la desen, dar în era AI chiar și eu pot realiza tablouri care i-ar face pe unii invidioși. Nvidia Canvas este un program care te lasă să te distrezi și cu ajutorul plăcii video și AI-ul poate interpreta desenul tău foarte simplist și-l poate genera mult mai detaliat și în mai multe stiluri și asta și în timp real. Desenzi unde ai vrea să fie apă, pământ, iarbă și așa mai departe și AI pe măsură ce are mai multe puncte de referință începe să adapteze desenul la intenția ta. 

Este o aplicația al cărui adevrat potențial se vede în mâinile unei persoane mai talentate la desen, la ilustrație și astfel ai putea genera o imagine fix cum vrei tu mult mai rapid. 

Cum să folosești generative AI pentru tine

Concluzia mea este că nu trebuie să-ți fie frică de AI, cel puțin nu acum și că ar trebui să îmbrățișăm mai mult toate lucrurile pe care le putem face cu aceste unelte deoarece ne pot ajuta în viața profesională, dar și în hobby-urile noastre.

Am creat imagini statice, imagini în mișcare, text și chiar audio folosind tot felul de unelte AI direct pe laptop, fără să știu programare, să fiu nevoit să fac tot felul de lucruri complicate. 

Poate nu toate rezultatele sunt impresionante, dar aceste programe se îmbunătățesc constant și devin din ce în ce mai accesibile și mai ușor de folosit.

Pe scurt, dacă vi s-a părut interesant ce am făcut vă recomand să instalați Krita și plugin-ul de generative AI, Jan pentru lucru cu LLM-uri și Pinokio și să folosiți secțiunea Discover pentru AI pe diferite categorii. Iar dacă nu aveți un PC suficient de bun pentru asta atunci poate fi cazul să faceți un upgrade la placa video sau să căutați un laptop cu o placă video dedicată pe care o poți folosi și la muncă, la AI, dar și la joacă. 

Recunosc că atunci când am început să fac research pentru acest subiect nu credeam că sunt atât de multe lucruri de făcut cu AI pe laptop și nici nu credeam că o să funcționeze atât de bine, însă sunt extrem de multe unelte, iar timpi de procesare variază de la o sarcină la alta. 

Mie mi-a plăcut această incursiune în lumea AI și cred că dacă și tu lucrezi în mediul digital, creezi conținut sau ești curios ar trebui să te uiți în direcția asta deoarece s-ar putea să te ajute să produci un conținut mai bun și mai rapid. Și nu ai nevoie decât de un laptop și inițiativă.