Am avut plăcerea de a discuta la început de an despre trendurile din 2025. Alături de noi au fost prezenți:
Cătălin Golban - Engineering Director, AI and Computer Vision @ Bosch,
Alexandru Luchiian: Sunt pasionat de IoT și, de aceea, vorbesc de multă vreme despre proiectele mele personale. Proiectele mele au legătură cu mediul înconjurător, cu detectarea poluării, dar și cu Smart City. În ceea ce privește tendințele, dacă ne uităm la tehnologie, am văzut că a apărut DeepSeek, competiție pentru OpenAI. Pe partea de senzori, am văzut că apar senzori mai noi, mai buni, mai ieftini. Dacă ne uităm la mediul înconjurător, acesta este un domeniu unde ar trebui să ne facem probleme. Americanii s-au retras din Pactul de la Paris, ceea ce înseamnă că pe ei nu îi mai interesează gazele de seră, mașinile pe care le conduc, etc. Este important să mergem toți în aceeași direcție pentru a evita haosul. Uitându-ne la dezastrele naturale, observăm că temperatura globală crește de la an la an. Bioxidul de carbon este la cote istorice, acesta nefiind niciodată la 420 de părți pe million. Dacă folosim tehnologia pentru a stopa problemele de mediu, atunci putem spune că vom ajunge pe zero.
Cătălin Golban: Lucrurile sunt foarte dinamice, tehnologic vorbind. Acum câțiva ani, la o conferință, am fost întrebați ce am făcut noi, comunitatea, pe partea de dezvoltare. Atunci spuneam că toolurile sunt prea fragmentate și că avem tooluri care fac același lucru. Acum mi se pare că sunt exponențial mai multe. În mediul de business, simt o accelerare a ritmului de schimbare.
Cum folosiți AI la serviciu?
Cătălin Golban: Spre rușinea mea, eu nu îl folosesc activ pentru a scrie cod, dar cred că depinde de nivelul de maturitate a fiecăruia dintre noi. Pentru POC, poți genera ceva rapid cu AI. Pentru software financiar-bancar, nu cred că îți permiți să nu faci review la partea de cod care se ocupă de tranzacții mai importante. Contează ce cod scrii. Vor conta detaliile fine și eficiența ta ca programator. Noi avem experiență și nu este o problemă pentru noi să facem review la cod. Nu îmi dau seama cum abordează această problemă cineva care nu a avut modul clasic de lucru. Nu îmi dau seama cum vor evolua profesional.
Eu am observat că trebuie să știu ce să îl întreb. Dacă mâine vreau să scriu cod în Rust, voi face o interogare, voi primi o bucată de cod, dar voi rămâne doar la acel nivel. Eu trebuie să citesc ca să înțeleg despre ce este vorba înainte de a întreba AI-ul.
Alexandru Luchiian: Ceea ce mă frustrează pe mine cel mai tare este să fac ceva ce am mai făcut în trecut și să nu meargă. Dacă înainte pierdeam o zi cu o bucată de cod, cu ChatGPT rezolv într-o oră. Vreau să spun că mă ajută la detalii pe care eu le pot trece cu vederea. Cred că ChatGPT este mai prost decât la început. Cred că aceasta a fost și ideea, să atragă, iar apoi să își piardă din potență. Am construit un senzor de calitate a aerului cu foarte multe componente înăuntru. Am vreo 10 parametri pe care îi poate măsura un singur senzor. I-am spus ce folosesc, i-am zis să îmi genereze cod și a produs ceva greșit. Cu toate acestea, dacă îl pui să facă un cod pentru fiecare componentă din senzor pe rând, tu trebuie să pui bucățile cap la cap. Dacă vrei să funcționeze totul în buclă, nu vei reuși. Noi învățăm acum ce să îi cerem și cum să îi cerem. Cu cât îi explicăm mai bine ce dorim, cu atât vom primi răspunsuri mai apropriate de ceea ce avem nevoie. Eu nu îmi pun comentarii în cod, dar ChatGPT face asta pentru mine și e genial. Face munca de chinez bătrân pentru mine.
Cătălin Golban: Colegii mei îl folosesc pe partea de fine-tuning în rezolvarea unor probleme dedicate. Aș vrea să dau un exemplu de probleme din Automotive unde ChatGPT nu este potrivit. Ai un cod și ceri să îți genereze un unit test ca să ai acoperire. De ce nu este bine să faci așa ceva? Dacă în cod există un bug, îmi va genera un test din care va reieși că acel bug este, de fapt, bun. Varianta mai bună ar fi ca, dacă am o cerință, să cer să se genereze cod care testează cerința.
Ce părere aveți de DeepSeek?
Alexandru Luchiian: Nu l-am testat, dar am citit că a fost antrenat cu un volum de date mai mic, iar asta e genial. Este foarte bine că există o competiție între giganți. Eu folosesc Edge Impulse, o platformă care poate să îți înglobeze un model ML mic pe un dispozitiv de-al tău, inclusiv un Arduino. Mi se pare genial și cred că acesta este viitorul. Vom putea pune dispozitive de recunoaștere sau identificare la orice și să le antrenăm foarte simplu. Am putea detecta prezența animalelor sălbatice sau a focului în pădure și să primim alarma de incendiu de la distanță. Poți face acest lucru cu un dispozitiv ce costă între 15-30 de dolari.
Cătălin Golban: Avem momentan multe LLM-uri. Unele modele sunt mai bune pentru anumite sarcini decât altele. DeepSeek surprinde din mai multe motive. În China au restricții și nu ar putea să antreneze în timp scurt și relativ ieftin o rețea de genul acesta. Au căutat o soluție și poate că au găsit mijloace de antrenament mai eficiente. Poți antrena pe 4 biți, deci ești mai eficient. Prin urmare, o ipoteză este că au investit foarte mult în training eficient. Se știe că tot ce fac ceilalți e floating point și, doar după aceea, se fac optimizările. Cu o discretizare foarte bună poți obține rezultate mai bune dacă știi să antrenezi. Apoi, în China există talent specializat în AI. Metodele pe care le-au folosit sunt similare cu cele folosite pentru a obține embedded AI. Nu e clară metodologia. Una este să antrenezi de la zero. Alta este să faci fine-tuning. O altă ipoteză este că au folosit knowledge distillation. Dintr-o rețea învață altă rețea. Au luat ChatGPT și au început să facă distilare.
Cum va evolua domeniul Automotive?
Cătălin Golban: Totul este accelerat. Este din ce în ce mai simplu să faci software pentru Automotive. Se poate itera mai mult. În Automotive există încă tendința de centralizare. În trecut aveam domenii, e.g. infotainment. Tendința este ca domeniile să fuzioneze și să avem un computer în vehicul, unul conectat la senzori, la vehicul, la spațiu virtual. Acest lucru presupune că poți face mai ușor ca domeniile să fie interoperabile. E o schimbare de arhitectură și o mai bună comunicare între domenii. Totul e influențat de AI. Avem nivelul 2 în care se poate conduce autonom pe autostradă. Avem nivelul 3 cu low-level speed. Mai există o tendință. Sunt mulți producători de mașini care vor soluții mai ieftine pentru aceleași funcționalități premium. Cu camera ieftină cu care detectezi urși, poți detecta și pietoni, iar apoi frâna automat.
Alexandru Luchiian: Nu e domeniul meu, dar aș dori să adaug ceva referitor la Automotive. O Tesla a evitat un pieton aflat pe carosabil, dar, făcând asta, a intrat într-o mașină de pe sensul opus. Trebuie să evoluăm ca societate. Asigurările nu s-au putut scoate una pe alta, iar șoferul și-a reparat mașina pe banii lui. Și sistemul de asigurări ar trebui să evolueze. Să ne uităm la incendiile din California. Tot sistemul de asigurări s-a dus la vale acum trei ani. Cartierul care a ars nu era asigurat. Asiguratorii nu mai doreau să asigure case aflate lângă pădure. Similar, asigurările ar trebui să ia în calcul că, dacă mașina salvează viața unui om, dar intră într-un stâlp pentru a salva acea viață, atunci asigurarea ar trebui să acopere acest risc. Pe partea de IoT, tendința este de a cupla IoT cu AI. Dacă ne uităm la electrocasnicele construite în ultimii doi ani, putem observa că toate sunt conectate la Internet. Viața noastră se va tehnologiza. Casele vor deveni mai inteligente instalând un panou și conectându-l la multe altele. În direcția senzorilor remote, avem 5G și wireless. Când vom trece la cartele virtuale, nu fizice, vom face iarăși un pas mare. Eu cumpăr și testez tot ce apare pe piață. Acum ele sunt ca niște piese de puzzle pe care trebuie să știm cum să le folosim pentru a rezolva probleme.
Vom rezolva problema selectării gunoaielor?
Alexandru Luchiian: Am monitorizat foarte mult timp Pata Rât. Acolo se poluează totul din jur. A doua groapă de gunoi a Clujului se umple foarte repede și ea. Suntem un oraș mare și, în cei 6 ani de când mă ocup de probleme de mediu și de când merg în școli să le vorbesc copiilor despre mediu, am învățat că problema este la rădăcină, la educație. Să luăm copiii cu noi la ecologizare, să îi punem să care niște saci, să vadă ce înseamnă să arunci o mizerie pe jos. Trebuie să vorbim în cercurile noastre despre aceste aspecte. Ideea trebuie să pornească de la spiritul nostru civic. Eu stau în spate la Grand Hotel Italia. Acolo, avem câte o pubelă pentru orice, dar nu pentru compost. Eu pot, privat, să rog să se strângă compostul contra cost, dar, ceea ce eu îmi doresc este ca primăria să strângă compostul. Va fi o competiție între companiile care au amprenta de carbon redusă.
Ce vrei să faci mai mult în 2025? Să citești mai mult? Să ai mai mult timp pentru hobby-uri?
Cătălin Golban: Îmi place foarte mult ceea ce fac. Nu simt nevoie să fac o separare între ceea ce fac și hobby. Nu simt nevoia să am timp să citesc mai mult. Aș dori ca 2025 să fie ca 2024. Am doi copii cu care îmi place să îmi petrec timpul. Le place fotbalul, deci îmi place și mie. Călătorim, ieșim, ne plimbăm, facem un grătar.
Alexandru Luchiian: Și eu am doi copii și mi-aș dori mai mult timp cu ei. Anul acesta sunt implicat în mai multe proiecte civice. Am ales să pun senzori de calitate a aerului în școli și să fac educație în școli pe această temă. Pe lângă proiectele mele, am și un serviciu. Nu mă plictisesc. Am început să trișez. Nu citesc, dar ascult audio books.
de Ovidiu Mățan
de Ovidiu Mățan
de Ovidiu Mățan
