Experts panel: Craftsmanship și strategia dezvoltării de produse

Ovidiu Mățan
Fondator @ Today Software Magazine

Cum ne raportăm azi la ideea de Craftsmanship din perspectiva folosirii IA și care sunt noile strategii de dezvoltare de produse sunt câteva din problemele dezbătute împreună cu invitații noștri:

• Adrian Moldovan - Head of AI & Automation Solutions,

• Alin Turcu - Data & AI Engineering Director @ Cognizant,

• Marian Gradea - Development Manager @ Banca Transilvania.

Ovidiu Mățan: Vă invit să spuneți câteva cuvinte despre voi

Marian Gradea: Rolul meu este de Lead sau Dev Manager, având o paletă largă de responsabilități: People Leader, Development, Design, Coding.

Alin Turcu: Conduc divizia de Data & AI din Cognizant. Mă ocup de soluții, construirea de echipe, monitorizarea proceselor de lucru, livrare, optimizarea de procese în cadrul proiectelor.

Adrian Moldovan: Conduc echipa de automatizare, o echipă de chatboți. Mă ocup de consultanță de business în zona IA. Dacă mi-aș întreba agentul, mi-ar spune mai multe despre proiectele de care mă ocup.

Cum se schimbă managementul, acum că avem IA? Mai avem Excel?

Adrian Moldovan: Excelul a rămas. Facem dashboarduri frumoase cu IA, îi cerem IA-ului să facă rezumate, dar Excelul a rămas. De acolo ne vin informațiile.

Alin Turcu: IA ajută la analiza de date și la sumarizarea de date. Putem construi agenți care să exporte date din Jira sau din dashboarduri, astfel încât să vedem tipare și anomalii. Am început să implementăm agenți și în zona de staff-ing. Avem foarte multe solicitări de la parteneri și ne folosim de agenți ca să vedem ce skill sets sunt necesare. Ne ajută la o analiză inițială. Ne ajută foarte mult și în ceea ce privește soluțiile de RFPs. Când avem foarte multe de gestionat, agenții ajută la interpretare și documentare.

Oamenii mai scriu cod?

Alin Turcu: Da, scriu. În zona de arhitectură se scrie cod destul de puțin. Bottleneckul nu mai este la scris cod, ci la review, testare și la validare. Trebuie să devii un validator obsesiv, să ai grijă să nu fie ceva greșit. Programatorii, deși au tooluri, ignoră partea de testare, chiar și acum. Când vrei să automatizezi tot, de la generare de specificații, cerințe, cod, teste, review, deployment etc., pentru un proiect complex, ieși mult mai scump decât cu o echipă de dezvoltare. Cele mai noi modele consumă foarte multe tokenuri. Depinde cine plătește. Uneori banii sunt mai importanți decât timpul. Avem nevoie de human-in-the-loop.

Cum vezi partea de costuri, Marian. Alin vine dintr-o companie de servicii, tu vii dintr-o companie de produs.

Marian Gradea: Dacă te uiți la preț per capita (om + tools), costurile sunt mari. Pentru noi contează time-to-market. Costurile devin componentă operațională. Cu ajutorul IA-ului, livrăm de 2 sau 3 ori mai repede. Avem un proiect pe care, dacă l-am fi început acum un an, nu l-am fi putut livra la fel de repede ca acum, cu toți oamenii pe care îi avem. Poți explora mai mult. Poți să te joci mai mult. Înainte, când începeai să scrii ceva, era mai greu să schimbi direcția, structura, arhitectura.

Adrian, folosiți Claude, OpenAI? Care a fost cel mai mare cost cu un programator într-o lună?

Adrian Moldovan: În afară de Google cam toate, orice vine prin AWS sau Azure. Pentru scris cod, folosim Opus. Pentru soluții mai simple folosim OpenAI. Nu urmărim costuri per programator.

Avem un set de abilități sau certificări pe care să le aibă un programator în era IA? Sau momentan ne bazăm pe cercetarea și experimentarea pe care o face fiecare programator?

Adrian Moldovan: Suntem în zona de cercetare. La nivel de BT, avem un framework la care am aderat, deoarece suntem limitați de legislația UE.

Cum se schimbă ideea de craftsmanship? Cum rămâi competitiv? Cum îți educi colegii?

Adrian Moldovan: Mai avem juniori, dar ei pot trece foarte ușor în zona de mid-. Trebuie să fie mai critici, să scrie prompturi bune, să ghideze IA-ul. Avem seniori care vor să își scrie codul. Juniorii caută varianta mai scurtă. Seniorii sunt mult mai critici și analizează mult mai mult situațiile.

Alin Turcu: Una este problema de analiză a cerințelor. Aici, craftsmanship va însemna cum poți codifica contextual un business care să ghideze LLM-ul. Avem acum chiar și un domeniu nou - Context Engineering - care analizează domeniul unei companii și codifică contextul, astfel încât acesta să poată fi folosit de toate LLM-urile. Apoi, vine partea de dezvoltare care trebuie să folosească acest knowledge layer. Craftsmanshipul ar fi să nu reinventezi promptul de fiecare dată, ci să faci o librărie reutilizabilă. Avem deja un playbook, deoarece proiectele se mai și repetă. Toți folosim IA-ul, dar craftsmanship înseamnă să îl folosești cât mai eficient.

Ai un programator care iubește să scrie cod, dar mai și IA-ul care scrie cod. Ajungi să scrii cod, dar al cui cod ar trebui să primeze?

Alin Turcu: Aici intervine partea de craftsmanship. Orice construim, construim astfel încât să nu fie afectat de ecosistemul din jur. În echipe cu oameni și agenți, trebuie să dăm taskuri foarte focusate agenților. Partea de Context Engineering este foarte importantă la început de proiect. Agentul trebuie să știe ce să folosească și cum să folosească. Sunt multe feluri de scrie cod, dar IA-ul trebuie ghidat să scrie cod într-un anume fel.

Cât de mult afectează IA ideea de prototyping din bancă?

Marian Gradea: Este cu două fețe. Unii oameni vor veni și îți vor arăta cât de multe au creat cu un singur prompt. Ulterior, vor veni inginerii care vor spune cât de ușor este să creăm prototipuri. Vine apoi multă muncă de convingere cu clienții că lucrurile nu sunt atât de clare și de ușoare. IA-ul ajută businessul să experimenteze și să vadă dacă o idee se poate pune în practică sau nu. Înainte, pentru a face un POC era nevoie de o echipă.

Agile se mai întâmplă? Vă mai întâlniți?

Marian Gradea: Da. Cu siguranță. Jira, de exemplu, vine cu foarte multe tooluri care îți permit să îți măsori velocitatea și nu numai. Avem procese și ceremonii Agile.

Securitatea este un aspect foarte important. Cum influențează IA securitatea produselor, mai ales în sectorul bancar?

Adrian Moldovan: De securitate nu mă ocup eu, ci colegii mei, dar aceasta este o prioritate.

Cum va arăta lumea de mâine, sub influența IA ?

Adrian Moldovan: Îl va schimba pe programatorul de azi. Se va face mai mult review.

Alin, ce părere ai despre legătura dintre IA și burnout? Mie mi se pare că se lucrează mai mult și că există și mai multe responsabilități.

Alin Turcu: Cred că se mai folosește și termenul AI vampire dacă ajungi cumva la un ciclu în care îți petreci ore întregi cu IA-ul pentru că nu obții ce dorești. Va exista o presiune din ce în ce mai mare asupra velocității. Sunt clienți care doresc să li se livreze ceva zilnic. Ne vom obișnui și cu acest lucru. Clienții sunt dispuși să plătească mai mult pentru a primi zilnic ceva care să îi facă competitivi. Companiile nu se mai uită la ore, ci se uită la funcționalitățile livrate. Ca țară ne putem poziționa competitivitatea, livrând nu ore, ci soluții chiar și cu juniori.

Vor fi mai puțini programatori anul viitor?

Alin Turcu: Este clar că, având același buget, tu poți implementa mai multe lucruri. Care este strategia companiilor? Poți implementa același lucru cu un buget mai mic? Sau vrei cu același buget să implementezi următorul lucru inovator? Dacă vei opta pentru buget mai mic, atunci vor fi mai puțini programatori. Dacă vrei să optimizezi și să faci mai mult, atunci vei reinvesti în businessul tău și în oameni.

Vor apărea multe start-upuri?

Marian Gradea: Au și apărut deja. Ține de mindset, nu de a fi sau a nu fi programator.

Alin Turcu: Competiția este mai mare. Dacă acum câțiva ani erai în competiție doar cu cei care știau să scrie cod și să facă un UI frumos, acum toți știu să facă acest lucru. Ideea este mult mai importantă decât abilitatea.

Aveți proiecte AI native?

Marian Gradea: Da, lucrăm cu această paradigmă. Sunt proiectele cele mai frumoase din care am învățat cel mai mult. Am văzut ce înseamnă să gestionez bine tokenii, să generez documentația atât pentru IA, cât și pentru oameni, să cerem funcționalități mici, nu implementări complete.

Folosiți modele interne?

Marian Gradea: Avem câteva inițiative.

Alin Turcu: Și noi avem câteva inițiative, dar în zona de proiecte mai mici. Folosim acele Small Language Models nișate pe anumite domenii, cum este cel medical. Pentru o companie globală cum este Cognizant este mult mai avantajos să faci un parteneriat cu Microsoft care face o ofertă preferențială. Avem un proiect de vaccinuri unde simulăm lanțuri de ADN sau compatibilitatea vaccinurilor. Avem proiecte unde facem predictive maintenance la echipamente și laboratoare.

Adrian, crezi că va fi nevoie să avem mai mulți manageri, acum că oamenii vor deveni mult mai productivi?

Adrian Moldovan: Va fi nevoie de manageri, dar nu de mai mulți manageri. Noi ne gândeam să facem un agent care să gestioneze una-două persoane și să le dea taskuri.

(întrebare din public) La interviuri, cât accent puneți pe partea de cunoștințe de prompting? Obișnuiam să resping candidați despre care simțeam că folosesc IA-ul. Azi nu aș mai face-o.

Marian Gradea: Sunt sceptic în legătură cu oamenii care folosesc IA-ul. Vedeam că unii citeau răspunsurile date de IA. Am avut oameni care dădeau răspunsurile cu IA-ul. Am avut oameni care foloseau excesiv IA-ul, adică aveau cunoștințe minimale, dar nu știau să rezolve probleme.