Ce este un LLM? Este un model lingvistic mare, programul din spatele ChatGPT și al altor asistenți AI. Nu „știe” lucruri: scrie, cuvânt cu cuvânt, continuarea cea mai probabilă a textului pe care l-a primit. De aceea poate suna convingător și poate greși în același timp.
Dacă te-ai întrebat cât poți avea încredere în AI când e vorba de cifrele firmei tale, în acest articol îți arătăm ce face un model lingvistic mare, ce nu face și ce înseamnă asta pentru un manager care vrea să-l folosească alături de ERP-ul firmei.
Idei-cheie
Un LLM (model lingvistic mare) este tipul de inteligență artificială care lucrează cu limbajul: un program antrenat pe cantități uriașe de text, care generează răspunsuri prezicând, pas cu pas, cuvântul care urmează (precum ChatGPT, Claude, Gemini). Poate rezuma, redacta, clasifica și răspunde la întrebări. Nu are însă o înțelegere verificată a adevărului și nu cunoaște firma ta decât din ce primește în cerere.
Comportamentul lui se explică prin trei etape. Dacă le înțelegi, nu te mai surprinde nimic din ce face.
Modelul citește o cantitate imensă de text și învață cum se succed, de obicei, cuvintele. Așa „învață” gramatica, termenii de specialitate și o cultură generală. Nu învață însă ce s-a întâmplat ieri în firma ta. Cunoștințele lui se opresc la data antrenării.
Apoi modelul e modelat prin feedback uman, ca să fie politicos, util și prudent. Din asta iese un asistent. Tot de aici vine și un efect pe care merită să-l știi: modelul învață să sune sigur pe el. Un răspuns rostit cu aplomb nu înseamnă un răspuns corect.
Când îi pui o întrebare, modelul vede doar ce se află în cererea respectivă: instrucțiunea ta și datele pe care i le-ai pus în față. Acest spațiu se numește fereastra de context. Conversațiile anterioare nu și le amintește singur. Dacă vrei să lucreze cu datele firmei, trebuie să i le aducă cineva, prin instrumente.
Modelul nu are un „nu știu” de care să se țină cu orice preț. Când îi lipsește informația, scrie ce sună cel mai probabil. Se numește halucinație: un răspuns plauzibil, dar fals.
Un exemplu din ERP: întrebi care este termenul de plată la un furnizor, dar modelul nu are acces la contract. Poate răspunde „30 de zile”, pentru că este un termen frecvent. Sună bine, dar nu are nicio legătură cu contractul tău.
Cercetătorii OpenAI explică de ce se întâmplă: în antrenare și în evaluare, un model e răsplătit mai des pentru că încearcă un răspuns decât pentru că recunoaște că nu știe (OpenAI, De ce halucinează modelele de limbaj). Modelele mai noi halucinează mai rar, dar nu au încetat să o facă. De aceea nu aștepta o versiune „corectată”: planifică soluția în așa fel încât o greșeală să fie prinsă, nu ignorată.
Într-un ERP, un număr greșit spus cu aplomb e mai rău decât niciun răspuns. Cu un „nu știu”, mergi mai departe și verifici. Cu un număr fals, iei o decizie neîntemeiată.
Nu, nu în sensul în care ne imaginăm. Datele tale nu „intră” în model și nu devin parte din el. Când pui o întrebare despre firmă, soluția caută datele relevante în ERP, le pune în cerere, iar modelul le citește și formulează răspunsul. Modelul lucrează cu ce vede în acel moment, iar un sistem bine construit îi arată doar ce are voie utilizatorul să vadă. Cum se leagă tehnic AI-ul de ERP descriem într-un articol separat.
Nu e calculator. Modelul tratează și numerele ca text, de aceea poate greși la sume mari, la multe poziții sau la reguli complicate: un TVA, o valoare de stoc, o rotunjire. De aceea calculul îl face ERP-ul sau un cod, iar modelul îl explică, îl rezumă, îl interpretează.
Nu garantat. Modelul alege cuvintele cu o anumită doză de probabilitate, așa că aceeași întrebare, pusă de două ori, poate primi două formulări sau chiar două răspunsuri diferite. Un raport clasic din ERP îți dă de fiecare dată același număr. De aceea, pentru cifrele de care depind decizii, scriem un raport predefinit sau o interogare exactă, iar AI-ul îl folosim, singur, doar pentru ce are el mai bun: text, rezumat, căutare.
Adevărat: pentru text, merge bine. Rezumi, rescrii, ceri idei, și nimeni nu se întoarce să verifice fiecare cuvânt. Problemele încep când ceri cifre din firma ta. Un asistent de uz general nu cunoaște datele tale și nu știe ce ai tu voie să vezi. Dacă îi dai tabelul, el răspunde după tabel, dar fără regulile tale de business: ce este „client activ”, ce înseamnă „factură scadentă”.
Nu spunem să nu-l folosești. Spunem să-l folosești acolo unde greșeala e ieftină, și să nu-i dai, fără o regulă, tot ce e confidențial.
Un LLM este modelul, adică motorul care generează textul. ChatGPT este o aplicație construită în jurul unui astfel de model, cu o interfață de conversație. Alți asistenți AI folosesc alte modele, dar principiul e același: continuă textul cel mai probabil.
Pentru că scrie ce sună cel mai probabil, nu ce a verificat. În plus, ajustarea cu feedback uman îl învață să fie sigur pe el și util. Rezultatul: poate prezenta o informație inventată la fel de convingător ca una corectă.
De regulă nu. Datele tale nu devin parte din model (decât dacă modelul este ajustat special pe ele, ceea ce rareori e primul pas). Soluția caută informațiile potrivite în ERP, le pune în cererea de moment, iar modelul le citește și formulează răspunsul. Memoria modelului nu crește odată cu datele tale.
Nu este o alegere sigură. Modelul tratează numerele ca text și poate greși la sume mari sau la reguli complicate. Calculul trebuie făcut de ERP sau de un cod, iar AI-ul poate explica rezultatul și îl poate pune în context.
Nu este garantat. Modelul alege cuvintele pe baza unor probabilități, așa că aceeași întrebare poate primi formulări sau răspunsuri diferite. Pentru cifre repetabile folosește un raport sau o interogare exactă.
Un răspuns AI e fiabil când e construit pe datele tale, cu drepturile tale și cu un om care aprobă. Dacă vrei să vezi cum se leagă asta de ERP-ul unei firme ca a ta, Solicită o prezentare.
Pentru mai multe, vezi capabilitățile ERP COSYS și despre noi.
COSYS construiește de 35 de ani, din 1991, sisteme de automatizare a întreprinderii pentru firme locale. Suntem partener Microsoft din 1998, avem certificare ISO/IEC 27001, iar peste 100 de firme locale lucrează cu sistemele noastre. De-a lungul anilor am învățat că o tehnologie nouă poate fi folosită bine doar atunci când îi cunoști limitele. Cu această experiență ne ajutăm clienții să separe ce e util de zgomot în era schimbării tehnologice a AI-ului.




