Imagine: @ionut.stefan.92ish
TL;DR: Nu. Nu înțelege.
Disclaimer: Aș dori să precizez de la început că nu sunt nici cercetător în domeniul inteligenței artificiale (IA) și nici nu am foarte multă expertiză formală în acest domeniu. Scriu acest articol, pe de o parte, ca o modalitate de a clarifica multe dintre aceste concepte pentru mine însumi și, pe de altă parte, pentru a adăuga la vocile care ne avertizează împotriva antropomorfizării IA, precum și împotriva capcanelor pe care le implică încrederea oarbă în ea. Dar nu ar trebui să iei de bune informațiile prezentate aici (așa cum, în general, nu ar trebui să iei de bune informațiile pe orice temă fără a avea măcar o vagă idee despre care este consensul în această privință). În schimb, tratează acest articol ca pe o călătorie pe care o întreprinzi împreună cu un prieten. Nu ezita să te folosești de resursele enumerate și să cauți și propriile surse de informare pornind de la ceea ce este prezentat aici.
Așadar, haide să explorăm împreună dacă IA înțelege.
Ce este înțelegerea?
Înainte de a discuta dacă inteligența artificială înțelege (sau chiar dacă tu, eu sau pisica mea înțelegem ceva), trebuie să avem cel puțin o definiție a acestui concept. Cu alte cuvinte, trebuie să fim capabili să găsim un răspuns la întrebarea „ce înseamnă să înțelegi?”.
Poate că ai observat deja că înțelegerea este unul dintre acele concepte ușor enervante, cum ar fi atenția, cunoașterea sau conștiința, pe care cu toții credem instinctiv că le cunoaștem, dar pe care nu le putem articula cu ușurință. Deci, ce putem face în acest caz? Ei bine, pentru mine, răspunsul este întotdeauna să verific literatura de specialitate relevantă. Acolo sunt șanse să existe deja ceva de unde să pornesc.
Nu este surprinzător faptul că există o mulțime de publicații științifice dedicate definirii înțelegerii. Definițiile variază în complexitate. De la simpla definiție din dicționar: „putere de a pricepe un fenomen, o situație, o idee”, „a cuprinde cu mintea” (conform DEX), până la cele mai complexe (vezi secțiunea Referințe). În acest articol, vom defini înțelegerea ca fiind un proces psihologic care implică următoarele:
- manipularea unor modele mentale;
- a avea un anumit grad de cunoaștere;
- observarea relațiilor dintre concepte, idei și/sau lucruri;
- intenție;
- reducerea incertitudinii ca rezultat.
Cum funcționează IA?
Acum că am stabilit o definiție, trebuie să discutăm pe scurt despre cum funcționează IA. Criteriile din definiția noastră clarifică faptul că nu este suficient să inspectăm rezultatul acestor algoritmi, ci trebuie să ne „uităm sub capotă”.
Modele lingvistice mari (engl.: large language models, LLMs)
Pe scurt, LLM-urile (cum ar fi faimosul ChatGPT) funcționează prin utilizarea dependențelor statistice dintre cuvintele dintr-o propoziție și propozițiile dintr-un text (dacă vrei o explicație mai detaliată a modului în care funcționează, îți recomand să arunci o privire aici). În esență, ceea ce fac aceste rețele neurale este să „învețe” că anumite cuvinte au mai multe șanse să urmeze altora, analizând cantități incredibil de mari de text. Asta este tot.
Generatoare de imagini pe bază de text
Personal, consider că modul în care funcționează acești algoritmi (vorbim aici despre cei de genul Stable Diffusion) este mult mai interesant în comparație cu LLM-urile (din nou, pentru o prezentare mai cuprinzătoare, aruncă o privire aici sau aici). Pe scurt, există două etape principale. În timpul fazei de antrenament, rețeaua vede imagini în care se adaugă treptat zgomot. Practic, aici învață cât de mult zgomot trebuie să fie sustras dintr-o imagine pentru a obține imaginea originală. În plus, rețeaua învață, și foarte multe corespondențe între texte ce vor forma mai târziu prompturi de generat imagini și imaginile în sine. În timpul testării, atunci când îi cerem algoritmului să „deseneze” ceva pentru noi, acesta efectuează procesul invers: pornește de la zgomot, apoi elimină treptat „zgomotul prezis” învățat în etapa anterioară până când ajunge la un rezultat.
Înțelege IA?
Din punct de vedere pur tehnologic, dezvoltarea acestor algoritmi este cu siguranță impresionantă în sine. Dar cred că până și o înțelegere superficială a algoritmilor din spatele capotei, așa cum este prezentată în paragrafele de mai sus, este suficientă pentru a arăta că aceștia nu au niciun fel de înțelegere. Tot ceea ce fac ei este să stocheze cantități incredibil de mari de asocieri statistice între anumite tipuri de date. Problema cu acest lucru este ilustrată destul de bine de următoarea glumă:
Părinte îngrijorat: dacă toți prietenii tăi s-ar arunca de pe un pod, ai face și tu la fel? Algoritm de învățare automată: da.
De ce contează că IA nu înțelege cu adevărat?
Contează pentru că în prezent există o tendință de a trata aceste modele ca și cum ar înțelege cu adevărat. Și pentru că știm că au acces la mult mai multe informații decât ar putea parcurge vreodată un om, presupunem, de asemenea, că informațiile pe care ni le oferă sunt corecte. Dar scopul lor nu este de a da răspunsuri care conțin informații corecte, ci de a produce rezultate care să semene cu datele de intrare. La fel ca atunci când a trebuit să scrii un eseu pentru cursul de literatură și ai vorbit despre simbolismul unei anumite culori de perete pur și simplu pentru că știai că la asta se aștepta profesorul pe baza exemplelor din clasă. Cu toate acestea, din cauza presupunerilor noastre și din cauză că rezultatul pare atât de coerent, devenim mai puțin predispuși să îi verificăm validitatea. Și, în funcție de ceea ce facem cu acele informații, putem deveni amplificatori involuntari ai absurdului.
Dacă vrei să citești mai multe despre acest subiect, îți recomand să o consulți pe Emily M. Bender, lingvist computațional de la Universitatea din Washington și expert în modele lingvistice.
Cum ți s-a părut această postare? Scrie-ne în comentariile de mai jos.
Ca de obicei, nu uita să ne urmărești pe Instagram, Mastodon sau Facebook pentru a fi la curent cu cele mai recente postări.
Ar putea să-ți placă și:
Referințe (în engleză)
Yufik, Y. M., & Friston, K. (2016). Life and understanding: the origins of “understanding” in self-organizing nervous systems. Frontiers in Systems Neuroscience, 10, 98.
One thought on “Înțelege inteligența artificială?”