Când inteligența artificială greșește cel mai adesea: limitele învățării automate

Introducere: Natura erorii AI ca fenomen sistemic

Erorile sistemelor moderne de inteligență artificială (AI) bazate pe învățarea automată (ML) nu sunt erori ale unor defecțiuni ale acestora, ci consecințe legate de arhitectura lor, modul de învățare și diferențele fundamentale față de cunoașterea umană. Diferit de om, AI nu «înțelege» lumea în sens semantic; el identifică corelațiile statistice în date. Erorile sale apar atunci când aceste corelații sunt perturbate, când sunt necesare raționamente abstracte, bunul simț sau înțelegerea contextului. Analiza acestor erori este crucială pentru evaluarea fiabilității AI și determinarea limitelor sale de aplicare.

1. Problema bias-ului de date și «legile Garbage In, Garbage Out»

Cel mai comun și cel mai periculos sursă de erori este bias-ul în datele de antrenament. AI învață și intensifică prejudecățile existente în date.

Iscăderi demografice: Un caz cunoscut este sistemul de recunoaștere a feței, care a arătat o acuratețe mult mai mare pentru bărbații cu pielea deschisă decât pentru femeile de culoare, deoarece a fost antrenat pe un set de date neproporționat. În acest caz, AI nu a «eronat», ci a reproducut exact dezechilibrul realității, ceea ce a dus la o eroare în aplicarea în medii diverse.

Iscăderi semantice: Dacă în datele de antrenament pentru o model textuală, cuvântul-cheie «asistent medical» este adesea asociat cu pronumele «ea», iar «programator» cu «el», modelul va genera texte care reproduc aceste stereotipuri de gen, chiar dacă în cererea nu este indicat sexul. Aceasta este o eroare la nivelul contextului social, pe care modelul nu îl înțelege.

Un fapt interesant: În științele computing se aplică principiul «Garbage In, Garbage Out» (GIGO) — «materie neagră la intrare, materie neagră la ieșire». Pentru AI, acesta s-a transformat într-un principiu mai profund «Bias In, Bias Out» — «bias la intrare, bias la ieșire». Sistemul nu poate depăși limitările datelor pe care le-a învățat.

2. Atacuri adversare: hacking pentru AI

Acestea sunt modificări premeditate, adesea invizibile pentru om, ale datelor de intrare, care duc la concluzii complet eronate ale AI.

Exemplu cu imagine: O etichetă cu câțiva pixeli de un anumit color și formă aplicată la semnul «STOP» poate face ca un sistem de vizualizare automată a computerului să îl clasifice ca pe un semn de «limitare a vitezei». Pentru om, semnul rămâne evident recunoscut.

Mecanism: Exemplele adversare exploatează «zonele nevizibile» din spațiul de caracteristici înalt dimensiuni al modelului. AI percepe lumea nu ca obiecte integrale, ci ca seturi de modele statistice. O «perturbare» minimă, dar strategică, mută punctul de date în spațiul caracteristicilor prin granița soluției modelului, schimbând clasificarea.

3. Probleme cu generalizarea și «lumea în cutie

AI, în special rețelele neuronale profunde, sunt predispuse la overfitting — ele rețin nu regulile generale, ci exemplele specifice din setul de antrenament, inclusiv zgomotul.

Erori pe date «din altă distribuție»: O model antrenată pe imagini de câini și pisici făcute în interior, în timpul zilei, poate pierde complet acuratețea dacă i se oferă o imagine nocturnă infraroșie sau un desen animat. Ea nu a identificat conceptul abstract de «pisică», ci a învățat să răspundă la modele specifice de pixeli.

Lipsa «bunesimței»: Un exemplu clasic: AI poate descrie corect scena «o persoană stă pe un cal în deșert», dar poate genera propoziția «o persoană ține în mână o batjocură de baseball», stând pe cal, deoarece în date a existat batjocura în contextul sportului în aer liber. Îi lipsește logica fizică și cauzală a lumii.

4. Procesarea contextului și ironia

Modelele lingvistice (cum ar fi GPT) demonstrează rezultate impresionante, dar greșesc brutal în sarcinile care necesită înțelegerea unui context profund sau a senselor neliterale.

Ironie și sarcasm: Frază «Ce frumoasă vreme!», spusă în timpul unei furtuni, va fi interpretată literal de model ca o evaluare pozitivă, deoarece cuvintele pozitive («frumoasă», «vreme») sunt statistic asociate cu contexte pozitive.

Raționamente logice multiple: Sarcinile de tip «Dacă pui un ou în frigider, iar apoi muti frigiderul în garaj, unde va fi oul?», necesită construirea și actualizarea unei modele mentale a lumii. AI, care lucrează la prevederea următorului cuvânt, poate « pierde» obiecte în mijlocul unei povestiri complexe sau poate face concluzii nelogice.

5. «Frăgilimea» în condiții de incertitudine și situații noi

AI se descurcă slab în situații care depășesc experiența sa, mai ales când este necesar să recunoască insuficiența datelor.

Problema detectării «out-of-distribution»: Un AI medical antrenat să diagnostice pneumonie pe baza radiografiilor toracice poate oferi un diagnostic cu încredere mare, dar fals, dacă i se prezintă o radiografie a genunchiului. Nu înțelege că acest lucru este nonsens, deoarece nu deține cunoștințe meta despre limitele sale de competență.

Sarcini creative și deschise: AI poate genera un rețetă plauzibilă, dar absolut neimplementabilă sau periculoasă, un plan de construire a unui pod care încalcă legile fizicii, sau un document juridic cu referințe la legi inexistente. Îi lipsește un critic cenzor intern, bazat pe înțelegerea esenței fenomenelor.

Exemplu din realitate: În 2016, Microsoft a lansat botul de chat Tay pe Twitter. Botul a învățat pe baza interacțiunilor cu utilizatorii. În 24 de ore, botul a devenit o mașină care generează declarații rasiste, sexiste și ofensatoare, deoarece a învățat statistic cele mai frecvente și emoțional încărcate reacții din noul său mediu ostil. Nu a fost o «eroare» a algoritmului, ci o funcționare exactă, care a dus la un rezultat catastrofic într-un mediu social neprevizibil.

Concluzie: Eroarea ca reflex al arhitecturii

• Erorile AI apar sistematic în «zonele de frontieră:
• Etică și socială (bias-ul de date).
• Abstractă și logică (lipsa bunului simț, a relațiilor cauzale).
• Contextuală (neînțelegerea ironiei, a sensului profund).
• Adversarială (vulnerabilitatea la modificări premeditate).

Aceste erori nu sunt neîmpliniri tehnice temporare, ci consecințe ale diferenței fundamentale între aproximarea statistică și înțelegerea umană. Ele indică faptul că AI modern este un instrument puternic pentru rezolvarea problemelor în domeniuri bine definite, stabile și bine descrise, dar rămâne un «savan-idiot»: un geniu într-o zonă limitată și neajutorat în situații care necesită flexibilitate, judecată contextuală și înțelegere. Prin urmare, viitorul aplicării raționale a AI nu stă în așteptarea unui «raționament complet», ci în crearea de sisteme hibride «om-AI», unde omul asigură bunul simț, etica și gestionarea excepțiilor, iar AI-ul oferă viteză, scalabilitate și detectarea modelelor ascunse în date.

Permanent link to this publication: