Sursă: Mediafax.ro

Anthropic, una dintre cele mai importante companii din industria inteligenței artificiale, avertizează că tehnologia AI se apropie de un moment critic în care sistemele pot începe să se îmbunătățească singure. Conform analizei publicate recent, compania consideră că un proces de „auto-îmbunătățire recursivă” ar putea fi declanșat, ceea ce ar putea duce la un ritm de progres tehnologic dificil de controlat.

Potrivit companiei, în prezent, aproximativ 80% din codul utilizat de sistemul AI Claude este generat de propriul chatbot. La începutul anului 2025, însă, doar o mică parte din cod era produsă automat, majoritatea sarcinilor fiind realizate de programatori umani. Situația s-a schimbat rapid, iar Anthropic afirmă că diferențele între codul scris de AI și cel uman sunt acum minime.

Ce înseamnă auto-îmbunătățirea recursivă a AI-ului?

Conceptul de „auto-îmbunătățire recursivă” implică faptul că un model AI devine suficient de performant pentru a proiecta și antrena versiuni mai avansate ale sale, declanșând un ciclu continuu de progres. În cazul sistemului Claude, compania susține că nu doar cantitatea de cod generat a crescut, ci și calitatea acestuia, iar sistemul ar putea depăși performanțele umane chiar în cursul acestui an.

• 80% din codul actual este generat automat de AI
• performanțele sistemului s-au apropiat de cele ale programatorilor umani
• Claude este utilizat în cercetare, obținând rezultate mai bune decât echipele umane
• conceptul de „singularitate tehnologică” devine tot mai real

Ce riscuri implică această tehnologie?

Analiza companiei evidențiază riscul ca un AI să devină capabil să-și optimizeze și să-și dezvolte propriile versiuni fără intervenția umană. Astfel, ritmul progresului tehnologic ar putea depăși capacitatea oamenilor de a înțelege sau controla sistemele create, ceea ce ridică semne de întrebare privind siguranța și controlul asupra acestor tehnologii.

Anthropic recomandă încetinirea ritmului de dezvoltare a AI-urilor avansate, însă admite că un acord global pentru această reducere este dificil de realizat. În prezent, compania continuă să avanseze în cercetare și să lanseze modele superioare, dar cu o conștientizare tot mai mare a riscurilor implicate.