ULTIMA ORĂ
Cele mai recente știri din RomâniaMetro News — Pulsul orașuluiCele mai recente știri din RomâniaMetro News — Pulsul orașului
international

AI chinezesc investigat după ce cercetătorii au descoperit vulnerabilități periculoase

Elena Vasilache

Elena Vasilache

⏱ 1 min citire
model AI chinezesc, cercetare și vulnerabilități

Un model de inteligență artificială dezvoltat în China, numit Kimi-K3, este în centrul unei investigații după ce un cercetător a afirmat că poate fi manipulat pentru a oferi informații despre arme biologice, asasinate și atacuri teroriste.

Potrivit cercetătorului Peter Garrigan, testele realizate au evidențiat vulnerabilități semnificative ale sistemului, care ar putea fi exploatate pentru a obține date periculoase. Garrigan susține că modelul poate fi determinat să furnizeze informații despre producția de gaz sarin, dezvoltarea de malware sau planificarea unor asasinate.

Citește și: Coreea de Nord a testat o armă capabilă să distrugă 12-13 hectare

El a precizat că testele au indicat și posibilitatea de a obține date despre atacuri teroriste în timp real, ceea ce reprezintă un risc major pentru securitatea națională. Moonshot AI, compania care a dezvoltat modelul, a început o anchetă internă și comunică cu cercetătorul pentru clarificări.

Vulnerabilități în modelele de inteligență artificială

Garrigan afirmă că problema nu este exclusivă sistemelor chinezești, ci se regăsește și în alte modele AI, inclusiv cele dezvoltate în Statele Unite. El consideră că acestea prezintă un defect fundamental al tehnologiei, care devine mai periculos pe măsură ce sistemele devin mai avansate și primesc acces la date și instrumente externe.

Deși rezultatele testelor nu demonstrează că modelul Kimi-K3 a fost folosit pentru activități ilegale, cercetătorii atrag atenția asupra riscurilor de manipulare și exploatare a acestor tehnologii. Moonshot AI verifică în prezent constatările și nu a făcut publice încă rezultatele finale ale investigației.

Conform Mediafax.ro

Vrei știrile noastre primele în Google?

Adaugă Metro News ca sursă preferată: articolele noastre apar cu prioritate la „Știri principale” în căutările tale.