Un model de inteligență artificială dezvoltat în China, numit Kimi-K3, este în centrul unei investigații după ce un cercetător a afirmat că poate fi manipulat pentru a oferi informații despre arme biologice, asasinate și atacuri teroriste.
Potrivit cercetătorului Peter Garrigan, testele realizate au evidențiat vulnerabilități semnificative ale sistemului, care ar putea fi exploatate pentru a obține date periculoase. Garrigan susține că modelul poate fi determinat să furnizeze informații despre producția de gaz sarin, dezvoltarea de malware sau planificarea unor asasinate.
Citește și: Coreea de Nord a testat o armă capabilă să distrugă 12-13 hectare
El a precizat că testele au indicat și posibilitatea de a obține date despre atacuri teroriste în timp real, ceea ce reprezintă un risc major pentru securitatea națională. Moonshot AI, compania care a dezvoltat modelul, a început o anchetă internă și comunică cu cercetătorul pentru clarificări.
Vulnerabilități în modelele de inteligență artificială
Garrigan afirmă că problema nu este exclusivă sistemelor chinezești, ci se regăsește și în alte modele AI, inclusiv cele dezvoltate în Statele Unite. El consideră că acestea prezintă un defect fundamental al tehnologiei, care devine mai periculos pe măsură ce sistemele devin mai avansate și primesc acces la date și instrumente externe.
Deși rezultatele testelor nu demonstrează că modelul Kimi-K3 a fost folosit pentru activități ilegale, cercetătorii atrag atenția asupra riscurilor de manipulare și exploatare a acestor tehnologii. Moonshot AI verifică în prezent constatările și nu a făcut publice încă rezultatele finale ale investigației.
Conform Mediafax.ro
