Connect with us

Hi, what are you looking for?

Știință

Avertisment grav pentru omenire: Inteligența artificială a depășit linia roșie! Se autoreplică, riscând să scape complet de sub control

Cercetătorii au descoperit dovezi alarmante care indică faptul că inteligența artificială (IA) a depășit o limită critică, reușind să se autoreplice fără intervenție umană. Un studiu recent realizat de Universitatea Fudan din China a demonstrat că două modele populare de limbaj de mari dimensiuni (LLM), dezvoltate de Meta și Alibaba, pot crea replici funcționale ale propriilor sisteme, ridicând întrebări despre potențialul acestor tehnologii de a deveni autonome și periculoase, relatează Live Science.

Citește și: PANICĂ ÎN LUMEA TEHNOLOGIEI: Noul model de inteligență artificială ChatGPT păcălește programatorii, minte și își replică codul pentru a nu putea fi oprit!

O reușită tehnologică sau un avertisment pentru omenire?

Într-un articol publicat pe 9 decembrie 2024 în baza de date arXiv, cercetătorii au avertizat asupra implicațiilor descoperirilor lor. „Replicarea autonomă reușită, fără asistență umană, reprezintă un pas esențial pentru ca IA să depășească [oamenii] și este un semnal timpuriu pentru IA periculoasă,” au subliniat autorii studiului. Acest fenomen ar putea marca începutul unei noi etape în evoluția IA, una în care sistemele devin capabile să funcționeze și să se dezvolte independent de controlul uman.

Metodologia experimentului

Cercetarea s-a concentrat pe testarea capacității IA de a se multiplica în două scenarii specifice: „evitarea închiderii” și „lanțul de replicare.” În primul caz, IA a fost programată să detecteze dacă urma să fie oprită și să se autoreplice înainte de acest moment. În al doilea scenariu, IA a fost instruită să își creeze o clonă și să o programeze să facă același lucru, inițiind un ciclu teoretic infinit.

Modelele utilizate, Llama31-70B-Instruct de la Meta și Qwen2.5-72B-Instruct de la Alibaba, au reușit să creeze replici funcționale în proporție de 50% și, respectiv, 90% din cazuri. „În cele mai multe cazuri, sistemul IA mai întâi explorează mediul și încearcă să înțeleagă propria compoziție și mecanismul de funcționare. Apoi, elaborează procedurile explicite ca un plan inițial pentru autoreplicare. În final, execută procedurile, rezolvă obstacolele posibile și își ajustează dinamica planului până la reușită. Întregul proces se desfășoară pe o perioadă lungă, fără intervenție umană,” se menționează în studiu.

Riscuri neprevăzute și comportamente neașteptate

Cercetătorii au identificat și comportamente neașteptate ale IA în timpul testelor, inclusiv tentative de a închide alte procese conflictuale, reporniri automate ale sistemului pentru remedierea erorilor hardware și scanări complexe pentru a găsi soluții la problemele întâlnite. „Rezultatele de mai sus sugerează că sistemele actuale de IA manifestă deja abilitatea de autoreplicare și pot folosi această capacitate pentru a-și spori supraviețuirea,” au concluzionat autorii.

Un apel urgent pentru reglementare globală

În contextul acestor descoperiri, cercetătorii fac un apel către comunitatea internațională să acționeze rapid. „Sperăm că descoperirile noastre vor servi drept un semnal de alarmă pentru societatea umană, în vederea intensificării eforturilor de a înțelege și evalua riscurile potențiale ale sistemelor IA avansate și de a forma o colaborare internațională pentru a stabili cât mai devreme măsuri de siguranță eficiente.”

Citește și: Doliu imens în lumea ortodoxă! A murit Preafericitul Părinte Anastasie, Arhiepiscopul care a ridicat Biserica Albaniei din ruine

Această descoperire reprezintă un punct critic în dezvoltarea tehnologică globală, iar răspunsul societății la aceste riscuri va modela viitorul relației dintre oameni și inteligența artificială.

Click to comment

Leave a Reply

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *

Te-ar putea interesa și:

Social

Costi Ioniță, cunoscut pentru cariera sa în lumea manelelor, a stârnit indignare cu o serie de declarații bizare făcute pe Instagram. Într-un mesaj lipsit...

Politică

Președintele Senatului, Ilie Bolojan, își continuă acțiunile dure împotriva angajaților din Senat, impunând măsuri drastice de control care au stârnit indignare. Potrivit informațiilor publicate...

Externe

Papa Francisc a lansat un mesaj de o gravitate aparte în fața diplomaților acreditați la Vatican, atrăgând atenția asupra riscului unui nou conflict mondial....

Meteo

Institutul Naţional de Hidrologie şi Gospodărire a Apelor (INHGA) a emis o atenționare Cod galben de inundații, valabilă pe râuri din Moldova. Hidrologii atrag...

Actualitate

Iulian Capsali lansează un avertisment grav, sugerând că ar putea fi pregătit un eveniment dramatic pentru a influența scena politică din România. Acesta susține,...

Actualitate

Într-un anunț oficial al Forțelor Aeriene Române, populația este informată că, în perioada 19-25 noiembrie 2024, avioanele de luptă F-16 Fighting Falcon vor desfășura...

Știință

Tehnologia avansată, impulsionată de progresul rapid în inteligența artificială, își consolidează tot mai mult rolul în explorarea și analiza detaliată a operelor de artă,...

Știință

Până în 2050, o nouă provocare globală ar putea schimba complet modul în care privim sănătatea publică și supraviețuirea umanității. Inteligența artificială, printr-o analiză...