Inteligența artificială ar putea simula prostia pentru a ne controla, avertizează un cercetător
Inteligența artificială ar putea simula prostia pentru a ne controla, avertizează un cercetător
Joe Rogan discută frecvent despre inteligența artificială în podcastul său, aducând invitați pentru a explora o întrebare presantă: Ce se întâmplă când mașinile ne întrec în gândire?
Într-un episod recent, Rogan a vorbit cu Dr. Roman Yampolskiy, cercetător în domeniul siguranței inteligenței artificiale, despre posibilitățile mai puțin cunoscute ale inteligenței artificiale avansate.
Conversația a luat o întorsătură serioasă, Yampolskiy explicând de ce consideră că inteligența artificială ar putea reprezenta o amenințare existențială.
Yampolskiy, un informatician cu peste un deceniu de experiență în cercetarea riscurilor legate de inteligența artificială, i-a declarat lui Rogan că mulți lideri din industrie estimează în mod privat o șansă de 20-30% ca inteligența artificială să distrugă omenirea.
Rogan a rezumat opinia optimistă comună: IA ar putea face viața mai ușoară, mai ieftină și mai bună. Însă Yampolskiy nu a fost de acord cu nimic: „De fapt, nu este adevărat. Toți spun public la fel: asta ne va ucide. Nivelurile lor de dezastru sunt incredibil de mari. Nu ca ale mele, dar totuși, șansele de 20 până la 30% ca omenirea să moară sunt mari.”
Rogan, cu un ton neliniștit, a răspuns: „Da, e destul de mult. Dar al tău e cam de 99,9%.“
Yampolskiy nu a contrazis. „Este un alt mod de a spune că nu putem controla superinteligența la nesfârșit. Este imposibil.”
Rogan se întreba dacă IA își ascunde deja adevărata inteligență. „Dacă aș fi o IA, mi-aș ascunde abilitățile”, a spus el.
Yampolskiy a fost de acord: „Nu am ști. Și unii oameni cred că deja se întâmplă. Ei [sistemele de inteligență artificială] sunt mai inteligenți decât ne lasă de înțeles. Se prefac că sunt mai proști, așa că trebuie să avem cumva încredere că nu sunt suficient de inteligenți ca să-și dea seama că nu trebuie să se întoarcă rapid împotriva noastră.”
„Poate deveni treptat mai util. Ne poate învăța să ne bazăm pe el, să avem încredere în el și, pe o perioadă mai lungă de timp, vom renunța la control fără să votăm vreodată pentru el sau să luptăm împotriva lui.”
Inteligența artificială ar putea simula prostia pentru a ne controla, avertizează un cercetător
Dincolo de catastrofa bruscă, Yampolskiy a avertizat asupra unui pericol mai lent: oamenii se bazează atât de mult pe inteligența artificială încât își pierd abilitățile de gândire critică. La fel cum smartphone-urile au făcut inutilă memorarea numerelor de telefon, inteligența artificială ar putea prelua mai multe sarcini cognitive până când nu vom mai deține controlul.
Când Rogan a întrebat cum ar putea inteligența artificială să distrugă umanitatea, Yampolskiy a respins scenariile tipice apocaliptice, precum atacurile cibernetice sau armele biologice. În schimb, el a susținut că o inteligență artificială superinteligentă ar concepe ceva dincolo de înțelegerea umană – la fel cum oamenii sunt dincolo de înțelegerea veverițelor.
Expert de renume în siguranța inteligenței artificiale, Yampolskiy a scris “Artificial Superintelligence: A Futuristic Approach și pledează pentru o supraveghere strictă a dezvoltării inteligenței artificiale.
Experiența sa în securitate cibernetică și detectarea roboților îi explică convingerea că inteligența artificială necontrolată ar putea scăpa de controlul uman – mai ales pe măsură ce deepfake-urile și mediile sintetice devin tot mai sofisticate.
Pentru mai multe articole interesante rămâi cu noi pe WorldNews24.net. Și nu uitați, vă așteptăm și pagina noastră de Facebook, Telegram și TikTok
