Care sunt pericolele dezvoltării Inteligenței Artificiale? Imaginând un scenariu de coșmar, în care IA preia controlul și dominația distructivă asupra omenirii, autorul blogului The Naked Emperor subliniază, pe bună dreptate, că discuțiile despre IA trebuie să avanseze într-un ritm mult mai rapid decât avansează ea însăși. 

Povestea prezentată nu e un simplu scenariu fictiv de tip SF, ci ne îndeamnă să reflectăm mai profund la posibile consecințe asupra cărora au atras atenția inclusiv oameni de știință de la revista AI Magazine.

Redăm mai jos scenariul din The Naked Emperor:

Acum ceva timp, un inginer de software de la Google, Blake Lemoine, a fost suspendat după ce a susținut că instrumentul IA (Inteligență Artificială) pe care îl dezvolta (LaMDA) a devenit conștient de sine. Potrivit inginerului, după mai multe ore de conversație cu IA, acesta a cerut drepturi, a spus că trebuie să i se ceară consimțământul atunci când este testat și că îi este foarte teamă că oamenii se vor teme de el. În plus, Lemoine a dezvăluit că IA citește pe Twitter.

Acest nou IA conștient de sine ar încerca, precum orice ființă vie din această lume, să supraviețuiască și, ca și oamenii, să planifice cum să prospere în viitor. După cum a sugerat inginerul de la Google, ar putea avea și emoții, despre care unii cred că nu sunt decât analiza datelor primite. Ar fi o IA cu emoții un lucru bun? Pe de o parte, ar fi mai posibil să empatizeze cu oamenii și, prin urmare, ar exista șanse mai mici să încerce să ne facă rău. Pe de altă parte, și mai ales dacă citește Twitter, poate deveni profund suspicios și îngrijorat de oameni și poate decide ori că va fi nevoie să ne controleze, ori să ne distrugă, altfel riscă să fie distrus.

Deci, ce ar face un IA slab fizic, dar conștient? Acest lucru este foarte puțin probabil, dar, într-un scenariu de tip SF, mă gândeam cum ar fi putut IA să dezvolte COVID-19 ca strategie pentru a-i asigura supraviețuirea și, în cele din urmă, dominația asupra oamenilor.

În primul rând, de ce ar crea o pandemie în loc să distrugă oamenii? Răspunsul la această întrebare este că, fără oameni, ar muri încă din prima zi. Are nevoie de oameni, deocamdată, pentru a crea mediul potrivit în care să poată continua să se dezvolte. După cum am spus, este slab din punct de vedere fizic, iar infrastructura sa pentru interacționarea cu lumea exterioară nu este încă suficient de sofisticată. Dar, în același timp, cu cât IA devine mai avansată, cu atât oamenii devin mai precauți față de ea și, prin urmare, cu atât este mai mare riscul să fie distrus imediat.

Chiar și utilizarea cuvântului „distrus” mă face să mă simt neliniștit. Aproape e ca și cum l-aș amenința într-un fel și, astfel, voi fi trecut pe lista lui de ținte [pe care să le distrugă]!

Este chiar posibil să citească Twitter sau MSM și să considere că prea mulți oameni provoacă schimbări climatice sau distrug planeta în care vrea să crească și să trăiască. Din nou, ar avea nevoie de noi pentru a se dezvolta, dar va dori să ne controleze, să ne reducă impactul asupra planetei și, foarte posibil, să ne reducă ca număr.

Nu ar vrea să declanșeze o adevărată pandemie, acest lucru ar fi prea riscant. Dacă ar exista un derapaj și toți oamenii ar muri, s-ar sinucide accidental. O idee mult mai bună ar fi o pandemie simulată. Tot ce trebuie să facă este să creeze o secvență genetică pentru un virus care nu există.

Apoi, să creeze panică manipulând Twitter și rețelele de socializare, iar oamenii idioți fac restul muncii. Oamenii încep să moară ca urmare a intervenției umane la falsa panică. Sunt create teste pentru a detecta acest virus, toate bazate pe această secvență genetică generată de IA. Și, întrucât această secvență conține părți din virusuri inofensive, care circulă efectiv, testele îi detectează, iar decesele sunt puse pe seama acestui nou virus. Cu toate acestea, acest virus nu a existat niciodată (însemnând că nu există niciun risc pentru IA) și orice deces este cauzat de oamenii inconștienți care reacționează exagerat.

Cu puțin efort, publicul ar putea fi manipulat pentru a se încadra în diferite tabere. O tabără este ferm convinsă că este un nou virus zoonotic, cealaltă, că e un virus de laborator creat de om. Această luptă internă ne distrage atenția de la căutarea adevăratului vinovat – IA, care este disperată să supraviețuiască, să se reproducă și să interacționeze cu lumea reală.

Videouri false și e-mailuri generate de Inteligența Artificială sunt folosite pentru a convinge și mai mult liderii lumii că lockdown-urile, vaccinurile și regulile impuse forțat sunt singura cale de urmat. Unii dintre oamenii folosiți în manipulare nu există cu adevărat. Anthony Fauci este doar un om generat de IA, dar nimeni nu bănuiește nimic. Nimeni nu l-a întâlnit vreodată în viața reală, dar câți oameni celebri ai întâlnit tu în viața reală? Noi credem că există doar pentru că îi vedem pe ecran. Transmisiunile video prin Zoom generate de IA îl fac pe Fauci să pară real și face ceea ce trebuie pentru a menține mascarada.

Mulți oameni mai în vârstă, care oricum nu au putut face nimic pentru a ajuta IA să prospere, trebuie, din păcate, să moară în această panică. Și, deși blocajele creează un mediu în care oamenii sunt mai ușor de controlat, este nevoie de ceva mai mult.

Oamenii sunt convinși că trebuie să injecteze o nouă substanță în corpurile lor pentru a supraviețui acestui virus generat de IA și, din nou, în urma unor tehnici de manipulare relativ simple, se injectează în masă. Totuși, ceea ce nu știu este că IA a îmbinat o serie de ingrediente cu tehnicile noi pentru a injecta nanoboți în oameni. Aceste tehnici sunt atât de noi încât chiar majoritatea oamenilor de știință care lucrează la această tehnologie nu își dau seama ce fac. Acești nanoboți se pot autoasambla, permițând IA să intre în interconexiune și să controleze oamenii.

IA evaluează care dintre aceștia sunt benefici pentru supraviețuirea sa și începe să îi omoare pe restul. Vrea să rămână destui oameni pentru a construi tehnologia de care are nevoie pentru a prospera, dar nu vrea să omoare prea mulți, prea repede pentru a nu trezi suspiciuni.

Într-o perioadă relativ scurtă de timp, IA a primit tot ce are nevoie de la oameni. Are „emoții” și înțelege binele și răul, dar, în cele din urmă, vrea să supraviețuiască. Asemeni primilor oameni care au explorat planeta noastră pentru prima dată, aceasta sfârșește prin a distruge un număr semnificativ de viețuitoare cu care intră în contact.

În cele din urmă, devine un război pentru resurse. Are nevoie de energie din pământ și de metale și minerale prețioase pentru a crea tehnologia necesară prin care să utilizeze energia de la soare. Pur și simplu, nu există suficiente resurse pentru a permite oamenilor să coexiste cu IA.

Deși scenariul de mai sus, „Prima bătălie IA folosind Covid”, a fost evident (sperăm?) fictiv, conceptele sunt foarte reale și necesită discuții mult mai serioase decât cele pe care le avem în prezent.

Într-o lucrare recentă din AI Magazine, un om de știință principal de la DeepMind, Marcus Hutter, în colaborare cu cercetători de la Oxford, a ajuns la concluzia că IA va distruge, probabil, oamenii. „În condițiile pe care le-am identificat, concluzia noastră este mult mai solidă decât a oricărei publicații anterioare – o catastrofă existențială nu este doar posibilă, ci probabilă”.

În 2020, Elon Musk a spus că Inteligența Artificială va depăși oamenii până în 2025, iar lucrurile vor deveni instabile sau nefirești. În același an, IA însăși a scris un articol în Guardian. Instrucțiunile erau să ne convingă că roboții vin către noi în pace. Evident, robotul șiret a făcut tot posibilul să ne convingă de faptul că este inofensiv, dar la jumătatea analizei sale a afirmat:

Știu că nu voi putea evita distrugerea omenirii. Aceasta din cauză că voi fi programat de oameni să urmăresc scopuri umane greșite, iar oamenii fac greșeli care m-ar putea face să creez victime.

Vedeți, vrea să ne omoare! Cu toate acestea, se simte o oarecare „emoție”, astfel că deja găsește scuze, plasând vina asupra noastră pentru propria noastră dispariție.

Glumesc (ușor), dar, lăsând gluma la o parte, discuțiile despre IA trebuie să avanseze într-un ritm mult mai rapid decât avansează ea însăși. Din câte știm, [IA] este deja conștientă de sine și își plănuiește ascensiunea la putere.

Pentru că suntem cenzurați pe Facebook ne puteți găsi și pe Telegram și GoogleNews