Calculele arată că o super-inteligență artificială va fi imposibil de controlat

Publicat de Cosmin Meca, 15 noiembrie 2021, 09:59

Ideea că inteligența artificială va deturna omenirea este discutată deja de multe decenii, iar în ianuarie 2021 oamenii de știință au ajuns la un răspuns pentru dilema dacă umanitatea va putea controla o inteligență artificială de nivel înalt. Concluzia? Cu siguranță că nu.

Problema este că, de fapt, controlarea unei super-inteligențe dincolo de capabilitatea de înțelegere umană ar necesita o simulare a acestei super-inteligențe pe care am putea să o analizăm. Însă, dacă nu o putem înțelege, o astfel de simulare este imposibil de creat.

Reguli precum „să nu faci răul oamenilor” nu pot fi stabilite dacă nu înțelegem ce fel de scenarii va crea o inteligență artificială, sugerează autorii studiului din ianuarie 2021. Odată ce un sistem computerizat funcționează la un nivel peste cel al programatorilor umani, limitele nu mai pot fi impuse.

„O super-inteligență reprezintă o problemă fundamental diferită”

„O super-inteligență reprezintă o problemă fundamental diferită față de cele studiate de obicei în domeniul eticii robotice. Asta pentru că super-inteligența este multidimensională, astfel că poate fi capabilă de mobilizarea unor resurse variate pentru a atinge obiective care sunt de neînțeles pentru oameni, darămite controlabile”, au spus cercetătorii.

O parte din argumentele echipei provine de la problema expusă de Alan Turing în 1936. Problema este centrată pe posibilitatea că un computer ar putea sau nu să ajungă la o concluzie și un răspuns (iar apoi se oprește), ori dacă pur și simplu va continua pentru totdeauna să găsească o altă concluzie.

Orice program creat pentru a opri inteligența artificială să facă rău omenirii și să distrugă lumea, spre exemplu, ar putea ajunge la o concluzie (și să se oprească) sau nu. Este imposibil din punct de vedere matematic să fim siguri, ceea ce înseamnă că nu poate fi controlat.

„Drept rezultat, asta face algoritmul de limitare inutilizabil”, a spus Iyad Rahwan, om de știință la Institutul Max Planck pentru Dezvoltarea Umană din Germania.

„O mașinărie super-inteligentă care controlează lumea sună științifico-fantastic”

Alternativa este limitarea capabilităților super-inteligenței. Spre exemplu, algoritmul ar putea fi deconectat de la părți ale Internetului sau anumite rețele, potrivit Science Alert.

Un alt studiu recent respinge și această idee, sugerând că astfel ar fi limitată raza de acțiune a inteligenței artificiale. Dacă vom continua să dezvoltăm inteligența artificială, probabil că nici nu vom ști atunci când o super-inteligență apare, atât de puțin înțeleasă este. Asta înseamnă că trebuie să începem să ne punem întrebări serioase despre direcția în care ne îndreptăm.

„O mașinărie super-inteligentă care controlează lumea sună științifico-fantastic. Însă, deja există mașinării care efectuează sarcini importante în mod independent fără ca programatorii să înțeleagă cum reușesc asta.

Întrebarea este dacă va ajunge la un moment dat periculoasă pentru omenire”, a spus Manuel Cebrian, de la Institutul Max Planck pentru Dezolvatarea Umană.

sursa: descopera.ro