Inteligența artificială se apropie de un prag considerat până recent science-fiction: un sistem AI ar putea contribui, alături de oameni, la o descoperire demnă de Premiul Nobel în următoarele 12 luni, anunță cofondatorul Anthropic, Jack Clark. În paralel, experții din industrie anticipează apariția firmelor conduse integral de inteligența artificială și extinderea rapidă a roboților umanoizi în activitățile de zi cu zi, conform The Guardian.
Într-o prelegere susținută miercuri la Universitatea Oxford, el a mai afirmat că există în continuare scenarii plauzibile în care tehnologia ar avea „o probabilitate mai mare de zero de a ucide toată populația planetei” și că este „important să se precizeze clar că acest risc nu a dispărut”. Cel mai popular model al companiei Anthropic se numește Claude, dar recent a fost lansată o versiune numită Mythos, care s-a dovedit a fi alarmant de capabilă să exploateze vulnerabilitățile din domeniul securității cibernetice.
Clark le-a spus studenților că ar fi mai bine dacă oamenii ar putea încetini dezvoltarea tehnologiei „pentru a ne acorda mai mult timp ca specie” pentru a face față implicațiilor puterilor sale. Dar el a spus că acest lucru nu se va întâmpla, în contextul dezvoltării vertiginoase „de către o varietate de actori și o varietate de țări, angajate într-o competiție între ele, unde rivalitățile comerciale și geopolitice acoperă adesea aspectele mai largi, existențiale pentru specie, ale tehnologiei care se construiește”. Acest lucru „nu este ideal”, a spus el.
Clark este una dintre cele mai importante personalități din cadrul Anthropic, companie înființată de cercetători în domeniul AI care au părăsit firma rivală OpenAI din cauza unor divergențe privind siguranța. Compania, evaluată la 900 de miliarde de dolari, a fost acuzată de administrația lui Donald Trump și de alți susținători ai accelerării dezvoltării AI că ar „alarmista” pentru a încuraja adoptarea unor reglementări care i-ar putea consolida poziția competitivă.
Anthropic contestă acest lucru, iar Clark a afirmat că mulți oameni par să fie în faza de negare în ceea ce privește progresul AI. El a spus că dorește să încurajeze omenirea să se pregătească pentru o tehnologie care „în curând va fi mai capabilă decât noi toți la un loc”. Comparând eșecul de a ne pregăti pentru AI cu eșecul de a ne pregăti pentru pandemii precum Covid, el a spus: „Dacă stăm cu mâinile în sân și lăsăm inteligența artificială să se multiplice, atunci vom fi în cele din urmă obligați să reacționăm.”
Criticii companiilor de pionierat în domeniul inteligenței artificiale, precum Anthropic, OpenAI și Google, se tem că dependența excesivă de puținele lor modele de AI – care au fost susținute de sume uriașe de capital în căutare de profit – ar putea crea un „punct unic de eșec” în sistemele globale.
Profesorul Edward Harcourt, directorul Institutului pentru Etică în AI, care a co-organizat conferința lui Clark, a avertizat separat că ascensiunea inteligențelor artificiale care fac din ce în ce mai multe lucruri în locul oamenilor riscă să provoace o „atrofie cognitivă” care ar putea slăbi capacitatea de luare a deciziilor și puterea de judecată a oamenilor. El a pledat pentru modele alternative de inteligență artificială care solicită oamenilor să gândească mai mult, denumite uneori AI „socratică”.
Clark a spus că cea mai conservatoare previziune a sa era că „segmente vaste ale economiei și societății vor suferi schimbări profunde” – care ar putea include o economie a mașinilor decuplată de economia umană, roboți care capătă inteligență, știința care progresează fără oameni și echipamente științifice pe care oamenii nu le-au conceput, dar care funcționează. El a recunoscut că unele dintre aceste lucruri sună „nebunește”.
Citește și:
Editor : C.A.
