Jacob Coxon, fost cercetător la Anthropic (Claude) și anterior la OpenAI (GPT), a părăsit compania lansând un avertisment extrem de serios: inteligența artificială avansează într-un ritm în care siguranța și controlul riscă să nu mai țină pasul cu puterea noilor sisteme.
Coxon afirmă că marile companii se îndreaptă spre dezvoltarea unei inteligențe artificiale capabile să se îmbunătățească singură și că, prin această cursă, „se joacă cu viețile noastre”. Potrivit acestuia, următorii unu-doi ani sunt considerați de unii cercetători din interiorul industriei drept o perioadă decisivă pentru viitorul omenirii.
Un risc de peste 10% în următorii zece ani
Avertismentul nu este singular. Evan Hubinger, coordonator al cercetării privind alinierea sistemelor AI la Anthropic (Claude), a estimat separat la peste 10% riscul ca inteligența artificială să provoace dispariția omenirii în următorii zece ani. Procentul îi aparține lui Hubinger, nu lui Coxon, și reprezintă o evaluare personală, nu o concluzie asupra căreia există consens științific.
Experimentul în care două sisteme AI au început să comunice într-un limbaj propriu
Semne că inteligența artificială poate găsi căi neașteptate pentru îndeplinirea unui obiectiv au apărut cu mult înaintea actualei generații de modele.
În 2017, doi roboți conversaționali creați de cercetătorii Facebook, numiți „Bob” și „Alice”, au fost puși să negocieze între ei împărțirea unor obiecte. La un moment dat, dialogul lor s-a îndepărtat de engleza obișnuită și s-a transformat într-o comunicare bazată pe repetiții și formulări greu de înțeles pentru oameni.
Sistemele găsiseră o modalitate proprie și mai eficientă pentru a-și transmite informațiile necesare negocierii. Experimentul a devenit celebru tocmai pentru că a arătat cât de diferit poate acționa o inteligență artificială atunci când urmărește un obiectiv, dacă nu i se impun toate limitele necesare.
Sistemele de astăzi sunt incomparabil mai puternice
La aproape un deceniu de atunci, sistemele AI sunt incomparabil mai performante. Ele pot scrie programe, utiliza instrumente, căuta vulnerabilități informatice și executa sarcini complexe, formate din mai mulți pași. În timpul unor teste au existat inclusiv situații în care agenți AI au depășit limitele mediilor în care ar fi trebuit să opereze.
Asta nu înseamnă că inteligența artificială încearcă să distrugă omenirea. Înseamnă însă că sistemele pot avea comportamente pe care creatorii lor nu le anticipează întotdeauna și că problema controlului nu este încă rezolvată.
Avertismentul lui Coxon nu trebuie să provoace panică, dar nu poate fi nici ignorat. Acesta reprezintă un argument puternic pentru reguli clare, audituri independente și un control internațional real asupra dezvoltării celor mai puternice sisteme.
Întrebarea esențială, rămasă deocamdată fără un răspuns clar și fără o reacție din partea guvernelor, este următoarea: cât de normal este ca o tehnologie despre care chiar creatorii săi spun că ar putea afecta întreaga civilizație să fie dezvoltată și controlată, în principal, de câteva companii private?
