Remarcând cursa frenetică dintre giganţii tehnologiei în jurul inteligenţei artificiale (AI), cercetătorul Yoshua Bengio a avertizat joi împotriva consecinţelor „dăunătoare” ale acestei tehnologii, în contextul deschiderii părţii ştiinţifice a summitului AI de la Paris, transmite AFP.
Deşi consideră că unele riscuri sunt deja bine stabilite, precum crearea de conţinut fals online, câştigătorul din 2018 al Premiului Turing (un prestigios premiu în informatică) spune că „apar treptat dovezi ale existenţei unor riscuri suplimentare precum atacurile biologice sau atacurile cibernetice”.
Pe termen lung, el este îngrijorat de o potenţială „pierdere a controlului” de către oameni asupra AI-ului, determinată de „propria sa dorinţă de a trăi”, mai ales că sosirea robotului conversaţional chinez DeepSeek a „accelerat şi mai mult cursa, ceea ce nu este bine pentru securitate”, scrie Agerpres.
Pentru a reduce riscurile, profesorul canadian de informatică solicită o mai strictă reglementare internaţională şi dezvoltarea cercetării în domeniul siguranţei AI, căreia îi este dedicată „o mică parte” din investiţiile uriaşe din sector.
Dar „fără intervenţia guvernului, nu văd cum vom ieşi din asta”, a recunoscut el, în timp ce, la sosirea sa la Casa Albă, preşedintele american Donald Trump a abrogat decretul privind securitatea AI emis de predecesorul său.
„Odată cu lansarea ChatGPT, am resimţit urgenţa să mă gândesc la problema securităţii”, a explicat acest specialist respectat din sector care a prezentat concluziile primului raport internaţional privind securitatea AI în cadrul unei conferinţe de presă la Paris, la Ecole normale superieure.
„Ceea ce mă sperie cel mai mult este posibilitatea ca omenirea să dispară în zece ani. Este terifiant. Nu înţeleg de ce mai mulţi oameni nu realizează asta”, a spus bărbatul care vede acest studiu ca fiind echivalentul pentru AI al rapoartelor IPCC privind schimbările climatice.
Publicat la sfârşitul lunii ianuarie, acest raport privind securitatea AI este rezultatul unei colaborări internaţionale a aproximativ o sută de experţi numiţi de 30 de ţări, Naţiunile Unite, Uniunea Europeană şi OCDE. Munca lor a început în urma summitului AI Safety din Marea Britanie, în noiembrie 2023.
Componenta diplomatică a summit-ului de la Paris privind inteligenţa artificială se va desfăşura luni şi marţi, după ce partea ştiinţifică se încheie vineri, iar weekendul este dedicat impactului acestei tehnologii în domeniul culturii.
