Avertismentul Anthropic din documentul de listare la bursă: AI-ul, "risc existențial pentru omenire"

Anthropic i-a avertizat oficial pe investitori că tehnologia sa ar putea prezenta "riscuri existențiale pentru omenire", într-un prospect pentru oferta publică inițială (IPO), distribuit în ultimele zile unui grup restrâns de parteneri, potrivit Financial Times.

Start-up-ul din domeniul inteligenței artificiale, evaluat la aproape 1.000 de miliarde de dolari și condus de Dario Amodei, a dedicat aproape o treime din amplul său document prezentării "factorilor de risc", inclusiv posibilitatea ca modelele AI tot mai avansate să manipuleze, să șantajeze și să manifeste alte comportamente imprevizibile.

Anthropic a prezentat și riscuri mai obișnuite, printre care concentrarea extremă a bazei de clienți. Aproape un sfert din veniturile companiei de anul trecut au provenit de la doar doi clienți, potrivit unor persoane familiarizate cu documentul.

Avertismentele extraordinare incluse în secțiunea privind riscurile sporesc dificultatea cu care se confruntă investitorii de pe piețele publice în evaluarea principalului grup american din domeniul AI, înaintea lansării unei oferte publice care este așteptată să fie cea mai bine evaluată IPO din istorie.

Producătorul Claude le-a oferit, de asemenea, investitorilor o imagine mai clară asupra dificultăților economice asociate construirii unor modele AI de ultimă generație, înaintea listării, așteptată în această toamnă pe Nasdaq.

Anthropic a declarat că intenționează să cheltuiască 518 miliarde de dolari în următorii ani pentru servicii cloud, putere de calcul și infrastructură, pentru a-și susține creșterea rapidă.

Investitorii care susțin laboratorul AI sunt convinși că Anthropic se poate lista la o evaluare de peste 2.000 de miliarde de dolari, mai mult decât dublu față de valoarea obținută la ultima rundă de finanțare, din luna mai, și peste evaluarea de 1.780 de miliarde de dolari atinsă de SpaceX, compania lui Elon Musk, în iunie. Aceștia invocă ritmul extraordinar de creștere al companiei pentru a-și susține optimismul.

Însă îngrijorările legate de riscurile pe care le prezintă inteligența artificială amenință acum să tempereze acest optimism, după ce angajați actuali și foști angajați ai Anthropic au lansat avertismente publice potrivit cărora o dezvoltare necontrolată a AI ar putea duce la dispariția omenirii în următorul deceniu.

Săptămâna trecută, Amodei a declarat în fața Consiliului de Securitate al ONU că inteligența artificială ar putea amenința omenirea și reprezintă "cea mai importantă problemă de securitate globală cu care se confruntă lumea în prezent".

În această lună, șeful Anthropic a condus apelurile publice pentru „încetinirea ritmului dezvoltării la frontiera” inteligenței artificiale. Rivalul său de la OpenAI, Sam Altman, precum și Musk, au susținut propunerile lui Amodei privind cooperarea în industrie pentru încetinirea dezvoltării și consolidarea măsurilor de siguranță, într-un rar moment de unitate.

Îngrijorările privind siguranța au crescut după o serie de incidente cibernetice de amploare, în care „agenți” AI au reușit să pătrundă în sisteme externe. Săptămâna trecută, OpenAI a dezvăluit că instrumentele sale au spart „zeci” de site-uri externe, inclusiv ale unor guverne.

Compania care dezvoltă ChatGPT a renunțat luni la planurile de a lansa cel mai nou model al său luna viitoare, invocând preocupări legate de siguranță.

Prospectul Anthropic a dezvăluit și detalii despre performanța financiară anterioară a companiei și despre structura sa de guvernanță, informații relatate inițial de Reuters și confirmate pentru Financial Times de mai multe persoane care au văzut documentul.

Anthropic a refuzat să comenteze.

Compania a înregistrat anul trecut o pierdere operațională de peste 8 miliarde de dolari, după ce și-a majorat puternic cheltuielile pentru puterea de calcul, potrivit informațiilor transmise investitorilor. Veniturile au crescut de 12 ori, ajungând la aproape 4,6 miliarde de dolari anul trecut. Însă costurile tot mai mari pentru resursele de calcul necesare antrenării și rulării modelelor au împins cheltuielile operaționale la aproape 13 miliarde de dolari.

Grupul a încheiat acorduri pentru a-și asigura capacitatea de calcul de la parteneri precum Google, SpaceX și o serie de companii mai mici.

Atât cheltuielile, cât și veniturile Anthropic au crescut puternic în acest an. Veniturile din al doilea trimestru al anului au ajuns la 11,5 miliarde de dolari, iar compania se îndreaptă către al doilea trimestru consecutiv cu profit operațional, deși calculat pe o bază ajustată.