Costurile IA pentru giganții tehnologici

Urmăriți-ne pe:

Etichete: chatgpt openai Google  Microsoft  googlebard 

Dacă ai careva întrebări la care nu găsești răspuns în această postare, nu uita, întotdeauna poți adresa întrebarea ta și primi răspunsul de care ai nevoie. 

Accesează acest link și trimite întrebarea ta, iar eu promit să vin cu cel mai bun răspuns in maximum 24 de ore. Încearcă acum si convinge-te!

Chatbot-ul extrem de popular de la OpenAI generează costuri ”amețitoare”

Liderii din sectorul tehnologic discută despre cum să opereze inteligența artificială (IA) ca ChatGPT, ținând cont în același timp de cheltuielile ridicate. Chatbot-ul extrem de popular de la OpenAI, care poate redacta proză și răspunde la interogări de căutare, generează costuri de calcul "amețitoare" de câțiva sau mai mulți cenți pe conversație, a declarat pe Twitter Sam Altman, directorul executiv al startup-ului, se arată într-un articol publicat de Reuters.

Președintele Alphabet, John Hennessy, a declarat pentru Reuters că un schimb de informații cu inteligența artificială, cunoscut sub numele de model lingvistic mare, costă probabil de 10 ori mai mult decât o căutare standard prin cuvinte cheie, deși ajustările vor ajuta la reducerea rapidă a cheltuielilor.

Citește la fel: Inteligenta artificiala are limite 

Chiar și cu venituri din potențialele reclame de căutare bazate pe chat, tehnologia ar putea afecta starea financiară a companiei Alphabet, cu sediul în Mountain View, California, aducând costuri suplimentare de câteva miliarde de dolari, spun analiștii. Venitul său net a fost de aproape $60 de miliarde în 2022.

Morgan Stanley a estimat că cele 3,3 trilioane de interogări de căutare ale Google de anul trecut au costat aproximativ o cincime de cent fiecare, o cifră care ar crește în funcție de cât de mult text trebuie să genereze IA. Google, de exemplu, s-ar putea confrunta cu o creștere a cheltuielilor de 6 miliarde de dolari până în 2024 dacă IA de tip ChatGPT ar trebui să gestioneze jumătate din interogările pe care le primește cu răspunsuri de 50 de cuvinte, au estimat analiștii. Este puțin probabil ca Google să aibă nevoie de un chatbot pentru a gestiona căutările de navigare pentru site-uri precum Wikipedia.

Alții au ajuns la aceeași sumă în moduri diferite. De exemplu, SemiAnalysis, o firmă de cercetare și consultanță axată pe tehnologia cipurilor, a declarat că adăugarea inteligenței artificiale de tip ChatGPT la căutare ar putea costa Alphabet 3 miliarde de dolari, o sumă limitată de cipurile interne ale Google, numite Tensor Processing Units, sau TPU, împreună cu alte optimizări.

De ce căutările cu ajutorul IA sunt costisitoare

Ceea ce face ca această formă de inteligență artificială să fie mai costisitoare decât căutarea convențională este puterea de calcul implicată. Conform analiștilor, o astfel de inteligență artificială depinde de cipuri de miliarde de dolari, un cost care trebuie repartizat pe durata de viață utilă a acestora, de mai mulți ani. De asemenea, energia electrică adaugă costuri și presiune pentru companiile cu obiective privind amprenta de carbon.

Procesul de gestionare a interogărilor de căutare cu ajutorul inteligenței artificiale este cunoscut sub numele de "inferență", în care o "rețea neuronală", inspirată în mare măsură din biologia creierului uman, deduce răspunsul la o întrebare din antrenamentul anterior.

Citește la fel: În discuție cu ChatGPT, despre cum funcționează 

În cazul unei căutări tradiționale, în schimb, crawlerele web ale Google au scanat internetul pentru a compila un index de informații. Atunci când un utilizator tastează o interogare, Google oferă cele mai relevante răspunsuri stocate în index.

Problema costurilor de inferență 

Hennessy, de la Alphabet, a declarat pentru Reuters: "Trebuie să reducem costurile de inferență", numind acest lucru "o problemă de câțiva ani în cel mai rău caz".

Alphabet se confruntă cu presiuni pentru a accepta această provocare, în ciuda cheltuielilor. La începutul acestei luni, rivalul său Microsoft Corp (MSFT.O) a organizat un eveniment mediatizat la sediul său din Redmond, Washington, pentru a prezenta planurile de a încorpora tehnologia de chat cu inteligență artificială în motorul său de căutare Bing, directorii de top urmărind ponderea pe piața de căutare a Google, care este de 91%, conform estimărilor Similarweb.

O zi mai târziu, Alphabet a vorbit despre planurile de îmbunătățire a motorului său de căutare, dar un videoclip promoțional pentru robotul său de chat cu inteligență artificială Bard a arătat că sistemul răspunde inexact la o întrebare, ceea ce a provocat o scădere a acțiunilor care a redus valoarea de piață cu 100 de miliarde de dolari.

Ulterior, Microsoft a fost nevoită să se autosesizeze când inteligența artificială a făcut amenințări sau a declarat că iubește utilizatorii testelor, ceea ce a determinat compania să limiteze sesiunile lungi de chat despre care a spus că au "provocat" răspunsuri neintenționate.

Directorul financiar al Microsoft, Amy Hood, le-a spus analiștilor că avantajele obținute din creșterea numărului de utilizatori și a veniturilor din publicitate au depășit cheltuielile, în timp ce noul Bing este lansat pentru milioane de consumatori. "Este vorba de o marjă brută suplimentară de dolari pentru noi, chiar și la costul de deservire despre care discutăm", a spus ea.

Un alt concurent al Google, directorul executiv al motorului de căutare You.com, Richard Socher, a declarat că adăugarea unei experiențe de chat cu inteligență artificială, precum și a unor aplicații pentru grafice, videoclipuri și alte tehnologii generative au crescut cheltuielile cu 30% până la 50%. "Tehnologia devine mai ieftină la scară și în timp", a spus el.

Citește la fel: IA poate fi benefica in chirurgia robotica 

O sursă apropiată de Google a avertizat că este prea devreme pentru a stabili cu exactitate cât de mult ar putea costa chatbots, deoarece eficiența și utilizarea variază foarte mult în funcție de tehnologia implicată, iar inteligența artificială alimentează deja produse precum căutarea.

De ce giganții din domeniul căutărilor și al rețelelor de socializare nu se grăbesc să implementeze chatbots

Cu toate acestea, cheltuielile sunt unul dintre cele două motive principale pentru care giganții din domeniul căutării și al rețelelor sociale, cu miliarde de utilizatori, nu au implementat peste noapte un chatbot cu inteligență artificială, a declarat Paul Daugherty, directorul de tehnologie al Accenture.

"Unul este acuratețea, iar cel de-al doilea este că acest lucru trebuie scalat corect", a spus el.

Cercetătorii de la Alphabet și din alte companii au studiat ani de zile cum să antreneze și să ruleze modele lingvistice de mari dimensiuni la prețuri mai mici.

Modelele mai mari necesită mai multe cipuri pentru inferență și, prin urmare, costă mai mult. Inteligența artificială care îi uimește pe consumatori pentru autoritatea sa asemănătoare cu cea umană a crescut vertiginos în dimensiune, ajungând la 175 de miliarde de așa-numiți parametri, sau diferite valori pe care algoritmul le ia în considerare, pentru modelul OpenAI actualizat în ChatGPT. Costul variază, de asemenea, în funcție de lungimea interogării unui utilizator, măsurată în "tokeni" sau bucăți de cuvinte.

Un înalt responsabil din domeniul tehnologiei a declarat pentru Reuters că o astfel de inteligență artificială rămâne prea costisitoare pentru a fi pusă în mâinile a milioane de consumatori.

Ce trebuie făcut mai departe

"Aceste modele sunt foarte costisitoare și, prin urmare, următorul nivel de invenție va fi reducerea costului atât al antrenării acestor modele, cât și al inferenței, astfel încât să le putem folosi în orice aplicație", a declarat directorul, sub rezerva anonimatului.

Deocamdată, specialiștii în informatică din cadrul OpenAI au descoperit cum să optimizeze costurile de inferență prin intermediul unui cod complex care face ca cipurile să funcționeze mai eficient, a declarat o persoană care cunoaște acest proces. 

O problemă pe termen lung este cum se poate reduce numărul de parametri dintr-un model de inteligență artificială de 10 sau chiar de 100 de ori, fără a pierde din acuratețe.

Între timp, unii s-au gândit să perceapă taxe pentru a avea acces, cum ar fi abonamentul de 20 de dolari pe lună al OpenAI pentru un serviciu ChatGPT mai bun. Experții în tehnologie au mai spus că o soluție de rezolvare este aplicarea unor modele de inteligență artificială mai mici pentru îndeplinirea unor sarcini mai simple, pe care Alphabet o explorează.

Citește la fel: Inteligenta artificiala in afaceri 

Compania a declarat în această lună că o versiune "model mai mic" a tehnologiei sale masive LaMDA AI va alimenta chatbot-ul său Bard, necesitând "semnificativ mai puțină putere de calcul, permițându-ne să ne extindem la mai mulți utilizatori".

Întrebat despre chatbots precum ChatGPT și Bard, Hennessy a declarat săptămâna trecută, în cadrul unei conferințe numite TechSurge, că modelele mai bine orientate, și nu un singur sistem care să facă totul, ar ajuta la "reducerea costurilor".

Sursa: Reuters

Urmăriți-ne pe: