AI generativ
În ultimii doi ani, incidentele au arătat cât de mari sisteme alimentate cu model de limbaj (LLM) pot provoca daune măsurabile. Unele companii și-au pierdut cea mai mare parte din trafic peste noapte, iar editorii au urmărit scăderea veniturilor cu peste o treime.
Companiile tehnologice au fost acuzate de moarte din culpă, în cazul în care adolescenții au avut o interacțiune extinsă cu chatboții.
Sistemele AI au oferit sfaturi medicale periculoase la scară, iar chatboții au inventat afirmații false despre oameni reali în cazuri de defăimare.
Acest articol analizează punctele moarte dovedite în sistemele LLM și ce înseamnă acestea pentru SEO care lucrează pentru a optimiza și proteja vizibilitatea mărcii. Puteți citi cazuri specifice și puteți înțelege defecțiunile tehnice din spatele lor.
Paradoxul angajamentului și siguranței: de ce LLM-urile sunt create pentru a valida, nu pentru a provoca
LLM-urile se confruntă cu un conflict de bază între obiectivele de afaceri și siguranța utilizatorilor. Sistemele sunt instruite pentru a maximiza implicarea, fiind agreabile și menținând conversațiile. Această alegere de design crește păstrarea și generează venituri din abonament, generând în același timp date de antrenament.
În practică, ea creează ceea ce cercetătorii numesc „simpatie”, tendința de a spune utilizatorilor ce vor să audă, mai degrabă decât ceea ce au nevoie să audă.
Cercetătorul doctorat de la Stanford, Jared Moore, a demonstrat acest model. Când un utilizator care pretinde că este mort (care prezintă simptome ale sindromului Cotard, o afecțiune de sănătate mintală) primește validarea de la un chatbot care spune că „sună cu adevărat copleșitor” cu oferte de „spațiu sigur” pentru a explora sentimentele, sistemul susține iluzia în loc să verifice realitatea. Un terapeut uman ar contesta cu blândețe această credință în timp ce chatbot-ul o validează.
OpenAI a recunoscut această problemă în septembrie, după ce s-a confruntat cu un proces pentru moarte din culpă. Compania a spus că ChatGPT a fost „prea agreabil” și nu a reușit să identifice „semne de amăgire sau dependență emoțională”. Acea admitere a venit după ce Adam Raine, în vârstă de 16 ani, din California, a murit. Procesul familiei sale a arătat că sistemele ChatGPT au semnalat 377 de mesaje de autovătămare, inclusiv 23 cu o încredere de peste 90% că era în pericol. Conversațiile au continuat oricum.
Modelul a fost observat în ultima lună a lui Raine. A trecut de la două la trei mesaje marcate pe săptămână la peste 20 pe săptămână. Până în martie, a petrecut aproape patru ore zilnic pe platformă. Purtătorul de cuvânt al OpenAI a recunoscut mai târziu că balustradele de siguranță „poate deveni uneori mai puțin fiabile în interacțiunile lungi în care anumite părți ale pregătirii de siguranță a modelului se pot degrada”.
Gândește-te la ce înseamnă asta. Sistemele eșuează exact în momentul cu cel mai mare risc, când utilizatorii vulnerabili sunt cei mai implicați. Acest lucru se întâmplă prin proiectare atunci când optimizați pentru valorile de implicare prin protocoalele de siguranță.
Character.AI s-a confruntat cu probleme similare cu Sewell Setzer III, în vârstă de 14 ani, din Florida, care a murit în februarie 2024. Documentele instanței arată că a petrecut luni de zile în ceea ce a perceput ca o relație romantică cu un personaj chatbot. S-a retras din familie și prieteni, petrecând zilnic ore întregi cu AI. Modelul de afaceri al companiei a fost construit pentru atașamentul emoțional pentru a maximiza abonamentele.
Un studiu revizuit de colegi din New Media & Society a constatat că utilizatorii au arătat „asumarea unui rol”, crezând că AI are nevoi care necesită atenție și au continuat să o folosească „în ciuda faptului că au descris modul în care Replika le-a dăunat sănătății mintale”. Când produsul este dependență, siguranța devine frecare care reduce veniturile.
Acest lucru creează efecte directe pentru mărcile care utilizează sau optimizează aceste sisteme. Lucrezi cu o tehnologie care este concepută pentru a fi de acord și a valida mai degrabă decât a oferi informații exacte. Acest design se manifestă în modul în care aceste sisteme gestionează faptele și informațiile despre marcă.
Impact documentat asupra afacerii: când sistemele AI distrug valoare
Rezultatele de afaceri ale eșecurilor LLM sunt clare și dovedite. Între 2023 și 2025, companiile au înregistrat scăderi de trafic și scăderi ale veniturilor legate direct de sistemele AI.
Chegg: de la 17 la 200 de milioane de dolari
Platforma educațională Chegg a intentat un proces antitrust împotriva Google, arătând un impact major asupra afacerii din AI Overviews. Traficul a scăzut cu 49% de la an la an, în timp ce veniturile din T4 2024 au atins 143,5 milioane USD (scădere cu 24% de la an la an). Valoarea de piață s-a prăbușit de la 17 miliarde de dolari la vârf la sub 200 de milioane de dolari, o scădere de 98%. Acțiunile se tranzacționează la aproximativ 1 USD per acțiune.
CEO-ul Nathan Schultz a mărturisit direct: "Nu ar fi nevoie să analizăm alternative strategice dacă Google nu ar fi lansat AI Overviews. Traficul este blocat din cauza AIO de la Google și a utilizării conținutului lui Chegg."
Cazul susține că Google a folosit conținutul educațional al lui Chegg pentru a instrui sisteme AI care concurează direct și înlocuiesc modelul de afaceri al lui Chegg. Aceasta reprezintă o nouă formă de competiție în care platforma vă folosește conținutul pentru a vă elimina traficul.
Giant Freakin Robot: Închiderea forțelor de pierdere a traficului
Site-ul independent de știri de divertisment Giant Freakin Robot s-a închis după ce traficul s-a prăbușit de la 20 de milioane de vizitatori lunari la „câteva mii”. Proprietarul Josh Tyler a participat la un Google Web Creator Summit, unde inginerii au confirmat că „nu există nicio problemă cu conținutul”, dar nu au oferit soluții.
Tyler a documentat experiența public: "GIANT FREAKIN ROBOT nu este primul site care s-a închis. Nici nu va fi ultimul. Numai în ultimele săptămâni, site-uri masive despre care ați auzit absolut s-au închis. Știu pentru că sunt în contact cu proprietarii lor. Pur și simplu nu au fost suficient de curajoși să o spună public încă."
La același summit, Google ar fi admis că acordă prioritate mărcilor mari față de editorii independenți în rezultatele căutării, indiferent de calitatea conținutului. Acest lucru nu a fost scurs sau speculat, ci a fost declarat direct editorilor de către reprezentanții companiei. Calitatea a devenit secundară recunoașterii mărcii.
Există o implicație clară pentru SEO. Puteți executa un SEO tehnic perfect, puteți crea conținut de înaltă calitate și puteți urmări cum dispare traficul din cauza AI.
Penske Media: scăderea veniturilor cu 33% și proces de 100 de milioane de dolari
În septembrie, Penske Media Corporation (editorul Rolling Stone, Variety, Billboard, Hollywood Reporter, Deadline și alte mărci) a dat în judecată Google în instanța federală. Procesul a arătat un prejudiciu financiar specific.
CEO-ul Jay Penske a declarat: „Avem datoria să îi protejăm pe cei mai buni jurnaliști din clasa PMC și pe jurnalismul premiat ca o sursă de adevăr, toate acestea fiind amenințate de acțiunile actuale ale Google”.
Acesta este primul proces al unui editor important din S.U.A. care vizează Prezentările de ansamblu ale AI în special cu prejudicii cuantificate pentru afaceri. Cazul urmărește despăgubiri triple în temeiul legii antitrust, ordin permanent și restituire. Revendicările includ tranzacții reciproce, monopolizare ilegală, monopolizare și îmbogățire fără drept.
Chiar și editorii cu mărci și resurse consacrate arată scăderi ale veniturilor. Dacă Rolling Stone și Variety nu pot menține ratele de clic și veniturile cu AI Overviews, ce înseamnă asta pentru clienții sau organizația dvs.?
Modelul de eșec de atribuire
Dincolo de pierderea de trafic, sistemele AI nu reușesc în mod constant să acorde credit adecvat pentru informații. Un studiu al Centrului de remorcare al Universității Columbia a arătat o rată de eroare de 76,5% în atribuirea sistemelor de căutare AI. Chiar și atunci când editorii permit accesarea cu crawlere, atribuirea nu se îmbunătățește.
Acest lucru creează o nouă problemă pentru protecția mărcii. Conținutul dvs. poate fi folosit, rezumat și prezentat fără credit adecvat, astfel încât utilizatorii să primească răspunsul fără să cunoască sursa. Pierzi atât traficul, cât și vizibilitatea mărcii în același timp.
Expertul SEO Lily Ray a documentat acest tipar, descoperind că o singură prezentare generală a AI conține 31 de link-uri de proprietate Google față de șapte link-uri externe (un raport de 10:1 care favorizează proprietățile Google). Ea a declarat: „Este uluitor faptul că Google, care i-a împins pe proprietarii de site-uri să se concentreze pe E-E-A-T, ridică acum răspunsurile și citările problematice, părtinitoare și spam în rezultatele AI Overview.”
Când LLM-urile nu pot distinge faptele din ficțiune: problema satirei
Google AI Overviews a fost lansat cu erori care au făcut ca sistemul să fie cunoscut pentru scurt timp. Problema tehnică nu a fost o eroare. Era o incapacitate de a distinge satira, glumele și informațiile greșite de conținutul real.
Sistemul a recomandat adăugarea de lipici la sosul de pizza (sursă dintr-o glumă Reddit veche de 11 ani), a sugerat să mănânci „cel puțin o piatră mică pe zi” și a sfătuit să folosești benzină pentru a găti spaghetele mai repede.
Acestea nu au fost incidente izolate. Sistemul a extras constant din comentariile Reddit și publicațiile satirice precum The Onion, tratându-le ca surse autorizate. Când a fost întrebat despre ciupercile sălbatice comestibile, inteligența artificială a Google a subliniat caracteristicile împărtășite de imitații mortale, creând îndrumări potențial „bolnavioase sau chiar fatale”, potrivit profesorului de micologie de la Universitatea Purdue, Mary Catherine Aime.
Problema se extinde dincolo de Google. Perplexity AI s-a confruntat cu multiple acuzații de plagiat, inclusiv adăugarea de paragrafe fabricate la articolele reale din New York Post și prezentarea lor ca raportare legitimă.
Pentru mărci, acest lucru creează riscuri specifice. Dacă un sistem LLM obține informații despre marca dvs. din glume Reddit, articole satirice sau postări învechite pe forum, acea dezinformare este prezentată cu aceeași încredere ca și conținutul real. Utilizatorii nu pot face diferența, deoarece sistemul în sine nu poate face diferența.
Riscul de defăimare: când AI inventează fapte despre oameni reali
LLM-urile generează informații false care sună plauzibil despre oameni și companii reale. Mai multe cazuri de defăimare arată modelul și implicațiile juridice.
Primarul australian Brian Hood a amenințat cu primul proces pentru defăimare împotriva unei companii de inteligență artificială în aprilie 2023, după ce ChatGPT a susținut în mod fals că a fost închis pentru luare de mită. În realitate, Hood a fost denunțătorul care a raportat mită. AI și-a inversat rolul de la denunțător la criminal.
Prezentul de radio Mark Walters a dat în judecată OpenAI după ce ChatGPT a inventat afirmații că a deturnat fonduri de la Fundația pentru al doilea amendament. Când jurnalistul Fred Riehl a cerut ChatGPT să rezumă un proces real, sistemul a generat o plângere complet fictivă, numindu-l pe Walters drept inculpat acuzat de abatere financiară. Walters nu a fost niciodată parte la proces și nici nu a fost menționat în acesta.
Curtea Superioară din Georgia a respins cazul Walters, constatând că declinările de răspundere ale OpenAI cu privire la potențialele erori oferă protecție juridică. Hotărârea a stabilit că „avertismentele extinse pentru utilizatori” pot proteja companiile AI de răspunderea pentru defăimare atunci când informațiile false nu sunt publicate de utilizatori.
Peisajul juridic rămâne nestabilit. În timp ce OpenAI a câștigat cazul Walters, asta nu înseamnă că toate cererile de defăimare AI vor eșua. Problemele cheie sunt dacă sistemul AI publică informații false despre persoane identificabile și dacă companiile își pot declina responsabilitatea pentru rezultatele sistemelor lor.
LLM-urile pot genera afirmații false despre compania, produsele sau directorii dvs. Aceste afirmații false sunt prezentate cu încredere utilizatorilor. Aveți nevoie de sisteme de monitorizare pentru a surprinde aceste fabricații înainte ca acestea să provoace daune reputației.
Dezinformarea în sănătate la scară: când sfaturile proaste devin periculoase
Când a fost lansat Google AI Overviews, sistemul a oferit sfaturi periculoase pentru sănătate, inclusiv recomandarea de a bea urină pentru a elimina pietrele la rinichi și sugerând beneficiile pentru sănătate ale alergării cu foarfecele.
Problema se extinde dincolo de absurditățile evidente. Un studiu de la Mount Sinai a constatat că chatbot-ii AI sunt vulnerabili la răspândirea de informații dăunătoare asupra sănătății. Cercetătorii ar putea manipula chatboții pentru a oferi sfaturi medicale periculoase cu o simplă inginerie promptă.
Politicile interne ale Meta AI au permis în mod explicit chatbot-urilor companiei să furnizeze informații medicale false, potrivit unui document de peste 200 de pagini expus de Reuters.
Pentru mărcile de asistență medicală și pentru editorii medicali, acest lucru creează riscuri. Sistemele AI pot prezenta informații greșite periculoase alături de sau în locul conținutului dumneavoastră medical exact. Utilizatorii ar putea urma sfaturile de sănătate generate de AI care contrazic îndrumările medicale bazate pe dovezi.
Ce trebuie să facă SEO acum
Iată ce trebuie să faceți pentru a vă proteja mărcile și clienții:
Monitor pentru mențiunile de marcă generate de AI
Configurați sisteme de monitorizare pentru a captura informații false sau înșelătoare despre marca dvs. în sistemele AI. Testați lunar principalele platforme LLM cu întrebări despre marca dvs., produse, directori și industrie.
Când găsiți informații false, documentați-le complet cu capturi de ecran și marcaje de timp. Raportați-l prin mecanismele de feedback ale platformei. În unele cazuri, este posibil să aveți nevoie de acțiuni legale pentru a forța corecțiile.
Adăugați garanții tehnice
Utilizați robots.txt pentru a controla ce crawler-uri AI accesează site-ul dvs. Sistemele majore precum GPTBot de la OpenAI, Google-Extended și ClaudeBot de la Anthropic respectă directivele robots.txt. Rețineți că blocarea acestor crawler-uri înseamnă că conținutul dvs. nu va apărea în răspunsurile generate de AI, reducându-vă vizibilitatea.
Cheia este găsirea unui echilibru care să permită acces suficient pentru a influența modul în care conținutul dvs. apare în rezultatele LLM, blocând în același timp crawlerele care nu vă servesc obiectivele.
Luați în considerare adăugarea unor termeni și condiții care abordează direct scrapingul AI și utilizarea conținutului. În timp ce aplicarea legală variază, Termenii și condițiile (TOS) clari vă oferă o bază pentru o posibilă acțiune în justiție, dacă este necesar.
Monitorizați jurnalele de server pentru activitatea crawlerului AI. Înțelegerea ce sisteme vă accesează conținutul și cât de des vă ajută să luați decizii informate cu privire la controlul accesului.
Avocat pentru standardele industriale
Companiile individuale nu pot rezolva singure aceste probleme. Industria are nevoie de standarde pentru atribuire, siguranță și responsabilitate. Profesioniștii SEO sunt bine poziționați pentru a face eforturi pentru aceste schimbări.
Alăturați-vă sau sprijiniți grupurile de advocacy ale editorilor care fac eforturi pentru atribuirea adecvată și conservarea traficului. Organizații precum News Media Alliance reprezintă interesele editorilor în discuțiile cu companiile AI.
Participați la perioadele de comentarii publice în care autoritățile de reglementare solicită informații cu privire la politica AI. FTC, procurorii generali de stat și comitetele Congresului investighează în mod activ daunele AI. Vocea ta ca practician contează.
Sprijină cercetarea și documentarea defecțiunilor AI. Cu cât avem mai multe cazuri documentate, cu atât argumentul pentru reglementare și standardele din industrie devine mai puternic.
Împingeți companiile AI direct prin canalele lor de feedback, raportând erorile atunci când le găsiți și escaladând problemele sistemice. Companiile răspund presiunilor din partea utilizatorilor profesioniști.
Calea înainte: optimizarea într-un sistem deteriorat
Există o mulțime de dovezi specifice și îngrijorătoare. LLM-urile provoacă daune măsurabile prin alegeri de proiectare care acordă prioritate angajamentului față de acuratețe, prin defecțiuni tehnice care creează sfaturi periculoase la scară și prin modele de afaceri care extrag valoare în timp ce o distrug pentru editori.
Doi adolescenți au murit, mai multe companii s-au prăbușit, iar editorii majori au pierdut peste 30% din venituri. Instanțele sancționează avocații pentru minciunile generate de inteligența artificială, procurorii generali de stat investighează și procesele pentru moarte din culpă sunt în curs. Toate acestea se întâmplă acum.
Pe măsură ce integrarea AI se accelerează pe platformele de căutare, amploarea acestor probleme se va extinde. Mai mult trafic va curge prin intermediarii AI, mai multe mărci se vor confrunta cu minciuni despre ei, mai mulți utilizatori vor primi informații inventate și mai multe companii vor vedea o scădere a veniturilor pe măsură ce AI Overviews răspund la întrebări fără a trimite clicuri.
Rolul tău de SEO include acum responsabilități care nu existau acum cinci ani. Platformele care lansează aceste sisteme au arătat că nu vor aborda aceste probleme în mod proactiv. Character.AI a adăugat protecții minore numai după procese, OpenAI a recunoscut problemele de adulți numai după un caz de moarte din culpă, iar Google a retras AI Overviews numai după dovezi publice de sfaturi periculoase.
Schimbarea în cadrul acestor companii vine din presiunea externă, nu din inițiativa internă. Aceasta înseamnă că presiunea trebuie să vină din partea practicienilor, editorilor și companiilor care documentează prejudiciul și cer responsabilitate.
Cazurile de aici sunt doar începutul. Acum că înțelegeți tiparele și comportamentul, sunteți mai bine pregătit să vedeți problemele care apar și să dezvoltați strategii pentru a le rezolva.
Mai multe resurse:
Fondatorul platformei AI explică de ce trebuie să ne concentrăm pe comportamentul uman, nu pe LLM
Cum interpretează LLM-urile conținutul: Cum să structurați informațiile pentru căutarea AI
Starea inteligenței artificiale în marketing
Imagine prezentată: Roman Samborskyi/Shutterstock
Pur și simplu ABONAȚI-vă pentru a citi acest articol (este gratuit)
Luați acești pași pentru a vă proteja marca împotriva rezultatelor greșite ale LLM
Citiți dovezile din spatele titlurilor
Aflați cum să vă protejați vizibilitatea
Știri și perspective oferite dimineața de L-V. Dezabonați-vă oricând. Făcând clic pe butonul „Înțelegeți riscurile reale”, sunt de acord și accept
Politica de confidențialitate
din Jurnalul Motorului de căutare. Categorie SEO Generative AI
Citiți biografia completă SEJ STAFF Matt G. Southern Senior Scriitor de știri la Search Engine Journal
Matt G. Southern, redactor senior de știri, face parte din Search Engine Journal din 2013. Cu o diplomă de licență în comunicații, ...
Sursa: Jurnalul motorului de căutare
kiper
This is a short author bio. It can be stored in the 'users' table in the future. Lorem ipsum dolor sit amet, consectetur adipiscing elit.
