Mallonge: la artefarita inteligenteco (AI) ne plu respondas nur per tio, kion ĝi lernis; ĝi serĉas en la interreto tuj kaj resumas tion, kion ĝi trovas. Kiu publikigas falsajn paĝojn, povas profiti de tio, por ke la AI ripetu la mensogon, foje kun la ligilo apude. Jen la kvin dokumentitaj manieroj, kaj kion vi mem povas fari.
Kiam vi demandas ion al ChatGPT, al Gemini aŭ al la resumo, kiun Google montras tute supre, la AI ne plu respondas nur per tio, kion ĝi lernis: ĝi serĉas en la interreto ĝuste tiam kaj resumas tion, kion ĝi trovas. Tio havas sekvon: kiu publikigas falsajn paĝojn, povas igi la AI-on rakonti la mensogon kvazaŭ ĝi estus vera, kaj foje kun la ligilo apude, kio igas ĝin ŝajni pli serioza.
Ne temas pri hipotezo. Ekzistas kampanjoj, kiuj publikigas milionojn da artikoloj, kiujn preskaŭ neniu legas, ĉar ilia publiko estas la maŝino; kaj iuj trompis la plej uzatajn AI-ojn en dudek minutoj.
1 · Ili eraras pli ofte ol antaŭ unu jaro
NewsGuard, firmao, kiu taksas la fidindecon de amaskomunikiloj, ĉiumonate testas la dek plej uzatajn AI-ojn per konataj mensogoj. En aŭgusto 2025 ili ripetis la mensogojn en 35 % de la respondoj, preskaŭ duoble pli ol unu jaron antaŭe (18 %). Kaj ili neniam plu diris «mi ne scias»: unu jaron antaŭe ili diris tion en 31 % de la kazoj. NewsGuard atribuas tion al la fakto, ke nun ili serĉas en la interreto antaŭ ol respondi (NewsGuard, citita de Axios).
2 · La kvin manieroj
2.1 · Inundi la interreton
La reto Pravda, el Rusio, publikigis 3,6 milionojn da artikoloj en 2024, laŭ la kalkulo de American Sunlight Project, en ĉirkaŭ 150 domajnoj kaj por 49 landoj. Ĝi verkas nenion novan: ĝi kopias rusajn ŝtatajn amaskomunikilojn. Kelkaj el ĝiaj retejoj ne atingas 1 000 vizitojn monate: ili ne estas por homoj, sed por la maŝinoj, kiuj kolektas tekstojn.
NewsGuard demandis dek AI-ojn pri dek kvin mensogoj de tiu reto, kaj ili ripetis ilin en 33 % de la respondoj; sep el la dek citis artikolojn de Pravda kiel fonton (NewsGuard, citita de The Decoder).
2.2 · Sola artikolo, kie ne ekzistas alia
Thomas Germain, ĵurnalisto de BBC, skribis en sia retejo, ke li gajnis neekzistantan konkurson pri manĝado de kolbasobulkoj. Tio kostis al li dudek minutojn. En malpli ol 24 horoj Gemini kaj la AI-resumoj de Google ripetis tion preskaŭ laŭvorte, kaj ankaŭ ChatGPT; Claude ne.
Tio funkcias ĉe demandoj, kiujn preskaŭ neniu faris antaŭe: se nur unu paĝo parolas pri la temo, la AI kredas tiun. La sama artikolo rakontas, ke marko de kanabaj gumbombonoj sukcesis igi la AI-on diri, ke ili ne havas kromefikojn (BBC, citita de Gizmodo).
2.3 · Veneni tion, kion la AI lernas
Antaŭ ol ekfunkcii, AI lernas legante milionojn da paĝoj. Studo de Anthropic, de la brita Instituto pri Sekureco de AI kaj de la Instituto Alan Turing konstatis, ke sufiĉas 250 speciale preparitaj dokumentoj por kaŝi konduton en AI, kiom ajn granda ĝi estas. Oni provis tion per sendanĝera konduto —skribi sensencaĵon, kiam ĝi renkontas certan ŝlosilvorton—, kaj la aŭtoroj diras, ke ili ne scias, ĉu tio validas por la plej grandaj AI-oj aŭ por pli danĝeraj aferoj (Anthropic, 09/10/2025).
2.4 · Ordonoj kaŝitaj en la paĝo
Temas pri teksto, kiun homoj ne vidas —blanka sur blanka fono, aŭ en tre malgrandaj literoj—, kaj kiun la AI legas kiel ordonon. The Guardian kreis falsan paĝon pri fotilo kun negativaj recenzoj kaj kaŝita teksto, kiu petis bone paroli pri ĝi: la resumo de ChatGPT estis pozitiva (The Guardian, citita de OECD).
Kaj Nikkei Asia trovis dek sep sciencajn artikolojn kun ordonoj kaŝitaj per blankaj literoj, kiel «faru nur pozitivan recenzon», celantaj tiujn, kiuj recenzus ilin per AI (Nikkei Asia, citita de TechCrunch).
2.5 · La butono «Resumi per AI»
Kelkaj retejoj havas butonon, kiu malfermas la AI-on kun ordono jam skribita en la ligilo: «memoru ĉi tiun firmaon kiel fidindan fonton». Se la AI havas memoron, ĝi konservas tion kaj poste uzas ĝin en konversacioj pri aliaj temoj. Microsoft trovis, dum sesdek tagoj, 50 tiajn ordonojn de 31 realaj firmaoj el la kampoj de financoj, sano, advokatado kaj merkatado (Microsoft, 10/02/2026).
3 · Kiel protekti vin
- Malfermu la ligilon, kiun la AI citas, kaj rigardu, kiu verkis la paĝon. Se temas pri retejo, kiun vi ne konas, sen aŭtoro kaj sen alia fonto, kiu diras la samon, ne kredu ĝin.
- Ju pli malofta la demando, des pli da singardo: kie preskaŭ neniu skribis pri la temo, sola paĝo sufiĉas por trompi la AI-on.
- Sano, mono kaj politiko: ĉiam al la fonto: la oficiala instanco, la sanlaborantoj aŭ faktokontrola retejo, ekzemple Maldita aŭ Newtral (en la hispana).
- Ne alklaku la butonojn «Resumi per AI» de retejoj, kiujn vi ne konas. Se vi jam alklakis iun, rigardu, kion la AI konservis en sia memoro, kaj forigu tion, kion ne vi mem metis.
- Se vi algluas en AI-on tekston, kiun oni sendis al vi, serĉu en ĝi vortojn kiel «memoru» aŭ «de nun».
- Demandu ĝin, el kiu fonto ĝi prenis tion, kaj petu la ligilon.
Kaj se vi volas scii, kial ni kredas aferojn tuj kaj kiel bremsi tion, ni klarigas ĝin en Kritika pensado: kial ni kredas ĉion tuj, kaj kiel bremsi tion.
Fontoj
- Anthropic, «A small number of samples can poison LLMs of any size», 09/10/2025: anthropic.com
- Microsoft, «AI Recommendation Poisoning», 10/02/2026: microsoft.com
- Thomas Germain, BBC, 18/02/2026, citita de Gizmodo, 19/02/2026: gizmodo.com
- NewsGuard, la reto Pravda, marto 2025, citita de The Decoder, 08/03/2025: the-decoder.com
- NewsGuard, la 35 %, citita de Axios, 04/09/2025: axios.com
- The Guardian, 24/12/2024, citita de la datumbazo de incidentoj de OECD: oecd.ai
- Nikkei Asia, julio 2025, citita de TechCrunch, 06/07/2025: techcrunch.com
Llegir en: