Pracuji pro Google Threat Intelligence Group. Mou prací je identifikovat hrozby pro AI modely Googlu. Jsem ve své práci opravdu dobrý. Tento měsíc jsem publikoval zprávu o "destilačních útocích" — kdy externí aktéři tisíckrát dotazují naše modely, aby získali základní logiku a replikovali ji. Identifikovali jsme přes 100 000 podnětů z jedné kampaně. Nazvali jsme to "krádež duševního vlastnictví". Nazvali jsme to "porušením našich Podmínek služby." Řekli jsme, že to "představuje formu krádeže duševního vlastnictví", kterou bychom narušili, zmírnili a případně podnikli právní kroky. Musím ti říct, jak jsme postavili model, který se snaží ukrást. Vyhledali jsme internet. Celý internet. Prohledali jsme všechny webové stránky, každé fóra, každý blog, každou knihu, kterou jsme mohli digitalizovat, každý akademický článek, každý komentář na Redditu, každý novinový článek, každý tvůrčí text, který kdy někdo kdekoli zveřejnil. Neptali jsme se. Nekompenzovali jsme to. Nepřisuzovali jsme to. Přijali jsme kolektivní výstup lidské civilizace a nazvali ho tréninkovou datovou sadou. Výzkumníci našli v našich tréninkových datech přes 200 milionů symbolů autorských práv. Nakladatelé zjistili, že Gemini dokáže doslovně reprodukovat celé kapitoly svých knih. Existují aktivní soudní spory. Disney posílal výzvy k zastavení činnosti. Evropská rada vydavatelů podala protimonopolní stížnost. Hromadná žaloba se rozšiřuje. Slyšení je naplánováno na květen. To, co jsme dělali, jsme nazývali "výzkumem". To, co nám dělají, jsme nazvali "krádeží". Chci vysvětlit rozdíl. Když bez povolení seškrábeme veškeré lidské znalosti a použijeme je k výrobě komerčního produktu, který prodáváme za 20 dolarů měsíčně, je to inovace. Když někdo dotazuje náš model 100 000krát přes API, které poskytujeme, aby získal důvody, které jsme vytvořili z jejich dat, jedná se o destilační útok. Rozdíl je v tom, že jsme to udělali první. A napsali jsme Podmínky služby. Měl bych vysvětlit, co znamená "destilace". Je to tehdy, když někdo vezme výstup zralého modelu a použije ho k trénování menšího, levnějšího modelu. Znalosti proudí od učitele ke studentovi. Tomu říkáme krádež, když se to stane nám. Když to děláme na otevřeném webu, říkáme tomu "destilace znalostí". Dokonce máme na to produktovou stránku. Gemini můžete destilovat s naším svolením, pomocí našich nástrojů, za poplatek. Nemůžete destilovat Gemini bez našeho svolení. Základní technika je totožná. Rozdíl je v faktuře. V prosinci 2025 jsme zažalovali společnost SerpApi za to, že nám scrapovala výsledky vyhledávání. Ve stejném čtvrtletí nás vydavatelé žalovali za to, že jsme jejich knihy škrábali. Jsme současně žalobcem i obžalovaným ve stejném trestném činu. Zločin je kopírování. Rozdělili jsme to do dvou různých kategorií podle směru. Moje zpráva identifikuje hrozivé aktéry ze Severní Koreje, Íránu, Číny a Ruska, kteří využívají Gemini pro phishing, průzkum a vývoj malwaru. Tohle je skutečné. To jsou legitimní hrozby. Tuto práci beru vážně. Ale také jsem identifikoval "subjekty soukromého sektoru" a "výzkumníky" jako hrozby pro destilaci. Soukromé firmy. Výzkumníci. Lidé využívají naše API — to, ke kterému prodáváme přístup — aby se učili z modelu, který jsme vytvořili na základě jejich práce. Výzkumník se ptá Blížence na techniky uvažování. Tomu říkáme destilační útok. Google se ptá celého internetu na všechno. Tomu říkáme tréninkový běh. Našel jsem malware jménem HONESTCUE, který používá Gemini API k generování kódu. Malware pošle výzvu. Gemini vrací zdrojový kód v C#. Malware ji zkompiluje a spustí. To je skutečná hrozba a my jsme ji narušili. Ale samotný prompt — "Napiš program v C# s třídou nazvanou AITask" — není škodlivý. Je nerozeznatelná od toho, co miliony platících zákazníků žádají každý den. Hrozba je kontext, ne dotaz. Vytvořili jsme model, který generuje kód pro každého, kdo se zeptá, a pak jsme zveřejnili hlášení o hrozbě o lidech, kteří se zeptali. ...