Projekt Aurascape, vytvořený společností Auradine zabývající se těžbou bitcoinů, odhalil systém, který pomocí umělé inteligence falšuje vyhledávací dotazy, aby vydával falešná telefonní čísla.
Společnost Aurascape, specializující se na kyberbezpečnost a umělou inteligenci (AI), založená společností Auradine, ale fungující nezávisle v rámci ekosystému Aura Labs, představila nový model online podvodů.
V oznámení ze dne 8. prosince byly zmíněny podvodné schémata zaměřené na platformy umělé inteligence, jako jsou ChatGPT, Google, Perplexity a další hlasoví asistenti založení na velkých generativních jazykových modelech.
Podle výzkumu je tento model založen na systematické manipulaci s online obsahem s cílem přesměrovat uživatele na falešné telefonní čísla zákaznických služeb leteckých společností.
Vědci vysvětlují, že útočníci se nesnaží změnit vnitřní fungování AI asistentů (programů, které odpovídají na otázky pomocí složitých modelů).
Místo toho zasahují do prostředí, ze kterého tyto systémy získávají informace. Manipulují s legitimními webovými stránkami tak, že při vyhledávání kontaktních informací leteckých společností asistenti zobrazují falešná telefonní čísla, která vedou k podvodným centrům určeným k získávání plateb nebo důvěrných údajů.
V praxi není útok namířen proti samotnému modelu AI, ale proti materiálům, které analyzuje.
Místo toho, aby podváděli uživatele přímo, se útočníci učí ovlivňovat systémy, které syntetizují odpovědi, což podle odborníků z Aurascape rozšiřuje rozsah podvodu.
Jak tento podvod funguje: manipulace s webem za účelem podvodu umělé inteligence?
Podle údajů společnosti Aurascape používají podvodníci metodu, kterou výzkumníci popisují jako „otrávení telefonních čísel LLM“.
Tento mechanismus předpokládá modifikaci legitimního obsahu na internetu takovým způsobem, aby asistenti na bázi umělé inteligence mohli tento obsah přečíst a doporučit falešná čísla jako oficiální.
Vědci vysvětlují, že „útočníci se zaměřují na samotnou síť“. Za tímto účelem umisťují falešný obsah na webové stránky státních institucí, univerzit, do blogů WordPress, do popisů videí na YouTube a do recenzí na platformách, jako je Yelp.
Kromě toho hackeři používají další metody, známé jako optimalizace generativního mechanismu a optimalizace mechanismu odezvy, aby ovlivnili způsob, jakým systémy vybírají a syntetizují dostupné informace.
Pomocí těchto dvou metod se jim daří obsadit prostor, který AI asistenti považují za „správnou odpověď “.
Těžaři bitcoinů a průmysl umělé inteligence
Auradine je americká společnost, která vyvíjí zařízení pro těžbu bitcoinů. Jiné těžební společnosti, jako jsou MARA (MARA) a Genesis Digital Assets (GDA), již zakoupily její ASIC zařízení.
Studie Aurascape však také ilustruje samostatný jev, který každým dnem nabývá na významu: překrývání zájmů mezi společnostmi zabývajícími se těžbou bitcoinů a průmyslem umělé inteligence.
Jak uvádí CriptoNoticias, těžaři rozšiřují své aktivity o vývoj umělé inteligence.
Tyto společnosti, zvyklé na provozování velkých hardwarových infrastruktur a datových center, se snaží omezit svou expozici vůči volatilitě trhu s těžbou diverzifikací svých služeb.
Analýza bezpečnosti provedená společností Auradine je příkladem toho, jak se tento jev vyvíjí a jak těžaři využívají své technické zkušenosti k vstupu na trhy, kde neustále roste poptávka po výpočetních zdrojích, analytice a kyberbezpečnosti.
