Neustálý nárůst digitální podvody a podvody Kyberkriminalita na sociálních sítích a v aplikacích pro zasílání zpráv donutila velké technologické společnosti výrazně zlepšit svá bezpečnostní opatření. Stále častěji se kyberzločinci pokoušejí ukrást účty, bankovní údaje nebo se vydávají za známé značky prostřednictvím zpráv, reklam a kontaktů, které se na první pohled zdají neškodné.
V této souvislosti meta posiluje svou bezpečnostní strategii novou generací Umělá inteligence proti podvodům aplikovaná na Facebook, WhatsApp a MessengerPřístup je jasný: varovat uživatele dříve, než padnou do pasti, minimalizovat vystavení škodlivému obsahu a co nejvíce ztížit život podvodníkům působícím na jejich platformách.
Umělá inteligence proti podvodům, která vám pomůže udržet krok s podvody na platformě Meta
Meta nasazuje sadu funkcí, které kombinují umělá inteligence na samotném zařízení a analýza na vzdálených serverechTato architektura umožňuje na jedné straně respektovat end-to-end šifrování ve službách, jako jsou WhatsApp a Messenger, a na druhé straně nabídnout další vrstvu pokročilé detekce, když se uživatel rozhodne odeslat určitý podezřelý obsah ke kontrole.
Nástroje se spoléhají na modely schopné analyzovat text, obrázky, odkazy a vzorce chováníCílem je identifikovat vše od podvodných reklam, které bez svolení používají tváře celebrit, přes zprávy „technické podpory“, které se snaží získat ověřovací kódy, až po žádosti o přátelství z falešných účtů, jejichž cílem je získat důvěru oběti.
Podle údajů sdílených společností není problém zanedbatelný: Meta tvrdí, že má narušil miliony účtů a reklam spojených s organizovanými podvodnými sítěmi na Facebooku, Instagramu a WhatsAppu, v některých případech propojených se skutečnými podvodnými centry rozmístěnými po několika zemích.
Tato technologická ofenziva se také spoléhá na týmy pro lidskou kontrolu, které spolupracují bok po boku s umělou inteligencí, aby se modely trénovaly na reálných příkladech a snížila se míra chybovosti při klasifikaci pochybného obsahu.
WhatsApp: firewall proti únosu účtů a podezřelým skupinám
V případě WhatsAppMeta se zaměřuje na několik obzvláště běžných vektorů útoku: únos účtu prostřednictvím propojení zařízení, podvody a klamání technické podpory v neznámých skupinách.
Jednou z klíčových nových funkcí je systém Upozorní, když se někdo pokusí propojit účet s nerozpoznaným zařízením.Pokud je zjištěn podezřelý požadavek, aplikace zobrazí informace, jako je místo, ze kterého pokus pochází, spolu s výslovným varováním, že by se mohlo jednat o podvod. To uživateli umožňuje zastavit proces dříve, než třetí strana získá plný přístup k jeho konverzacím.
Umělá inteligence zasahuje i v situacích, kdy sdílení obrazovky během videohovorů s neznámými kontaktyKdyž je tento rizikový vzorec detekován, systém vydá automatické varování, protože mnoho podvodů typu „technická podpora“ se spoléhá na živé sledování obrazovky uživatele za účelem zachycení bankovních přihlašovacích údajů, jednorázových kódů nebo jiných obzvláště citlivých informací.
Skupiny, ke kterým se uživatelé připojují, aniž by o jejich členech věděli mnoho, nyní navíc vykazují preventivní bezpečnostní panelTento panel nabízí podrobnosti o skupině, tipy pro odhalování pokusů o podvod a možnost odejít bez interakce a ztlumit oznámení, dokud uživatel nepotvrdí, že chce zůstat.
Meta také testuje Kontextová upozornění při zahájení chatu s čísly, která nejsou v adresářiPokud systém identifikuje typické známky phishingu, falešných investic nebo nejasných žádostí o peníze, doporučuje opatrnost a nabízí možnost zablokování nebo nahlášení několika klepnutími.
Facebook: Prověřování žádostí o přátelství a falešných stránek „podpůrné“
En facebookUmělá inteligence v boji proti podvodům má dvě hlavní fronty: podezřelé žádosti o přátelství a webové stránky, které se vydávají za oddělení zákaznických služeb nebo zavedené značky.
Po obdržení žádosti o přátelství může platforma zobrazit varování, pokud zjistí rizikové faktory: účty s velmi malým počtem společných přátel, nedávno vytvořené profily, geografický původ, který neodpovídá síti uživatele, nebo chování, které odpovídá vzorcům spojeným s botovými sítěmi. Uživatel tak může lépe posoudit, zda žádost přijmout, ignorovat nebo zablokovat než otevřete dveře potenciálnímu podvodníkovi.
Dalším relevantním zaměřením je falešné stránky a účty podpory které se snaží podvést uživatele hledající pomoc s obnovením účtu nebo vyřešením problému. Meta tvrdí, že podnikla kroky proti desítkám tisíc těchto stránek, které obvykle požadovaly přihlašovací údaje, doklady totožnosti nebo platby za účelem „urychlení“ údajných procesů obnovy.
Společnost také posiluje své mechanismy pro Ověřování inzerentů a detekce podvodných reklamPatří sem i ti, kteří bez svolení používají obrázky celebrit, podnikatelů nebo veřejně známých osobností. Umělá inteligence porovnává tváře a identifikuje opakující se manipulace používané k legitimizaci falešných investic, neexistujících propagačních akcí nebo produktů, které nikdy nedorazí.
Tento bod je obzvláště citlivý pro společnosti a tvůrce obsahu ve Španělsku a zbytku Evropy, kde reklamy využívající využívání image podnikatelů nebo známých místních osobností k přilákání obětícož vede k zmatku a poškození pověsti, které je těžké napravit.
Messenger: Uživatelsky konfigurovatelná detekce podvodů
Aplikace pro zasílání zpráv propojená s Facebookem, posel, obsahuje specifickou funkci nazývanou „Detekce podvodů“Tato možnost, dostupná v nastavení soukromí a zabezpečení, analyzuje konverzace zahájené neznámými kontakty podrobněji. Po aktivaci tato funkce poskytuje hloubkovou analýzu konverzací.
Umělá inteligence se zaměřuje na charakteristické vzorce falešných nabídekPatří mezi ně: nabídky práce na dálku požadující platby předem, investice s garantovaným výnosem, urgentní zprávy s žádostí o peníze nebo pokusy o vydávání se za podpůrný personál známých společností. Pokud zjistí cokoli neobvyklého, zobrazí upozornění s uvedením typu přítomného rizika a navrhne zablokování nebo nahlášení odesílatele.
Pokud k tomu uživatel výslovně souhlasí, mohou být označené zprávy zasílány v jednotlivých případech Meta servery pro hlubší analýzu umělé inteligenceTento krok dočasně přeruší end-to-end šifrování pouze pro daný obsah, což je rozhodnutí, které musí každý zvážit podle své tolerance rizika a obav o soukromí.
Souběžně s tím Messenger vylepšil svůj systém ochrana odkazůFunkce Bezpečné prohlížení, která již dříve analyzovala adresy URL přímo v zařízení, se nyní spoléhá na další vrstvu zvanou pokročilá ochrana, která je propojena s… neustále aktualizované seznamy z nebezpečných webů. Cílem návrhu je blokovat přístup k phishingovým stránkám nebo stahování malwaru, aniž by byla odhalena identita uživatele nebo úplná historie prohlížení.
Pro týmy podpory, prodeje nebo zákaznických služeb, které používají Messenger jako svůj běžný kanál, představují tato vylepšení jak… Další bariéra proti podvodům zaměřeným na vaši vlastní značku jako o něco bezpečnější prostředí pro uživatele, se kterými denně interagují.
Umělá inteligence pod kapotou
Nové bezpečnostní funkce Meta se spoléhají na hybridní architekturu, která kombinuje dva vzájemně se doplňující přístupy. Prvním je analýza na zařízeníFunguje přímo na mobilním telefonu nebo počítači uživatele a respektuje end-to-end šifrování, protože pro detekci rizikových vzorců nemusí odesílat obsah na externí servery.
Tato lokální analýza se zaměřuje na signály, jako je například skutečnost, že přijímat zprávy z neuložených číselPatří sem pokusy o sdílení obrazovky s cizími lidmi, náhlé změny v chování účtu nebo zobrazení odkazů, které odpovídají předchozím hlášením o podvodech. Díky provozu na samotném zařízení se snižuje objem dat odesílaných externě, což poskytuje okamžitou první linii obrany.
Druhá vrstva se aktivuje, když se uživatel rozhodne Odesílání obsahu k recenzi pomocí umělé inteligence v clouduV tomto případě jsou označené zprávy nebo položky zpracovány systémy společnosti Meta, které pomocí složitějších modelů posoudí, zda se daná událost shoduje se známým typem podvodu. Pokud analýza dojde k závěru, že existuje riziko, platforma zobrazí vysvětlení k potenciálnímu podvodu a doporučí konkrétní kroky.
Společnost zdůrazňuje, že kromě umělé inteligence existují i týmy lidských moderátorů, které denně kontrolují miliony kusů obsahuTento lidský prvek mimo jiné umožňuje zdokonalování modelů, řešení nejcitlivějších případů a rušení rozsáhlých koordinovaných kampaní, které jdou nad rámec jednoduchých izolovaných sdělení.
Celý tento mechanismus je doplněn dohodami s bezpečnostními složkami a dalšími aktéry v technologickém sektoru za účelem sdílení informací o škodlivých doménách, sítích falešných účtů a nově vznikajících taktikách používaných zločineckými organizacemi.
Hlavní typy podvodů, kterým se umělá inteligence Meta snaží zabránit
Metaplatformy jsou živnou půdou pro široká škála digitálních podvodůNové nástroje jsou navrženy tak, aby mimo jiné detekovaly a zastavily následující typy běžných podvodů zaměřených na uživatele ve Španělsku a Evropě:
- Falešné podvody s technickou podporou: Lidé, kteří se vydávají za bankovní podpůrné služby, operátory nebo dokonce samotnou Metu, aby si vyžádali ověřovací kódy, hesla nebo vzdálený přístup k zařízení.
- Podvod se sdílením obrazovky: videohovory, při kterých podvodník přesvědčí oběť, aby ukázala obrazovku, aby získala bankovní údaje, SMS s jednorázovými kódy nebo přihlašovací údaje pro služby, jako je online bankovnictví nebo platební brány.
- Neexistující pracovní nabídky a stipendia: Reklamy nebo soukromé zprávy slibující snadné nebo dobře placené pracovní pozice výměnou za počáteční platbu za „procedury“ nebo za poskytnutí citlivých osobních údajů.
- Investiční schémata a kryptoměny: kampaně slibující rychlé a zaručené výnosy, často podporované neoprávněným využíváním slavných osobností nebo známých podnikatelů.
- Phishing a škodlivé odkazy: URL adresy, které napodobují legitimní portály – banky, platformy elektronického obchodování, veřejné služby – s cílem odcizit přihlašovací údaje nebo nainstalovat malware do zařízení.
Kombinace automatizovaného monitorování, černých listin nebezpečných webů a mechanismů hlášení uživateli to umožňuje Systém se rychle přizpůsobuje novým variantám těchto podvodů.které často mutují, aby se vyhnuly snadnější detekci.
Dopad na uživatele, firmy a zakladatele, kteří jsou závislí na Meta
Kromě ochrany průměrného uživatele mají nové funkce umělé inteligence proti podvodům přímý dopad na Firmy, které používají Facebook, WhatsApp a Messenger jako svou základní infrastrukturu pro prodej, zákaznický servis nebo budování komunity.
Na jedné straně, pokud společnost používá WhatsApp Business nebo Messenger ke komunikaci se zákazníky, Jejich zprávy by mohly spustit upozornění, pokud je systém vnímá jako podezřelé.Například zahrnutím mnoha odkazů nebo vyžadováním citlivých údajů. To vyžaduje kontrolu scénářů, tónu a četnosti, aby se minimalizovaly falešně pozitivní výsledky a zachovala důvěra publika.
Na druhou stranu, startupy v obzvláště citlivých odvětvích – jako je fintech, digitální zdravotnictví nebo právní služby– v těchto nástrojích nacházejí jasné znamení: zabezpečení založené na umělé inteligenci již není „příplatkem“ a nyní je součástí minimálních očekávání u jakéhokoli produktu nebo služby, která zpracovává kritická data.
Rostoucí spolupráce společnosti Meta s dalšími technologickými hráči a veřejnými orgány také otevírá dveře k Nové příležitosti pro firmy specializující se na kybernetickou bezpečnost, které mohou integrovat svá řešení s ekosystémy detekce hrozeb velkých platforem nebo poskytovat poradenské služby menším společnostem.
Účinnost těchto opatření bude v konečném důsledku záviset na tom, zda uživatelé i organizace přijmou osvědčené postupy: aktivace dostupných funkcí proti podvodům, udržování aplikací aktualizovaných, opatrnost před nevyžádanými zprávami a hlášení jakéhokoli podezřelého chování systémům pro detekci kanálů.
S implementací svého nového Umělá inteligence proti podvodům na Facebooku, WhatsAppu a MessengeruMeta dělá důležitý krok směrem k digitálnímu prostředí, které je pro podvodníky poněkud obtížnější a zároveň bezpečnější pro ty, kteří její služby denně využívají, od individuálních uživatelů až po společnosti, které se na tyto platformy spoléhají pro podstatnou část své činnosti.
