Stalni porast digitalne prijevare i prijevare Kibernetički kriminal na društvenim mrežama i aplikacijama za razmjenu poruka prisilio je velike tehnološke tvrtke da značajno poboljšaju svoje sigurnosne mjere. Sve je češće da kibernetički kriminalci pokušavaju ukrasti račune, bankovne podatke ili se lažno predstavljati kao poznati brendovi putem poruka, oglasa i kontakata koji na prvi pogled izgledaju bezopasno.
U ovom kontekstu, Meta pojačava svoju sigurnosnu strategiju novom generacijom Umjetna inteligencija za borbu protiv prijevara primijenjena na Facebooku, WhatsAppu i MessengeruPristup je jasan: upozoriti korisnika prije nego što upadne u zamku, smanjiti izloženost zlonamjernom sadržaju i što više otežati život prevarantima koji djeluju na njihovim platformama.
Umjetna inteligencija protiv prijevara kako bi bila ispred prijevara na Meti
Meta implementira skup značajki koje kombiniraju umjetna inteligencija na samom uređaju i analiza na udaljenim poslužiteljimaOva arhitektura omogućuje, s jedne strane, poštivanje end-to-end enkripcije u uslugama poput WhatsAppa i Messengera, a s druge strane, nudi dodatni sloj napredne detekcije kada korisnik odluči poslati određeni sumnjivi sadržaj na pregled.
Alati se oslanjaju na modele sposobne za analizu tekst, slike, poveznice i obrasci ponašanjaCilj je identificirati sve, od lažnih oglasa koji koriste lica slavnih osoba bez dopuštenja do poruka "tehničke podrške" koje pokušavaju dobiti verifikacijske kodove, kao i zahtjeva za prijateljstvo s lažnih računa koji žele steći povjerenje žrtve.
Prema podacima koje je podijelila tvrtka, problem nije beznačajan: Meta tvrdi da ima poremećeni milijuni računa i oglasa povezanih s organiziranim mrežama prijevara na Facebooku, Instagramu i WhatsAppu, u nekim slučajevima povezani sa stvarnim centrima za prevare raširenim po nekoliko zemalja.
Ova tehnološka ofenziva također se oslanja na timove za ljudsku reviziju koji rade rame uz rame s umjetnom inteligencijom, tako da se modeli obučavaju na stvarnim primjerima i smanjuje se margina pogreške u klasifikaciji sumnjivog sadržaja.
WhatsApp: zaštitni zid protiv otmice računa i sumnjivih grupa
U slučaju WhatsAppMeta-ina umjetna inteligencija protiv prijevara fokusira se na nekoliko posebno uobičajenih vektora napada: otmica računa putem povezivanja uređaja, prijevare i obmane tehničke podrške u nepoznatim grupama.
Jedna od ključnih novih značajki je sustav Upozorenja kada netko pokuša povezati račun s neprepoznatim uređajem.Ako se otkrije sumnjiv zahtjev, aplikacija prikazuje informacije poput lokacije s koje je pokušaj došao, uz izričito upozorenje da bi se moglo raditi o prijevari. To korisniku omogućuje da zaustavi proces prije nego što treća strana dobije puni pristup njihovim razgovorima.
Umjetna inteligencija također intervenira u situacijama dijeljenje zaslona tijekom videopoziva s nepoznatim kontaktimaKada se otkrije ovaj obrazac rizika, sustav izdaje automatsko upozorenje, budući da se mnoge prevare "tehničke podrške" oslanjaju na gledanje korisničkog zaslona uživo kako bi snimile bankovne podatke, jednokratne kodove ili druge posebno osjetljive podatke.
Nadalje, grupe kojima se korisnici pridružuju bez da mnogo znaju o svojim članovima sada pokazuju preventivna sigurnosna pločaOva ploča nudi detalje o grupi, savjete za otkrivanje pokušaja prijevare i mogućnost odlaska bez interakcije, isključivanjem obavijesti dok korisnik ne potvrdi da želi ostati.
Meta također testira Kontekstualna upozorenja prilikom pokretanja razgovora s brojevima koji nisu u adresaruAko sustav identificira tipične znakove phishinga, lažnih ulaganja ili nejasnih zahtjeva za novcem, preporučuje izuzetan oprez i nudi mogućnost blokiranja ili prijavljivanja s nekoliko dodira.
Facebook: Ispituje zahtjeve za prijateljstvo i lažne stranice za "podršku"
En FacebookUmjetna inteligencija u borbi protiv prijevara ima dva glavna fronta: sumnjivi zahtjevi za prijateljstvo i web-stranice koje se lažno predstavljaju kao odjele za korisničku podršku ili etablirane robne marke.
Nakon primanja zahtjeva za prijateljstvo, platforma može prikazati upozorenje ako otkrije faktore rizika: račune s vrlo malo zajedničkih prijatelja, nedavno kreirane profile, geografsko podrijetlo koje ne odgovara korisnikovoj mreži ili ponašanja koja odgovaraju obrascima povezanim s bot mrežama. Na taj način korisnik može bolje procijeniti treba li zahtjev prihvatiti, ignorirati ili blokirati prije nego što otvorite vrata potencijalnom prevarantu.
Drugi relevantan fokus je lažne stranice za podršku i računi koje pokušavaju prevariti korisnike koji traže pomoć za oporavak računa ili rješavanje problema. Meta tvrdi da je poduzela mjere protiv desetaka tisuća ovih stranica, koje su obično tražile pristupne podatke, identifikacijske dokumente ili plaćanja kako bi "ubrzale" navodne procese oporavka.
Tvrtka također jača svoje mehanizme za Verifikacija oglašivača i otkrivanje lažnih oglasaTo uključuje one koji koriste slike slavnih osoba, poslovnih ljudi ili javnih osoba bez dopuštenja. Umjetna inteligencija uspoređuje lica i identificira ponavljajuće manipulacije koje se koriste za legitimiranje lažnih ulaganja, nepostojećih promocija ili proizvoda koji nikada ne stignu.
Ova je točka posebno osjetljiva za tvrtke i kreatore sadržaja u Španjolskoj i ostatku Europe, gdje se oglasi koji koriste korištenje slike poduzetnika ili poznatih lokalnih osoba za privlačenje žrtavastvarajući zbunjenost i štetu na ugledu koju je teško popraviti.
Messenger: Korisnički konfigurirano otkrivanje prijevara
Aplikacija za razmjenu poruka povezana s Facebookom, Glasnik, uključuje specifičnu funkciju pod nazivom "Otkrivanje prijevare"Ova opcija, dostupna putem postavki privatnosti i sigurnosti, detaljnije analizira razgovore koje su pokrenuli nepoznati kontakti. Nakon aktiviranja, ova značajka pruža dublju analizu razgovora.
Umjetna inteligencija se fokusira na karakteristični obrasci lažnih ponudaTo uključuje: ponude za rad na daljinu koje zahtijevaju unaprijed plaćanje, ulaganja s zajamčenim povratom, hitne poruke s traženjem novca ili pokušaje lažnog predstavljanja kao osoblje za podršku poznatih tvrtki. Ako otkrije nešto neobično, prikazuje upozorenje koje označava vrstu prisutnog rizika i predlaže blokiranje ili prijavu pošiljatelja.
Uz izričito odobrenje korisnika, označene poruke mogu se slati od slučaja do slučaja Meta poslužitelji za dublju analizu umjetne inteligencijeOvaj korak privremeno prekida end-to-end enkripciju samo za taj određeni sadržaj, odluku koju svaka osoba mora odvagnuti prema svojoj toleranciji rizika i zabrinutosti za privatnost.
Paralelno s tim, Messenger je poboljšao svoj sustav zaštita vezeFunkcija Sigurno pregledavanje, koja je već analizirala URL-ove na samom uređaju, sada se oslanja na dodatni sloj nazvan napredna zaštita, povezan s stalno ažurirane liste s opasnih stranica. Cilj dizajna je blokirati pristup phishing stranicama ili preuzimanjima zlonamjernog softvera bez otkrivanja identiteta korisnika ili potpune povijesti pregledavanja.
Za timove za podršku, prodaju ili korisničku podršku koji koriste Messenger kao svoj redoviti kanal, ova poboljšanja predstavljaju i Dodatna prepreka protiv prijevara usmjerenih na vaš vlastiti brend kao donekle sigurnije okruženje za korisnike s kojima svakodnevno komuniciraju.
Umjetna inteligencija ispod haube
Metine nove sigurnosne značajke oslanjaju se na hibridnu arhitekturu koja kombinira dva komplementarna pristupa. Prvi je analiza na uređajuRadi izravno na korisnikovom mobilnom telefonu ili računalu i poštuje end-to-end enkripciju, jer ne treba slati sadržaj na vanjske poslužitelje kako bi otkrio obrasce rizika.
Ova lokalna analiza usredotočuje se na signale poput činjenice da primati poruke s nespremljenih brojevaTo uključuje pokušaje dijeljenja zaslona sa strancima, nagle promjene u ponašanju računa ili pojavu poveznica koje odgovaraju prethodnim izvješćima o prijevari. Radom na samom uređaju smanjuje se količina podataka poslanih izvana, pružajući neposrednu prvu liniju obrane.
Drugi sloj se aktivira kada korisnik to odluči Pošaljite sadržaj na pregled pomoću umjetne inteligencije u oblakuU ovom slučaju, označene poruke ili stavke obrađuju Meta sustavi koji koriste složenije modele za procjenu odgovara li ono što se događa poznatoj vrsti prijevare. Ako analiza zaključi da postoji rizik, platforma prikazuje objašnjenja o potencijalnoj prijevari i preporučuje određene radnje.
Tvrtka naglašava da, osim umjetne inteligencije, postoje i timovi za moderiranje koji pregledavaju milijune sadržaja dnevnoTaj ljudski element omogućuje, između ostalog, usavršavanje modela, upravljanje najosjetljivijim slučajevima i demontiranje velikih koordiniranih kampanja koje nadilaze jednostavne izolirane poruke.
Cijeli ovaj mehanizam nadopunjuju sporazumi sa sigurnosnim snagama i drugim akterima u tehnološkom sektoru, kako bi se dijelili obavještajni podaci o zlonamjernim domenama, mrežama lažnih računa i novim taktikama koje koriste kriminalne organizacije.
Glavne vrste prijevara koje Meta-ina umjetna inteligencija pokušava zaustaviti
Meta platforme su plodno tlo za širok raspon digitalnih prijevaraNovi alati osmišljeni su za otkrivanje i zaustavljanje, između ostalog, sljedećih vrsta uobičajenih prijevara usmjerenih na korisnike u Španjolskoj i Europi:
- Lažne prevare tehničke podrške: Ljudi koji se lažno predstavljaju kao službe za podršku bankama, operateri ili čak sam Meta sustav kako bi zatražili verifikacijske kodove, lozinke ili udaljeni pristup uređaju.
- Prijevara s dijeljenjem zaslona: videopozivi u kojima prevarant uvjerava žrtvu da pokaže svoj ekran kako bi snimio bankovne podatke, SMS poruke s jednokratnim kodovima ili vjerodajnice za usluge poput online bankarstva ili platnih sustava.
- Nepostojeće ponude za posao i stipendije: Oglasi ili privatne poruke koje obećavaju lake ili dobro plaćene poslove u zamjenu za početnu uplatu za "postupke" ili za davanje osjetljivih osobnih podataka.
- Investicijske sheme i kriptovalute: kampanje koje obećavaju brz i zajamčen povrat, često potkrijepljene neovlaštenim korištenjem poznatih osoba ili poznatih poslovnih ljudi.
- Phishing i zlonamjerne poveznice: URL-ovi koji oponašaju legitimne portale - banke, platforme za e-trgovinu, javne usluge - s ciljem krađe vjerodajnica ili instaliranja zlonamjernog softvera na uređaj.
Kombinacija automatiziranog praćenja, crnih lista opasnih stranica i mehanizama za prijavu korisnika omogućuje to Sustav se brzo prilagođava novim varijacijama ovih prijevara.koje često mutiraju kako bi izbjegle lakše otkrivanje.
Utjecaj na korisnike, tvrtke i osnivače koji ovise o Meti
Osim što štite prosječnog korisnika, nove značajke umjetne inteligencije protiv prijevara imaju izravan utjecaj na Tvrtke koje koriste Facebook, WhatsApp i Messenger kao svoju osnovnu infrastrukturu za prodaju, korisničku podršku ili izgradnju zajednice.
S jedne strane, ako tvrtka koristi WhatsApp Business ili Messenger za komunikaciju s kupcima, Njihove poruke mogle bi pokrenuti upozorenja ako ih sustav prepozna kao sumnjive.Na primjer, uključivanjem mnogih poveznica ili traženjem osjetljivih podataka. To zahtijeva pregled scenarija, tona i učestalosti kako bi se smanjili lažno pozitivni rezultati i održalo povjerenje publike.
S druge strane, startupi u posebno osjetljivim sektorima - kao što su fintech, digitalno zdravlje ili pravne usluge— u tim alatima pronalaze jasan znak: sigurnost temeljena na umjetnoj inteligenciji više nije „dodatak“ i sada je dio minimalnih očekivanja u svakom proizvodu ili usluzi koja obrađuje kritične podatke.
Metina rastuća suradnja s drugim tehnološkim igračima i javnim tijelima također otvara vrata Nove prilike za tvrtke specijalizirane za kibernetičku sigurnost, koji mogu integrirati svoja rješenja s ekosustavima za otkrivanje prijetnji velikih platformi ili pružati konzultantske usluge manjim tvrtkama.
U konačnici, učinkovitost ovih mjera ovisit će o tome hoće li i korisnici i organizacije usvojiti dobre prakse: aktiviranje dostupnih značajki protiv prijevara, ažuriranje aplikacija, oprez prema neželjenim porukama i prijavljivanje svakog sumnjivog ponašanja sustavima za detekciju feedova.
S provedbom svog novog Umjetna inteligencija protiv prijevara na Facebooku, WhatsAppu i MessengeruMeta čini važan korak prema digitalnom okruženju koje je nešto teže za prevarante i malo sigurnije za one koji svakodnevno koriste njezine usluge, od pojedinačnih korisnika do tvrtki koje se oslanjaju na te platforme za bitan dio svojih aktivnosti.
