WhatsApp Dolandırıcılık Uyarısı: Yapay zeka yalnızca tanımadığınız kişileri kontrol eder, rehberinizdeki kişileri kontrol etmez

12 Ağustos'ta Meta, WhatsApp için yeni bir özellik olan Scam Alert'ın teknik özetini yayınladı. Bu özellik, kimse dolandırıcılık mesajlarına kanmadan önce kullanıcıları uyarmak üzere tasarlanmıştır. Doğrulama süreci tamamen kullanıcının telefonunda gerçekleşir.

Etkinleştirildiğinde WhatsApp, cihaza küçük bir yapay zeka modeli indirir. Bu model, gelen mesajları analiz eder ve bunları bildirilen dolandırıcılık vakalarındaki kalıplarla, yani bilinen dolandırıcılık vakalarına özgü sohbet dizileri ve ifade biçimleriyle karşılaştırır. Bu amaçla hiçbir mesaj içeriği telefondan dışarı çıkmaz. Yalnızca gönderen ve alıcının düz metni görebildiği uçtan uca şifreleme, bozulmadan kalır.

Uyarıyı yalnızca alıcı görür

Model, olası bir dolandırıcılık girişimi tespit ederse, sohbet penceresinde doğrudan bir bildirim görünür. Gönderene herhangi bir bildirim gönderilmez. Bu noktada kullanıcı, göndereni engelleyebilir, bildirebilir veya sohbete devam edebilir. WhatsApp, Meta’ya otomatik olarak herhangi bir bildirimde bulunmaz. Bu, yalnızca kullanıcı aktif olarak “Bildir” seçeneğine dokunduğunda gerçekleşir.

Yalnızca adres defterinde kayıtlı olmayan gönderenlerden gelen mesajlar kontrol edilir

Bu bir sınırlamadır ve Meta’nın kendi açıklamasında da belirtilmiştir. Model, yalnızca kullanıcının rehberinde kayıtlı olmayan gönderenlerden gelen mesajları sınıflandırır. Zaten adres defterinde bulunan kişilerden gelen mesajlar kontrol edilmez.

Bu da ironik bir şekilde, en etkili dolandırıcılık yöntemlerinin kontrol dışında kaldığı anlamına gelir. Bir arkadaşın veya akrabanın WhatsApp hesabı ele geçirilirse, dolandırıcılık mesajı gerçek ve tanıdık bir hesaptan gelir. Dolandırıcılık Uyarısı bu tür durumlarda sessiz kalır. WhatsApp hesaplarını ele geçiren sahte bir uygulamanın örneği, bu tür bir ele geçirmenin nasıl işlediğini göstermiştir. Klonlanmış sesle yapılan şok edici bir arama bile, WhatsApp üzerinden gelmediği için bu kontrolü atlatır.

Bir kez güvenilir olarak işaretlerseniz, bir daha asla uyarı görmezsiniz

Bir uyarının yanlış olduğunu düşünüyorsanız, sohbeti güvenilir olarak işaretleyebilirsiniz. Uyarı, o kişi için kalıcı olarak kaybolur. Bu kullanışlıdır, ancak aynı zamanda bir zayıf noktadır: bu, yetenekli bir dolandırıcı zaten bir sohbet kurmuşken, baskı altında verdiğiniz türden bir karardır. Sohbeti bu şekilde güvenilir olarak işaretleyen herkes, aldığı son beş mesajı WhatsApp’a gönüllü olarak gönderebilir.

Doğrulanabilirlik için tasarlandı

Şeffaflık söz konusu olduğunda Meta, her zamankinden daha ileri gidiyor. Her model sürümü, kullanıma sunulmadan önce sağlama toplamı ile birlikte halka açık bir kayıt defterine kaydedilir. İmza Cloudflare’den gelir; Meta bunun için gerekli anahtara sahip değildir. Model ağırlıkları, araştırmacıların modelin gerçekten sadece dolandırıcılıkları tespit edip etmediğini doğrulayabilmesi için yayınlanmaktadır. Kullanıcılar, “Hesap” > “Bilgi İste” > “Dolandırıcılık Uyarısı Etkinliği” altında, hangi mesajların kontrol edildiğini ve o sırada hangi model sürümünün çalıştığını gösteren bir günlüğü bulabilirler.

Uyarıların ne sıklıkla verildiğine ve kullanıcıların nasıl tepki verdiğine ilişkin istatistikler, izole edilmiş bilgi işlem ortamlarında işlenir. Veriler, Meta tarafından görülmeden önce toplulaştırılır ve gizlenir; böylece bireysel kullanıcılar hakkında herhangi bir sonuç çıkarılması engellenir.

Henüz kullanıma açık değil

Dolandırıcılık Uyarısı, şu anda Meta’nın hata ödül programı ile birlikte sınırlı bir beta sürümü kapsamında çalışmaktadır. Şirket, hizmetin tam olarak ne zaman kullanıma sunulacağına veya hangi ülkelerde kullanılabileceğine dair bir tarih açıklamamıştır. Şu ana kadar Almanya ile ilgili herhangi bir açıklama yapılmamıştır. O zamana kadar eski kural geçerlidir: Para talebi alırsanız veya sözde yeni bir telefon numarası gönderilirse, söz konusu kişiyle ikinci bir kanal üzerinden, tercihen eski numarayı arayarak iletişime geçin. Şifre olmadan bile bir hesabın ne kadar çabuk ele geçirilebileceğini öğrenmek istiyorsanız, çalınan oturum çerezi hakkındaki raporu inceleyin.