Meta, en son genç güvenliği adımında Instagram DM’lerindeki çıplaklığı otomatik olarak bulanıklaştıracak

Meta, gençleri istenmeyen çıplaklık veya cinsel şantaj dolandırıcılıklarından korumaya yardımcı olmayı amaçlayan Instagram’da yeni özellikleri test ettiğini duyurdu. Bu, DM’lerde Çıplaklık Koruması adı verilen ve çıplaklık içerdiği tespit edilen görüntüleri otomatik olarak bulanıklaştıran bir özelliği içerir.

Teknoloji devi ayrıca gençleri mahrem görüntüleri paylaşma konusunda iki kez düşünmeye teşvik eden bir uyarı sunarak kendilerini korumaları konusunda teşvik edecek. Meta, bunun karşılığında insanları kendi resimlerini göndermeleri için kandırmak amacıyla çıplak resimler gönderebilecek dolandırıcılara karşı korumayı artıracağını umduğunu söylüyor.

Aynı zamanda önerdiği değişiklikleri yapmak potansiyel dolandırıcıların ve suçluların gençleri bulmasını ve onlarla etkileşime geçmesini zorlaştırıyor. Meta, cinsel şantaj dolandırıcılığına “potansiyel olarak” dahil olan hesapları belirlemek ve bu şüpheli hesapların diğer kullanıcılarla nasıl etkileşim kurabileceğine bazı sınırlamalar uygulamak için yeni teknoloji geliştirdiğini söylüyor.

Perşembe günü açıklanan bir başka adımda Meta, platformlar arası çevrimiçi çocuk güvenliği programı Lantern ile paylaştığı verileri daha fazla “seks şantajına özgü sinyaller” içerecek şekilde artırdığını söyledi.

Sosyal ağ devinin, istenmeyen çıplak fotoğrafların gönderilmesini yasaklayan veya diğer kullanıcıları samimi görüntüler göndermeye zorlamayı amaçlayan uzun süredir devam eden politikaları var. Ancak bu, bu sorunların çevrimiçi ortamda yaygın olmasını ve çok sayıda genç için sefalete yol açmasını ve bazen son derece trajik sonuçlara yol açmasını engellemiyor.

En son değişiklikleri aşağıda daha ayrıntılı olarak topladık.

Çıplaklık ekranları

DM’lerde Çıplaklık Koruması, çıplak görüntüleri bir güvenlik ekranının arkasına yerleştirerek genç Instagram kullanıcılarını siber saldırılardan korumayı amaçlıyor. Kullanıcılar daha sonra onu görüntüleyip görüntülememeyi seçebilecekler.

Meta, “Ayrıca onlara, göndereni engelleme ve sohbeti bildirme seçeneğiyle birlikte yanıt verme konusunda baskı hissetmemelerini teşvik eden bir mesaj göstereceğiz” dedi.

Çıplaklık güvenlik ekranı dünya çapında 18 yaş altı için varsayılan olarak açık olacaktır. Daha yaşlı kullanıcılar, kendilerini bu özelliği açmaya teşvik eden bir bildirim görecektir.

Açıklamada, “Çıplaklık koruması etkinleştirildiğinde, çıplaklık içeren görseller gönderen kişiler, hassas fotoğraflar gönderirken dikkatli olmaları gerektiğini ve fikirlerini değiştirmeleri halinde bu fotoğrafları göndermeyi iptal edebileceklerini hatırlatan bir mesaj görecek” ifadelerine yer verildi.

Çıplak bir görseli iletmeye çalışan herkes, onları tekrar düşünmeye teşvik eden aynı uyarıyı görecektir.

Bu özellik, cihaz üzerindeki makine öğrenimi tarafından desteklenmektedir ve Meta, görüntü analizinin kullanıcının kendi cihazında gerçekleştirilmesi nedeniyle uçtan uca şifrelenmiş sohbetlerde çalışacağını söyledi.

Güvenlik ipuçları

Başka bir koruma tedbiri kapsamında, çıplak fotoğraf gönderen veya alan Instagram kullanıcıları, Meta’nın uzmanların rehberliğinde geliştirildiğini söylediği, potansiyel risklerle ilgili bilgilerin yer aldığı güvenlik ipuçlarına yönlendirilecek.

“Bu ipuçları, insanların sizin bilginiz dışında ekran görüntüsü alabileceği veya görselleri iletebileceği, o kişiyle ilişkinizin gelecekte değişebileceği ve söyledikleri kişi olmadıkları takdirde profilleri dikkatlice incelemeniz gerektiği konusunda hatırlatmalar içeriyor” diye yazdı. . “Ayrıca Meta Güvenlik Merkezi, destek yardım hatları, 18 yaşın üzerindekiler için StopNCII.org ve 18 yaşın altındakiler için Take It Down gibi çeşitli kaynaklara da bağlantı veriyorlar.

Ayrıca, Meta’nın seks şantajı nedeniyle kaldırdığı bir hesapla etkileşimde bulunmuş olabilecek kişilere yönelik, onları ilgili uzman kaynaklara yönlendirecek açılır mesajları da test ediyor.

“Uygulama içi raporlama akışlarımıza dünyanın dört bir yanından yeni çocuk güvenliği yardım hatlarını da ekliyoruz. Bu, gençler çıplaklık, özel görüntüleri paylaşma tehditleri veya cinsel istismar veya teşvik gibi ilgili sorunları bildirdiğinde onları mümkün olan yerlerde yerel çocuk güvenliği yardım hatlarına yönlendireceğimiz anlamına geliyor” diye ekledi.

Seks şantajcılarını tespit edecek teknoloji

Meta, şantajcıların farkına varıldığında hesaplarının kaldırıldığını söylese de, onları kapatmak için öncelikle kötü aktörleri tespit etmesi gerekiyor. Yani Meta daha da ileri gitmeye çalışıyor: “Hesapların nerede bulunabileceğini belirlemeye yardımcı olacak teknoloji geliştirmek” olduğunu söylüyor. potansiyel olarak cinsel şantaj davranışını gösterebilecek bir dizi sinyale dayanarak seks şantaj dolandırıcılığı yapıyor olmak”.

“Bu sinyaller mutlaka bir hesabın kurallarımızı ihlal ettiğinin kanıtı olmasa da, bu hesapların genç hesaplarını bulmasını ve onlarla etkileşime geçmesini önlemeye yardımcı olmak için ihtiyati adımlar atıyoruz” diye devam ediyor ve şunu ekliyor: “Bu, bizim yürüttüğümüz çalışmalara dayanıyor Potansiyel olarak şüpheli diğer hesapların gençleri bulmasını ve onlarla etkileşime geçmesini önlemek için zaten bunu yapıyoruz.”

Meta’nın bunun için hangi teknolojiyi kullandığı ya da hangi sinyallerin potansiyel bir seks şantajcısını işaret ettiği tam olarak belli değil (daha fazlasını istedik) ama muhtemelen kötü aktörleri tespit etmek için iletişim kalıplarını analiz edebilir.

Meta tarafından potansiyel şantajcı olarak işaretlenen hesaplar, diğer kullanıcılarla nasıl mesajlaşabilecekleri veya onlarla nasıl etkileşim kurabilecekleri konusunda kısıtlamalarla karşılaşacak.

“[A]Hesapların göndermeye çalıştığı potansiyel seks şantajı mesaj talepleri doğrudan alıcının gizli istekler klasörüne gidecek, bu da mesaj hakkında bilgilendirilmeyecekleri ve mesajı asla görmeleri gerekmeyeceği anlamına geliyor” diye yazdı.

Halihazırda potansiyel dolandırıcılık veya şantaj hesaplarıyla sohbet eden kullanıcıların sohbetleri kapatılmayacak, ancak onları özel görüntülerini paylaşmaya yönelik her türlü tehdidi bildirmeye teşvik eden ve onlara bu tür tehditleri kabul etmeyen her şeye hayır diyebileceklerini hatırlatan Güvenlik Bildirimleri gösterilecek. kendilerini rahatsız hissediyorlar”, Meta’ya göre.

Genç kullanıcılar, Instagram’da bağlı olmadıkları yetişkinlerden (ve ayrıca bazı durumlarda diğer gençlerden) DM almaktan zaten korunmaktadır. Ancak Meta, bir gencin profilindeki “Mesaj” düğmesini potansiyel seks şantaj hesaplarına, yani bağlantılı olsalar bile göstermeme konusunda bir adım daha atıyor.

“Ayrıca insanların takipçi, takip ve beğeni listelerindeki bu hesaplardan gençleri gizlemeyi ve Arama sonuçlarında genç hesaplarını bulmalarını zorlaştırmayı da test ediyoruz” diye ekledi.

Şirketin, bloğun Dijital Hizmetler Yasası’nın (DSA) geçen yaz yürürlüğe girmesinden bu yana, şirketin Avrupa’da Instagram’daki çocuk güvenliği riskleri konusunda artan bir inceleme altında olduğunu ve uygulayıcıların yaklaşımı hakkında sorular sorduğunu belirtmekte fayda var.

Güvenliğe doğru uzun, yavaş bir sürünme

Meta daha önce de şantajla mücadele için önlemler açıklamıştı; en son Şubat ayında Take It Down’a erişimi genişletmişti.

Üçüncü taraf aracı, insanların kendi cihazlarında yerel olarak mahrem bir görselin karmasını oluşturmasına ve bunu Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi ile paylaşmasına olanak tanır; böylece şirketlerin intikamı aramak ve kaldırmak için kullanabileceği, rıza dışı görsel karmalarının bir deposu oluşturulur. porno.

Meta’nın önceki yaklaşımları, gençlerin çıplak fotoğraflarını yüklemelerini gerektirdiği için eleştirilmişti. Sosyal ağların çocukları nasıl koruması gerektiğini düzenleyen katı yasaların yokluğunda Meta, yıllar boyunca kendi kendini düzenlemeye bırakıldı ve bu da düzensiz sonuçlar doğurdu.

Bununla birlikte, 2021’de yürürlüğe giren Birleşik Krallık Çocuk Yasası ve daha yakın zamanda AB’nin DSA’sı gibi son yıllarda platformlara bazı gereksinimlerin gelmesiyle birlikte Meta gibi teknoloji devleri nihayet küçüklerin korunmasına daha fazla dikkat etmek zorunda kalıyor.

Örneğin, Temmuz 2021’de Meta, Birleşik Krallık’taki uyumluluk son tarihinin hemen öncesinde gençlerin Instagram hesaplarını varsayılan olarak gizli hale getirmeye geçti. Bunu Kasım 2022’de Instagram ve Facebook’ta gençler için daha sıkı gizlilik ayarları izledi.

Bu Ocak Metası aynı zamanda, Şubat ayında DSA’ya tam uyum süresinin başlamasından kısa bir süre önce, Facebook ve Instagram’da gençlerin varsayılan olarak daha katı mesaj ayarlarına geçeceğini ve henüz bağlı olmadıkları gençlere mesaj göndermelerine sınırlama getirileceğini duyurdu.

Genç kullanıcılara yönelik koruyucu önlemler söz konusu olduğunda Meta’nın yavaş ve yinelenen özellik kayması, daha güçlü koruma önlemlerinin uygulanmasının neden bu kadar uzun sürdüğüne dair soruları gündeme getiriyor; bu da kullanım üzerindeki etkiyi yönetmek ve etkileşimi önceliklendirmek amacıyla koruma konusunda alaycı bir minimumun tercih edildiğini gösteriyor. emniyet. (Bu tam olarak Meta’nın ihbarcısı Francis Haugen’in eski işverenini defalarca kınadığı şeydi.)

Meta’nın bir sözcüsü, TechCrunch’a Instagram kullanıcıları için duyurduğu en son korumaları Facebook’ta neden sunmadığı sorulduğunda şunları söyledi: “En büyük ihtiyacı ve alakayı gördüğümüz yere yanıt vermek istiyoruz – ki bu, istenmeyen çıplaklık ve eğiticilik söz konusu olduğunda Gençler hassas görselleri paylaşmanın riskleri konusunda – Instagram DM’lerinde olduğunu düşünüyoruz, bu yüzden ilk olarak oraya odaklanıyoruz.”