Yapay zeka destekli dolandırıcılıklar ve bunlarla ilgili yapabilecekleriniz

Yapay zeka, ister bir e-posta taslağı hazırlıyor olun, ister konsept çizimi yapıyor olun, ister tehlike altındaki bir arkadaş ya da akraba olduğunuzu düşünmelerini sağlayarak savunmasız insanları dolandırıyor olun, size yardımcı olmak için burada. Yapay zeka o kadar çok yönlü ki! Ancak bazı kişiler dolandırılmamayı tercih ettiği için biraz da nelere dikkat edilmesi gerektiğinden bahsedelim.

Son birkaç yılda, yalnızca metinden sese, görüntü ve videoya kadar oluşturulan medyanın kalitesinde değil, aynı zamanda bu medyanın ne kadar ucuz ve kolay oluşturulabileceği konusunda da büyük bir artış görüldü. Bir konsept sanatçısının bazı fantastik canavarları veya uzay gemilerini pişirmesine yardımcı olan ya da ana dili İngilizce olmayan bir kişinin iş İngilizcesini geliştirmesine olanak tanıyan aynı türdeki araçlar, kötü amaçlarla da kullanılabilir.

Terminatörün kapınızı çalıp sizi saadet zincirine satmasını beklemeyin; bunlar yıllardır karşılaştığımız aynı eski dolandırıcılıklardır, ancak bunları daha kolay, daha ucuz veya daha inandırıcı hale getiren üretken bir yapay zeka değişikliğine sahiptirler.

Bu kesinlikle tam bir liste değil; yapay zekanın güçlendirebileceği en belirgin hilelerden sadece birkaçı. Yeni haberleri, doğada göründükleri anda veya kendinizi korumak için atabileceğiniz ek adımları ekleyeceğimizden emin olacağız.

Ailenizin ve arkadaşlarınızın sesinin klonlanması

Sentetik sesler onlarca yıldır ortalıkta dolaşıyor, ancak teknolojideki ilerlemeler yalnızca son bir veya iki yılda birkaç saniyelik bir sesten yeni bir sesin üretilmesine olanak sağladı. Bu, sesi halka açık olarak yayınlanan herkesin (örneğin bir haber bülteninde, YouTube videosunda veya sosyal medyada) sesinin kopyalanmasına karşı savunmasız olduğu anlamına geliyor.

Dolandırıcılar bu teknolojiyi sevdiklerinin veya arkadaşlarının ikna edici sahte versiyonlarını üretmek için kullanabilirler ve kullanmışlardır. Bunlar elbette herhangi bir şeyi söylemek için yapılabilir, ancak bir dolandırıcılık hizmeti için büyük olasılıkla yardım isteyen bir ses klibi hazırlarlar.

Örneğin, bir ebeveyn, bilinmeyen bir numaradan, oğluna benzeyen, seyahat sırasında eşyalarının nasıl çalındığını söyleyen bir sesli mesaj alabilir, bir kişi telefonunu kullanmasına izin verebilir ve Anne veya Baba, Venmo alıcısı olan bu adrese biraz para gönderebilir mi? , iş vb. Araba sorunları (“biri onlara para ödeyene kadar arabamı bırakmıyorlar”), tıbbi sorunlar (“bu tedavi sigorta kapsamında değil”) vb. durumları kolayca hayal edebilirsiniz.

Bu tür bir dolandırıcılık zaten Başkan Biden’ın sesi kullanılarak yapıldı! Bunun arkasındakileri yakaladılar ama gelecekteki dolandırıcılar daha dikkatli olacak.

Ses klonlamasına karşı nasıl mücadele edebilirsiniz?

Öncelikle sahte bir sesi tespit etmeye çalışmayın. Her geçen gün daha iyiye gidiyorlar ve kalite sorunlarını gizlemenin birçok yolu var. Uzmanlar bile kandırılıyor!

Bilinmeyen bir numaradan, e-posta adresinden veya hesaptan gelen herhangi bir şey otomatik olarak şüpheli olarak değerlendirilmelidir. Birisi arkadaşınız veya sevdiğiniz biri olduğunu söylerse, o kişiyle normalde yaptığınız gibi iletişime geçin. Muhtemelen size iyi olduklarını ve bunun (tahmin ettiğiniz gibi) bir dolandırıcılık olduğunu söyleyeceklerdir.

Dolandırıcılar, görmezden gelindikleri takdirde takip etmeme eğilimindedir; ancak bir aile üyesi muhtemelen bunu yapacaktır. Düşünürken okuma sırasında şüpheli bir mesaj bırakmanızda sorun yoktur.

E-posta ve mesajlaşma yoluyla kişiselleştirilmiş kimlik avı ve spam

Hepimiz ara sıra spam alıyoruz, ancak metin üreten yapay zeka, her bireye özelleştirilmiş toplu e-posta göndermeyi mümkün kılıyor. Düzenli olarak gerçekleşen veri ihlalleri nedeniyle kişisel verilerinizin çoğu ortada.

Şu “Faturanızı görmek için buraya tıklayın!” modellerinden birini almak bir şeydir. Çok az çaba gerektiren, açıkça korkutucu eklentiler içeren dolandırıcılık e-postaları. Ancak küçük bir bağlamla bile, son yerleri, satın alımları ve alışkanlıkları kullanarak onu gerçek bir insan ya da gerçek bir sorun gibi göstererek aniden oldukça inandırıcı hale geliyorlar. Birkaç kişisel gerçekle donanmış bir dil modeli, bu e-postaların genelini birkaç saniye içinde binlerce alıcıya özelleştirebilir.

Yani bir zamanlar “Sayın Müşterimiz, lütfen faturanızı ekte bulabilirsiniz” ifadesi “Merhaba Doris!” gibi bir şeye dönüştü. Etsy’nin tanıtım ekibindenim. Son zamanlarda baktığınız bir ürün şimdi %50 indirimli! İndirimden yararlanmak için bu bağlantıyı kullanırsanız Bellingham’daki adresinize gönderim ücretsizdir. Basit bir örnek ama yine de. Gerçek bir ad, alışveriş alışkanlığı (bulunması kolay), genel konum (aynen) vb. ile mesaj birdenbire çok daha az belirgin hale gelir.

Sonuçta bunlar hala spam. Ancak bu tür kişiselleştirilmiş spam’lerin bir zamanlar yabancı ülkelerdeki içerik çiftliklerinde düşük ücret alan kişiler tarafından yapılması gerekiyordu. Artık bu, birçok profesyonel yazardan daha iyi düzyazı becerisine sahip bir yüksek lisans öğrencisi tarafından geniş ölçekte yapılabilir!

E-posta spam’ına karşı nasıl mücadele edebilirsiniz?

Geleneksel spam’de olduğu gibi, dikkatli olmak en iyi silahınızdır. Ancak oluşturulan metni, doğada insan tarafından yazılan metinden ayırt edebilmeyi beklemeyin. Başka bir yapay zeka modelini (bazı şirketlerin ve hizmetlerin iddialarına rağmen) yapabilen ve kesinlikle yapamayan çok az kişi var.

Metin ne kadar iyi olursa olsun, bu tür dolandırıcılık hala yarım yamalak ekleri veya bağlantıları açmanızı sağlamak gibi temel bir zorlukla karşı karşıyadır. Her zaman olduğu gibi, gönderenin gerçekliğinden ve kimliğinden %100 emin olmadığınız sürece hiçbir şeye tıklamayın veya açmayın. Biraz bile emin değilseniz – ve bu, xiulian uygulamak için iyi bir fikirdir – tıklamayın ve eğer bunu ikinci bir çift göze iletecek bilgili birine sahipseniz, bunu yapın.

‘Sahte sen’ sahtekarlığını tanımlama ve doğrulama

Son birkaç yıldaki veri ihlallerinin sayısı nedeniyle (teşekkürler, Equifax!), neredeyse hepimizin karanlık ağda dolaşan oldukça miktarda kişisel veriye sahip olduğunu söylemek yanlış olmaz. İyi çevrimiçi güvenlik uygulamalarını izliyorsanız, şifrelerinizi değiştirdiğiniz, çok faktörlü kimlik doğrulamayı etkinleştirdiğiniz vb. nedeniyle tehlikelerin çoğu azaltılır. Ancak üretken yapay zeka bu alanda yeni ve ciddi bir tehdit oluşturabilir.

Birisi hakkında çevrimiçi olarak çok fazla verinin mevcut olması ve çoğu kişinin sesinin bir veya iki klibi bile mevcut olduğundan, hedef kişi gibi görünen ve kimliği doğrulamak için kullanılan bilgilerin çoğuna erişimi olan bir yapay zeka kişiliği oluşturmak giderek daha kolay hale geliyor.

Bunun hakkında böyle düşün. Giriş yaparken sorun yaşıyorsanız, kimlik doğrulama uygulamanızı doğru şekilde yapılandıramadıysanız veya telefonunuzu kaybettiyseniz ne yapardınız? Muhtemelen müşteri hizmetlerini arayın; doğum tarihiniz, telefon numaranız veya Sosyal Güvenlik numaranız gibi bazı önemsiz bilgileri kullanarak kimliğinizi “doğrulayacaklardır”. “Selfie çek” gibi daha gelişmiş yöntemlerin oynanması da giderek kolaylaşıyor.

Müşteri hizmetleri temsilcisi — bildiğimiz kadarıyla aynı zamanda bir yapay zeka! – bu sahte sizi pekala memnun edebilir ve gerçekten çağırmış olsaydınız sahip olacağınız tüm ayrıcalıkları ona verebilir. Bu pozisyondan yapabilecekleri çok çeşitlidir, ancak hiçbiri iyi değildir!

Bu listedeki diğerlerinde olduğu gibi, tehlike bu sahtekarlığın ne kadar gerçekçi olacağı değil, dolandırıcıların bu tür saldırıları geniş çapta ve tekrar tekrar yapmasının kolay olmasıdır. Kısa bir süre öncesine kadar bu tür kimliğe bürünme saldırıları pahalı ve zaman alıcıydı ve sonuç olarak zengin insanlar ve CEO’lar gibi yüksek değere sahip hedeflerle sınırlıydı. Günümüzde minimum düzeyde gözetimle binlerce kimliğe bürünme aracısı oluşturan bir iş akışı oluşturabilirsiniz ve bu aracılar, bir kişinin bilinen tüm hesaplarındaki müşteri hizmetleri numaralarını bağımsız olarak arayabilir, hatta yeni hesaplar bile oluşturabilir! Saldırının maliyetini haklı çıkarmak için yalnızca bir avuç kişinin başarılı olması yeterli.

Kimlik sahtekarlığına karşı nasıl mücadele edebilirsiniz?

Tıpkı yapay zekaların dolandırıcıların çabalarını desteklemeye gelmesinden önce olduğu gibi, “Siber Güvenlik 101” sizin için en iyi seçenektir. Verileriniz zaten orada; diş macununu tekrar tüpe koyamazsınız. Ama sen olabilmek Hesaplarınızın en bariz saldırılara karşı yeterince korunduğundan emin olun.

Çok faktörlü kimlik doğrulama, herkesin burada atabileceği en önemli tek adımdır. Her türlü ciddi hesap etkinliği doğrudan telefonunuza gider ve şüpheli oturum açma işlemleri veya şifre değiştirme girişimleri e-postada görünür. Bu uyarıları ihmal etmeyin veya (özellikle!) Çok fazla alıyor olsanız bile onları spam olarak işaretlemeyin.

Yapay zeka tarafından oluşturulan derin sahtekarlıklar ve şantaj

Belki de yeni ortaya çıkan yapay zeka dolandırıcılığının en korkutucu biçimi, sizin veya sevdiğiniz birinin derin sahte görüntülerini kullanarak şantaj yapma olasılığıdır. Bu fütüristik ve dehşet verici beklenti için açık görüntü modellerinin hızlı hareket eden dünyasına teşekkür edebilirsiniz! En son teknolojiye sahip görüntü oluşturmanın belirli yönleriyle ilgilenen insanlar, yalnızca çıplak vücutların işlenmesi için değil, aynı zamanda bunları resmini alabilecekleri herhangi bir yüze eklemek için de iş akışları oluşturdular. Halihazırda nasıl kullanıldığını detaylandırmama gerek yok.

Ancak istenmeyen sonuçlardan biri, genellikle “intikam pornosu” olarak adlandırılan, ancak daha doğru bir şekilde mahrem görüntülerin rıza dışı dağıtımı olarak tanımlanan dolandırıcılığın bir uzantısıdır (“deepfake” gibi orijinal terimi değiştirmek zor olabilir). Birinin özel görüntüleri bilgisayar korsanlığı yoluyla ya da intikam peşindeki eski sevgilisi aracılığıyla yayınlandığında, bu görüntüler, bir miktar ödenmediği takdirde bunları geniş çapta yayınlamakla tehdit eden üçüncü bir tarafça şantaj olarak kullanılabilir.

Yapay zeka, gerçek mahrem görüntülerin bulunmasına gerek kalmayacak şekilde bu dolandırıcılığı geliştirir! Yapay zeka tarafından oluşturulan bir gövdeye herkesin yüzü eklenebilir ve sonuçlar her zaman ikna edici olmasa da, pikselli, düşük çözünürlüklü veya kısmen karartılmış olması sizi veya başkalarını kandırmak için muhtemelen yeterli olacaktır. Ve birisini gizli tutmak için ödeme yapmaya korkutmak için gereken tek şey budur; ancak çoğu şantaj dolandırıcılığı gibi, ilk ödemenin son ödeme olması pek mümkün değildir.

Yapay zeka tarafından oluşturulan deepfake’lere karşı nasıl savaşabilirsiniz?

Ne yazık ki, yaklaşmakta olduğumuz dünya, neredeyse herkesin sahte çıplak görsellerinin talep üzerine bulunabileceği bir dünya. Korkunç, tuhaf ve iğrenç ama ne yazık ki kedi burada çantadan çıktı.

Bu durumdan kötü adamlar dışında kimse memnun değil. Ancak potansiyel kurbanlar olarak hepimiz için birkaç şey oluyor. Soğuk bir rahatlık olabilir ama bu görüntüler aslında size ait değil ve bunu kanıtlamak için gerçek çıplak fotoğraflara gerek yok. Bu görüntü modelleri bazı yönlerden gerçekçi gövdeler üretebilir ancak diğer üretken yapay zekalar gibi yalnızca ne üzerinde eğitildiklerini biliyorlar. Yani, örneğin sahte görsellerde herhangi bir ayırt edici işaret bulunmayacak ve muhtemelen başka açılardan da açıkça yanlış olacaktır.

Tehdit muhtemelen hiçbir zaman tamamen ortadan kalkmayacak olsa da, resim barındıranları yasal olarak resimleri kaldırmaya zorlayabilecek veya dolandırıcıları paylaşım yaptıkları sitelerden yasaklayabilecek mağdurlara yönelik başvurular giderek artıyor. Sorun büyüdükçe onunla mücadele etmenin yasal ve özel yolları da büyüyecek.

TechCrunch bir avukat değil! Ama eğer bunun mağduruysanız polise haber verin. Bu sadece bir dolandırıcılık değil aynı zamanda tacizdir ve her ne kadar polislerin birinin izini sürmek için gereken derin internet dedektiflik işini yapmasını bekleyemezseniz de, bu vakalar bazen çözüme kavuşur veya dolandırıcılar ISP’lerine gönderilen isteklerden korkar veya forumun sunucusu.