İnternet kullanıcıları gençleşiyor; şimdi Birleşik Krallık yapay zekanın onları korumaya yardımcı olup olamayacağını tartıyor

Yapay zeka, dolandırıcılık, dezenformasyon ve diğer kötü niyetli çevrimiçi faaliyetler için nasıl kötüye kullanılabileceği konusunda endişe duyan hükümetlerin ilgi odağı olmuştur; Şimdi Birleşik Krallık’ta bir düzenleyici, özellikle çocuklara zararlı içeriklerle ilgili olmak üzere, yapay zekanın bazılarıyla mücadelede nasıl kullanıldığını keşfetmeye hazırlanıyor.

Birleşik Krallık’ın Çevrimiçi Güvenlik Yasası’nı uygulamakla görevli düzenleyici kurum Ofcom, yapay zeka ve diğer otomatik araçların bugün nasıl kullanıldığı ve gelecekte, özellikle çevrimiçi yasa dışı içeriği proaktif olarak tespit etmek ve kaldırmak için nasıl kullanılabileceği konusunda bir danışma başlatmayı planladığını duyurdu. çocukları zararlı içerikten korumak ve daha önce tespit edilmesi zor olan çocuklara yönelik cinsel istismar materyallerini tespit etmek.

Araçlar, Ofcom’un çevrimiçi çocuk güvenliğine odaklanarak bir araya getirdiği daha geniş bir teklif kümesinin parçası olacak. Ofcom, kapsamlı tekliflere yönelik istişarelerin önümüzdeki haftalarda başlayacağını ve bu yılın sonlarında yapılacak yapay zeka istişarelerinin başlayacağını söyledi.

Ofcom’un Çevrimiçi Güvenlik Grubu yöneticisi Mark Bunting, yapay zekaya olan ilgisinin, yapay zekanın günümüzde bir tarama aracı olarak ne kadar iyi kullanıldığına bakmakla başladığını söylüyor.

TechCrunch ile yaptığı röportajda “Bazı hizmetler çocukları bu içerikten tespit etmek ve korumak için bu araçları zaten kullanıyor” dedi. “Ancak bu araçların ne kadar doğru ve etkili olduğuna dair çok fazla bilgi yok. Endüstrinin değerlendirdiğinden emin olabileceğimiz yollara bakmak istiyoruz. [that] bunları kullanırken ifade özgürlüğüne ve mahremiyete yönelik risklerin yönetildiğinden emin olmak.”

Olası bir sonuç, Ofcom’un platformların nasıl ve hangi değerlendirme yapması gerektiğini önermesi olacaktır; bu, potansiyel olarak platformların daha gelişmiş araçları benimsemesine yol açmakla kalmayacak, aynı zamanda içeriği engellemede veya genç kullanıcıları tutmak için daha iyi yollar oluşturmada iyileştirmeler sağlamada başarısız olmaları durumunda potansiyel olarak para cezalarına yol açacaktır. onu görmekten.

“Birçok çevrimiçi güvenlik düzenlemesinde olduğu gibi, kullanıcıları korumak için uygun adımları attığından ve uygun araçları kullandığından emin olma sorumluluğu firmalara aittir” dedi.

Hareketi hem eleştirenler hem de destekleyenler olacak. Yapay zeka araştırmacıları, örneğin derin sahtekarlıkları tespit etmek ve kullanıcıları çevrimiçi olarak doğrulamak için yapay zekayı kullanmanın giderek daha karmaşık yollarını buluyor. Ancak yapay zeka tespitinin kusursuz olmaktan çok uzak olduğunu söyleyen bir o kadar da şüpheci var.

Ofcom, Birleşik Krallık’ta çocukların çevrimiçi ortamda nasıl etkileşim kurduğuna ilişkin en son araştırmasını yayınlarken aynı zamanda AI araçlarına ilişkin istişareyi de duyurdu; bu araştırma genel olarak her zamankinden daha fazla sayıda küçük çocuğun internete bağlı olduğunu ortaya çıkardı; öyle ki Ofcom artık giderek daha genç yaş grupları arasında aktiviteyi artırıyor.

ABD’li ebeveynler arasında yapılan bir ankete göre, 5-7 yaş grubundaki çocukların neredeyse dörtte biri, yani %24’ü artık kendi akıllı telefonlarına sahip ve tabletleri de dahil ettiğinizde bu oran %76’ya çıkıyor. Aynı yaş grubu, bu cihazlarda medyayı çok daha fazla kullanıyor: %65’i sesli ve görüntülü arama yapıyor (sadece bir yıl önce bu oran %59’du) ve çocukların yarısı (bir yıl önce %39’a kıyasla) medya akışını izliyor .

Bazı ana akım sosyal medya uygulamalarının yaş sınırlamaları azalıyor ancak sınırlar ne olursa olsun, Birleşik Krallık’ta bunlara zaten pek dikkat edilmiyor. Ofcom’un bulgularına göre 5-7 yaş grubundaki çocukların yüzde 38’i sosyal medya kullanıyor. Meta’nın WhatsApp’ı %37 ile aralarında en popüler uygulamadır. Ve muhtemelen Meta’nın amiral gemisi resim uygulamasının ByteDance’in viral sansasyonundan daha az popüler olmasının ilk örneğinde, TikTok’un 5-7 yaş arası çocukların %30’u tarafından kullanıldığı ve Instagram’ın “sadece” %22 olduğu görüldü. Discord listeyi tamamladı ancak yalnızca %4 ile önemli ölçüde daha az popüler.

Bu yaştaki çocukların yaklaşık üçte biri, yani %32’si kendi başlarına internete giriyor ve ebeveynlerin %30’u, reşit olmayan çocuklarının sosyal medya profillerine sahip olmasının sorun olmadığını söyledi. YouTube Kids %48 ile genç kullanıcılar arasında en popüler ağ olmaya devam ediyor.

Çocukların daimi favorisi olan oyun, 5-7 yaş arası çocukların %41’i tarafından kullanılmaya başlandı ve bu yaş grubundaki çocukların %15’i nişancı oyunları oynuyor.

Ankete katılan ebeveynlerin %76’sı küçük çocuklarıyla çevrimiçi ortamda güvende kalma konusunda konuştuklarını söylese de Ofcom, bir çocuğun gördükleri ile bildirebilecekleri arasında soru işaretleri olduğuna dikkat çekiyor. Ofcom, 8-17 yaş arası daha büyük çocukları araştırırken onlarla doğrudan görüştü. Çocukların yüzde 32’si internette endişe verici içerik gördüklerini bildirdi, ancak ebeveynlerinin yalnızca yüzde 20’si herhangi bir şey bildirdiğini söyledi.

Ofcom, raporlamadaki bazı tutarsızlıkları hesaba katsa bile, “Araştırma, daha büyük çocukların çevrimiçi ortamda potansiyel olarak zararlı içeriğe maruz kalmaları ile çevrimiçi deneyimleriyle ilgili ebeveynleriyle paylaştıkları arasında bir kopukluk olduğunu gösteriyor” diye yazıyor. Endişe verici içerik de zorluklardan sadece biri: derin sahtekarlıklar da bir sorun. Ofcom, 16-17 yaş arası çocukların yüzde 25’inin internette sahte olanı gerçek olandan ayırt etme konusunda emin olmadıklarını söyledi.