Yapay zeka girişimi Anthropic, en azından belirli durumlarda reşit olmayanların üretken yapay zeka sistemlerini kullanmasına izin vermek için politikalarını değiştiriyor.
Cuma günü şirketin resmi blogunda yayınlanan bir gönderide duyurulan Anthropic, bu uygulamaların geliştiricilerinin belirli güvenlik özellikleri ve kullanıcılara hangi Antropik teknolojilerden yararlandıklarını açıklayın.
Anthropic, bir destek makalesinde, yaş doğrulama sistemleri, içerik denetimi ve filtreleme ve küçükler için “güvenli ve sorumlu” yapay zeka kullanımına ilişkin eğitim kaynakları gibi, küçüklere yönelik yapay zeka destekli uygulamalar üreten geliştiricilerin içermesi gereken çeşitli güvenlik önlemlerini listeliyor. Şirket ayrıca bunu söylüyor mayıs Küçükleri hedef alan geliştiricilerin uygulaması gereken bir “çocuk güvenliği sistemi uyarısı” gibi, yapay zeka ürün deneyimlerini küçüklere uyarlamayı amaçlayan “teknik önlemleri” kullanıma sunmak.
Anthropic’in yapay zeka modellerini kullanan geliştiricilerin aynı zamanda 13 yaşın altındaki çocukların çevrimiçi gizliliğini koruyan ABD federal yasası olan Çocukların Çevrimiçi Gizliliğini Koruma Yasası (COPPA) gibi “geçerli” çocuk güvenliği ve veri gizliliği düzenlemelerine de uyması gerekecek. Anthropic bunu planladığını söylüyor Uygulamaları uyumluluk açısından “periyodik olarak” denetlemek, uyumluluk gerekliliğini sürekli olarak ihlal edenlerin hesaplarını askıya almak veya sonlandırmak ve geliştiricilerin, halka açık sitelerde veya belgelerde uyumlu olduklarını “açıkça belirtmelerini” zorunlu kılmak.
Anthropic, gönderisinde “Yapay zeka araçlarının genç kullanıcılara test hazırlığı veya özel ders desteği gibi önemli faydalar sağlayabileceği belirli kullanım durumları var” diye yazıyor. “Bunu göz önünde bulundurarak güncellenen politikamız, kuruluşların API’mizi reşit olmayanlara yönelik ürünlerine dahil etmelerine olanak tanıyor.”
Anthropic’in politikasındaki değişiklik, çocukların ve gençlerin yalnızca okul ödevlerinde değil, kişisel konularda da yardım için üretken yapay zeka araçlarına giderek daha fazla yönelmesiyle ve Google ve OpenAI dahil olmak üzere rakip üretken yapay zeka tedarikçilerinin çocuklara yönelik daha fazla kullanım senaryosu keşfetmesiyle ortaya çıkıyor. Bu yıl OpenAI, çocuk güvenliğini incelemek için yeni bir ekip kurdu ve çocuk dostu yapay zeka yönergeleri üzerinde işbirliği yapmak üzere Common Sense Media ile bir ortaklık yaptığını duyurdu. Ve Google, Gemini olarak yeniden markalanan sohbet robotu Bard’ı, seçili bölgelerde İngilizce olarak gençlerin kullanımına sundu.
Demokrasi ve Teknoloji Merkezi’nin yaptığı bir ankete göre, çocukların %29’u OpenAI’nin ChatGPT’si gibi üretken yapay zekayı kaygı veya zihinsel sağlık sorunlarıyla başa çıkmak için, %22’si arkadaşlarıyla yaşadığı sorunlar için ve %16’sı aile çatışmaları için kullandığını bildiriyor.
Geçtiğimiz yaz okullar ve kolejler, intihal ve yanlış bilgi korkusu nedeniyle üretken yapay zeka uygulamalarını, özellikle de ChatGPT’yi yasaklamak için harekete geçti. O zamandan beri bazıları yasaklarını tersine çevirdi. Ancak herkes üretken yapay zekanın iyilik potansiyeli konusunda ikna olmuş değil; bu da Birleşik Krallık Güvenli İnternet Merkezi gibi anketlere işaret ediyor; bu ankette çocukların yarısından fazlasının (%53) kendi yaşlarındaki insanların üretken yapay zekayı olumsuz bir şekilde kullandıklarını gördüklerini belirtiyorlar. Birini üzmek için kullanılan inandırıcı yanlış bilgiler veya resimler (pornografik deepfake’ler dahil).
Üretken yapay zekanın çocuklarda kullanımına ilişkin yönergelere yönelik çağrılar artıyor.
BM Eğitim, Bilim ve Kültür Örgütü (UNESCO) geçen yılın sonlarında hükümetlere, kullanıcılar için yaş sınırlarının uygulanması ve veri koruma ve kullanıcı gizliliği konusunda korkulukların uygulanması da dahil olmak üzere üretken yapay zekanın eğitimde kullanımını düzenlemeleri yönünde baskı yaptı. UNESCO genel müdürü Audrey Azoulay bir basın açıklamasında, “Üretken yapay zeka insan gelişimi için muazzam bir fırsat olabilir, ancak aynı zamanda zarara ve önyargıya da neden olabilir” dedi. “Halkın katılımı ve hükümetlerin gerekli önlemleri ve düzenlemeleri olmadan eğitime entegre edilemez.”
Kaynak: https://techcrunch.com/2024/05/10/anthropic-now-lets-kids-use-its-ai-tech-within-limits/
