Google, güvenliğe odaklanan yeni ‘açık’ AI modellerini yayınladı

Google, çoğu modelden “daha güvenli”, “daha küçük” ve “daha şeffaf” olarak adlandırdığı üç yeni, “açık” üretken yapay zeka modelini piyasaya sürdü; elbette cesur bir iddia.

Bunlar, Mayıs ayında piyasaya sürülen Google’ın Gemma 2 üretken model ailesine eklenen eklentiler. Yeni modeller Gemma 2 2B, ShieldGemma ve Gemma Scope, biraz farklı uygulamalar ve kullanım durumları için tasarlandı, ancak ortak bir güvenlik eğilimini paylaşıyorlar.

Google’ın Gemma serisi modelleri, Gemini modellerinden farklıdır; Google, Google’ın kendi ürünleri tarafından kullanılan ve geliştiricilerin kullanımına sunulan kaynak kodunu Gemini için kullanılabilir hale getirmez. Daha doğrusu Gemma, tıpkı Meta’nın Lama konusunda yapmaya çalıştığı gibi, Google’ın geliştirici topluluğu içinde iyi niyeti teşvik etme çabasıdır.

Gemma 2 2B, dizüstü bilgisayarlar ve uç cihazlar da dahil olmak üzere çeşitli donanımlarda çalışabilen analiz metni oluşturmaya yönelik hafif bir modeldir. Belirli araştırma ve ticari uygulamalar için lisanslıdır ve Google’ın Vertex AI model kitaplığı, veri bilimi platformu Kaggle ve Google’ın AI Studio araç seti gibi kaynaklardan indirilebilir.

ShieldGemma ise nefret söylemi, taciz ve müstehcen içerik gibi toksisiteyi tespit etmeye çalışan bir “güvenlik sınıflandırıcıları” koleksiyonudur. Gemma 2’nin üzerine inşa edilen ShieldGemma, istemleri üretken bir modele ve modelin ürettiği içeriğe göre filtrelemek için kullanılabilir.

Son olarak Gemma Scope, geliştiricilerin Gemma 2 modeli içindeki belirli noktaları “yakınlaştırmasına” ve iç işleyişini daha yorumlanabilir hale getirmesine olanak tanır. Google bunu bir blog yazısında şöyle açıklıyor: “[Gemma Scope is made up of] Gemma 2 tarafından işlenen yoğun, karmaşık bilgileri açığa çıkarmamıza ve bunları analiz edilmesi ve anlaşılması daha kolay bir forma genişletmemize yardımcı olan özel sinir ağları. Araştırmacılar, bu genişletilmiş görüşleri inceleyerek Gemma 2’nin kalıpları nasıl tanımladığı, bilgileri nasıl işlediği ve sonuçta tahminler yaptığı konusunda değerli bilgiler edinebilirler.”

Yeni Gemma 2 modellerinin piyasaya sürülmesi, ABD Ticaret Bakanlığı’nın bir ön raporda açık yapay zeka modellerini onaylamasından kısa bir süre sonra geldi. Raporda, açık modellerin üretken yapay zekanın kullanılabilirliğini daha küçük şirketlere, araştırmacılara, kar amacı gütmeyen kuruluşlara ve bireysel geliştiricilere genişlettiği ve aynı zamanda bu tür modelleri potansiyel risklere karşı izlemeye yönelik yeteneklere olan ihtiyacın vurgulandığı belirtildi.