NIST Yapay Zeka Güvenliği Konsorsiyumu Kurdu

Ulusal Standartlar ve Teknoloji Enstitüsü, yapay zeka ölçümü ve politikasına ilişkin yönergeleri ve standartları belirlemek amacıyla 7 Şubat’ta Yapay Zeka Güvenliği Enstitüsü’nü kurdu. ABD’deki AI şirketleri ve ABD’de iş yapan şirketler bu yönergelerden ve standartlardan etkilenecek ve bunlar hakkında fikir sahibi olma fırsatına sahip olabilecekler.

ABD Yapay Zeka Güvenliği Enstitüsü konsorsiyumu nedir?

NIST’e göre ABD Yapay Zeka Güvenliği Enstitüsü, “Yapay Zeka yaratıcıları ve kullanıcıları, akademisyenler, hükümet ve endüstri araştırmacıları ve sivil toplum kuruluşları” için ortak bir kamu ve özel sektör araştırma grubu ve veri paylaşım alanıdır.

Kuruluşlar, 2 Kasım 2023 ile 15 Ocak 2024 tarihleri ​​arasında üye olmak için başvuruda bulunabilecek. NIST, ilgilenen 600’den fazla kuruluş arasından 200 şirket ve kuruluşu üye olarak seçti. Katılımcı kuruluşlar arasında Apple, Anthropic, Cisco, Hewlett Packard Enterprise, Hugging Face, Microsoft, Meta, NVIDIA, OpenAI, Salesforce ve diğer şirketler, akademik kurumlar ve araştırma kuruluşları yer alıyor.

Bu üyeler aşağıdakileri içeren projeler üzerinde çalışacak:

• Güvenli, emniyetli ve güvenilir yapay zekanın geliştirilmesi ve dağıtımına yönelik endüstri standartlarına katkıda bulunmak için yeni yönergeler, araçlar, yöntemler, protokoller ve en iyi uygulamalar geliştirmek.
• Yapay zeka yeteneklerini, özellikle de zarar verebilecek yetenekleri belirlemek ve değerlendirmek için rehberlik ve kıyaslamalar geliştirmek.
• Üretken yapay zeka için güvenli geliştirme uygulamalarını birleştirmeye yönelik yaklaşımlar geliştirmek.
• Makine öğrenimini başarılı bir şekilde bir araya getirmek için yöntemler ve uygulamalar geliştirmek.
• Yapay zeka tarafından oluşturulan dijital içeriğin kimliğini doğrulamanın yollarını geliştirmek.
• Yapay zeka iş gücü becerilerinin belirlenmesi ve teşvik edilmesi.

Cisco küresel kamu politikasından sorumlu başkan yardımcısı Nicole Isaac, “Sorumlu yapay zeka, insanlık, işletmeler ve kamu hizmetleri için muazzam bir potansiyel sunuyor ve Cisco, bütünsel, basitleştirilmiş bir yaklaşımın ABD’nin yapay zekanın tüm faydalarından güvenli bir şekilde yararlanmasına yardımcı olacağına inanıyor” dedi. NIST’e yaptığı açıklamada.

BAKIN: Yapay zeka ile makine öğrenimi arasındaki farklar nelerdir? (TechRepublic Premium)

Meta’nın küresel ilişkiler başkanı Nick Clegg, NIST’e yaptığı açıklamada, “Güvenli ve güvenilir yapay zeka konusunda ortak standartlar geliştirmek istiyorsak endüstri, hükümet ve sivil toplum genelinde birlikte çalışmak şarttır” dedi. “Bu konsorsiyumun bir parçası olmaktan ve AI Güvenlik Enstitüsü ile yakın çalışmaktan heyecan duyuyoruz.”

ABD Yapay Zeka Güvenliği Enstitüsü üyeleri listesindeki ilginç bir eksiklik, yapay zekanın küresel savaş gibi “aşırı büyük ölçekli risklere” katkıda bulunmasını önlemek için kurulan, Elon Musk da dahil olmak üzere yatırımcıların yer aldığı küresel bir kar amacı gütmeyen kuruluş olan Hayatın Geleceği Enstitüsü’dür.

Yapay Zeka Güvenlik Enstitüsü’nün kurulması ve federal hükümetteki yeri

ABD Yapay Zeka Güvenliği Enstitüsü, Başkan Joe Biden’ın Ekim 2023’te Yapay Zekanın yayılması ve güvenliğine ilişkin Yönetici Emri ile uygulamaya konulan çabaların bir parçası olarak oluşturuldu.

ABD Yapay Zeka Güvenliği Enstitüsü, Ticaret Bakanlığı’nın yetkisi altındadır. Elizabeth Kelly enstitünün açılış direktörüdür ve Elham Tabassi baş teknoloji sorumlusudur.

Yapay zeka güvenliği üzerinde kim çalışıyor?

ABD’de, hükümet düzeyinde yapay zeka güvenliği ve düzenlemeleri NIST ve şimdi de NIST’e bağlı ABD Yapay Zeka Güvenlik Enstitüsü tarafından yürütülüyor. ABD’deki büyük yapay zeka şirketleri, yapay zeka endüstrisinin ekonomiyi inşa etmesine yardımcı olmak amacıyla yapay zeka güvenliğini ve becerilerini teşvik etmek için hükümetle birlikte çalıştı.

Yapay zeka güvenliği üzerinde çalışan akademik kurumlar arasında Stanford Üniversitesi, Maryland Üniversitesi ve diğerleri yer alıyor.

Bir grup uluslararası siber güvenlik kuruluşu, yapay zeka güvenliğini geliştirme döngüsünün başlarında ele almak için Kasım 2023’te Güvenli Yapay Zeka Sistemi Geliştirme Yönergelerini oluşturdu.