ART ne zaman faydalıdır? IBM’in Yapay Zeka için Rekabetçi Sağlamlık Araç Kutusu olduğunda

IBM’in Adversarial Robustness Toolbox (ART) adı verilen açık kaynaklı bir projeyle yapay zeka (AI) güvenliği için en son teknolojiyi geliştirmeyi umuyor.

Bugün ART şu adreste kullanıma sunuluyor: Sarılma Yüz AI kullanıcılarının ve veri bilimcilerinin potansiyel güvenlik risklerini azaltmalarına yardımcı olacak bir dizi araç olarak. HuggingFace’teki ART yeni olsa da, genel çaba öyle değil. ART 2018 yılında başlatıldı ve aşağıdakilere katkıda bulunuldu: Linux Vakfı 2020’de açık kaynak çalışması olarak. IBM, son birkaç yıldır ART’ı bir projenin parçası olarak geliştiriyor. DARPA Aldatmaya Karşı Yapay Zeka Sağlamlığının Garanti Edilmesi (GARD) olarak bilinen çaba.

Yapay zeka kullanımı hızla arttıkça, yapay zekaya verilen önem de artıyor. Yapay zeka saldırılarına yönelik artan tehdit. Yaygın sorunlar eğitimi içerir veri zehirlenmesi ve kötü amaçlı veriler ekleyerek veya sistemin çıkardığı nesneleri manipüle ederek yapay zeka modellerini karıştıran tehditlerden kaçınma.

ART’ı Hugging Face’te yayınlayarak amaç, tehditleri azaltmaya yardımcı olmak için savunma amaçlı yapay zeka güvenlik araçlarını daha fazla yapay zeka geliştiricisinin kullanımına sunmaktır. Hugging Face’in yapay zeka modellerini kullanan kuruluşlar artık modellerini kaçırma ve zehirlenme tehdidi örnekleriyle daha kolay güvence altına alabiliyor ve savunmaları iş akışlarına entegre edebiliyor.

IBM Yapay Zeka Güvenliği ve Gizlilik Çözümleri yöneticisi Nathalie Baracaldo Angel, VentureBeat’e şunları söyledi: “Hugging Face oldukça büyük bir popüler ve son teknoloji modellere ev sahipliği yapıyor.” “Bu entegrasyon, topluluğun ART for Hugging Face modellerinin parçası olan kırmızı-mavi takım araçlarını kullanmasına olanak tanıyor.”

Günümüzde yapay zekaya önemli miktarda geniş bir ilgi olsa da, IBM’in yapay zekanın güvenliğine yardımcı olma çabaları mevcut üretken yapay zeka çağından önceye dayanıyor.

Açık kaynak çalışması olarak Angel, ART’ın zaten Linux Vakfı’nın bir parçası olduğunu belirtti. LF Yapay Zeka ve Veri proje. Bu çabanın bir parçası olarak çok sayıda kişi ve kuruluştan geniş bir yelpazede katkı aldığını da sözlerine ekledi. Ayrıca DARPA GARD projesinin bir parçası olarak DARPA’nın, ART’ın yeteneklerini sürdürmek ve genişletmek için IBM’e fon sağladığını söyledi.

Bugünkü haberle birlikte Linux Foundation’da ART’ta herhangi bir değişiklik olmadığını ancak ART’ın artık Hugging Face modellerini desteklediğini vurguladı. Hugging Face, kuruluşların ve bireylerin yapay zeka modellerini paylaştığı ve işbirliği yaptığı bir konum olarak geçtiğimiz yıl oldukça popüler hale geldi. IBM’in Hugging Face ile birden fazla işbirliği vardır; bunlardan biri, coğrafi yapay zeka modeli NASA ile ortak geliştirildi.

Rakip sağlamlık kavramı güvenliğin iyileştirilmesi açısından kritik öneme sahiptir.

Angel, rakiplere karşı sağlamlığın tamamen bir düşmanın makine öğrenimi hattını kendi yararına kandırmaya çalışabileceğini ve ardından hattı savunmak için harekete geçebileceğini kabul etmekle ilgili olduğunu açıkladı.

“Bu alan, düşmanın makine öğrenimi hattını tehlikeye atmak için neler yapabileceğinin anlaşılmasını, yani kırmızı takım yaklaşımını ve ardından ilgili riskleri azaltmak için savunmaların seçilmesini gerektiriyor” dedi.

2018’deki kuruluşundan bu yana yapay zekanın karşı karşıya olduğu riskler değişti ve ART da onlarla birlikte değişti. Angel, ART’ın birden fazla modalite için çeşitli saldırı ve savunmaların yanı sıra nesne algılama, nesne izleme, ses ve çeşitli model türleri için destek eklediğini söyledi.

“Son dönemde CLIP gibi multi-modal modların yakın zamanda sisteme eklenmesi üzerinde çalışıyoruz” dedi. “Güvenlik alanındaki her şeyde olduğu gibi, saldırılar ve savunmalar geliştikçe yeni araçların eklenmesine ihtiyaç var.”