MIT kapsamlı yapay zeka riskleri veritabanını yayınladı

Yapay zekanın araştırılması ve benimsenmesi artan bir hızla ilerlemeye devam ettikçe, AI kullanımıyla ilişkili riskler. Kuruluşların bu karmaşık ortamda gezinmelerine yardımcı olmak için MIT ve diğer kurumlardan araştırmacılar, Yapay Zeka Risk HavuzuYapay zeka sistemlerinin oluşturduğu yüzlerce belgelenmiş riskten oluşan kapsamlı bir veritabanı. Depo, yapay zekanın gelişen risklerini değerlendirmede hükümet, araştırma ve endüstrideki karar vericilere yardımcı olmayı amaçlıyor.

Yapay zeka risk sınıflandırmasına düzen getiriliyor

Çok sayıda kuruluş ve araştırmacı, yapay zeka risklerini ele almanın önemini kabul etmiş olsa da, bu riskleri belgeleme ve sınıflandırma çabaları büyük ölçüde koordinesiz olmuş ve bu da birbiriyle çelişen sınıflandırma sistemlerinin parçalı bir ortamına yol açmıştır.

MIT FutureTech’te doktora sonrası araştırmacı olarak görev yapan ve proje lideri Peter Slattery, VentureBeat’e şunları söyledi: “Kuruluşların yapay zekadan kaynaklanan risklere nasıl tepki verdiğini anlamak amacıyla projemize başladık.” “Yapay zeka risklerine ilişkin tam kapsamlı bir genel bakışın bir kontrol listesi olarak kullanılmasını istedik, ancak literatüre baktığımızda mevcut risk sınıflandırmalarının bir yapbozun parçaları gibi olduğunu gördük: bireysel olarak ilginç ve kullanışlı, ancak eksik.”

AI Risk Havuzu, hakemli makaleler, ön baskılar, konferans makaleleri ve raporlar da dahil olmak üzere mevcut 43 sınıflandırmadan gelen bilgileri birleştirerek bu zorluğun üstesinden gelir. Bu titiz iyileştirme süreci, 700’den fazla benzersiz riskten oluşan bir veritabanıyla sonuçlandı.

Depo iki boyutlu bir sınıflandırma sistemi kullanır. İlk olarak riskler, sorumlu varlık (insan veya yapay zeka), niyet (kasıtlı veya kasıtsız) ve riskin zamanlaması (dağıtım öncesi veya dağıtım sonrası) dikkate alınarak nedenlerine göre sınıflandırılır. Bu nedensel sınıflandırma, yapay zeka risklerinin ortaya çıkabileceği koşulları ve mekanizmaları anlamaya yardımcı olur.

İkinci olarak riskler, ayrımcılık ve zehirlilik, mahremiyet ve güvenlik, yanlış bilgilendirme ve kötü niyetli aktörler ve kötüye kullanım da dahil olmak üzere yedi farklı alanda sınıflandırılıyor.

AI Risk Havuzu, yaşayan bir veritabanı olacak şekilde tasarlanmıştır. Herkese açıktır ve kuruluşlar bunu kendi kullanımları için indirebilirler. Araştırma ekibi, veri tabanını yeni riskler, araştırma bulguları ve ortaya çıkan trendlerle düzenli olarak güncellemeyi planlıyor.

Kuruluş için yapay zeka risklerinin değerlendirilmesi

AI Risk Havuzu, farklı sektörlerdeki kuruluşlar için pratik bir kaynak olacak şekilde tasarlanmıştır. Veri havuzu, yapay zeka sistemlerini geliştiren veya dağıtan kuruluşlar için risk değerlendirmesi ve hafifletme açısından değerli bir kontrol listesi görevi görür.

Araştırmacılar, “Yapay zeka kullanan kuruluşlar, maruz kaldıkları riskleri ve yönetimlerini kapsamlı bir şekilde değerlendirmek için yararlı bir temel olarak Yapay Zeka Risk Veritabanını ve sınıflandırmaları kullanmaktan yararlanabilir” diye yazıyor. “Taksonomiler ayrıca belirli riskleri azaltmak için yapılması gereken belirli davranışların belirlenmesinde de yararlı olabilir.”

Örneğin, bir organizasyon geliştiren bir kuruluş Yapay zeka destekli işe alma sistemi ayrımcılık ve önyargıyla ilgili potansiyel riskleri belirlemek için veri havuzunu kullanabilir. Kullanan bir şirket İçerik denetimi için yapay zeka Yapay zeka tarafından oluşturulan içerikle ilişkili potansiyel riskleri anlamak ve uygun koruma önlemleri geliştirmek için “Yanlış Bilgi” alanından yararlanabilir.

Araştırma ekibi, veri havuzunun kapsamlı bir temel sunmasına rağmen kuruluşların risk değerlendirme ve azaltma stratejilerini kendi özel bağlamlarına göre uyarlamaları gerektiğini kabul ediyor. Ancak bunun gibi merkezi ve iyi yapılandırılmış bir veri havuzuna sahip olmak, kritik risklerin gözden kaçırılma olasılığını azaltır.

MIT FutureTech Laboratuvarı başkanı Neil Thompson, VentureBeat’e şunları söyledi: “Deponun zamanla işletmeler için giderek daha kullanışlı hale gelmesini bekliyoruz.” “Bu projenin gelecek aşamalarında yeni riskler ve belgeler eklemeyi ve uzmanlardan risklerimizi incelemelerini ve eksiklikleri tespit etmelerini istemeyi planlıyoruz. Araştırmanın bir sonraki aşamasından sonra, uzmanların en çok hangi risklerle ilgilendikleri (ve nedenleri) ve hangi risklerin belirli aktörler (örneğin, yapay zeka geliştiricileri ve büyük yapay zeka kullanıcıları) için en alakalı olduğu hakkında daha yararlı bilgiler sağlayabilmeliyiz.”

Gelecekteki yapay zeka risk araştırmalarını şekillendirmek

Yapay Zeka Risk Havuzu, kuruluşlara yönelik pratik sonuçlarının ötesinde, yapay zeka risk araştırmacıları için de değerli bir kaynaktır. Veritabanı ve sınıflandırmalar, bilgilerin sentezlenmesi, araştırma boşluklarının belirlenmesi ve gelecekteki araştırmalara rehberlik edilmesi için yapılandırılmış bir çerçeve sağlar.

Slattery, “Bu veritabanı, daha spesifik işler yaparken üzerine inşa edilebilecek bir temel sağlayabilir” dedi. “Bundan önce bizim gibilerin iki seçeneği vardı. Kapsamlı bir genel bakış geliştirmek amacıyla dağınık literatürü gözden geçirmek için önemli miktarda zaman harcayabilirler veya ilgili riskleri gözden kaçırabilecek sınırlı sayıda mevcut çerçeveyi kullanabilirler. Artık daha kapsamlı bir veritabanına sahipler, dolayısıyla veri havuzumuzun zamandan tasarruf edeceğini ve gözetimi artıracağını umuyoruz. Yeni riskler ve belgeler ekledikçe bunun giderek daha faydalı olmasını bekliyoruz.”

Araştırma ekibi, AI Risk Havuzu’nu kendi araştırmalarının bir sonraki aşaması için temel olarak kullanmayı planlıyor.

Thompson, “Bu veri havuzunu, risklerin kuruluşlar tarafından nasıl ele alındığına ilişkin potansiyel boşlukları veya dengesizlikleri belirlemek için kullanacağız” dedi. “Örneğin, belirli risk kategorilerine orantısız bir şekilde odaklanılırken eşit öneme sahip diğer kategorilere yeterince değinilmediğini araştırmak.”

Bu arada araştırma ekibi, yapay zeka risk ortamı geliştikçe Yapay Zeka Risk Havuzu’nu güncelleyecek ve bunun yapay zeka riskleri ve risk hafifletme üzerinde çalışan araştırmacılar, politika yapıcılar ve endüstri profesyonelleri için yararlı bir kaynak olarak kalmasını sağlayacak.