Kuruluşların %87’si yapay zeka genini benimsiyor ancak çok daha azı riskleri değerlendiriyor

tarafından yeni bir anket PwC İş ve teknoloji rollerinde görev yapan ABD merkezli 1.001 yöneticinin %73’ü, katılımcıların %73’ünün kuruluşlarında üretken yapay zekayı halihazırda kullanmayı veya kullanmayı planladığını ortaya koyuyor.

Ancak yanıt verenlerin yalnızca %58’i yapay zeka risklerini değerlendirmeye başladı. PwC içinSorumlu yapay zeka değer, güvenlik ve güven ile ilgilidir ve bir şirketin risk yönetimi süreçlerinin bir parçası olmalıdır.

PwC’nin ABD güvence lideri Jenn Kosar şunları söyledi: VentureBeat Altı ay önce şirketlerin sorumlu yapay zeka stratejilerini düşünmeden bazı yapay zeka projelerini uygulamaya başlaması kabul edilebilirdi, ancak artık değil.

Kosar, “Döngünün artık daha ilerisindeyiz, dolayısıyla artık sorumlu yapay zekayı geliştirmenin zamanı geldi” dedi. “Önceki projeler şirket içindeydi ve küçük ekiplerle sınırlıydı, ancak artık üretken yapay zekanın büyük ölçekte benimsendiğini görüyoruz.”

Gen AI pilot projelerinin aslında birçok sorumlu AI stratejisine bilgi verdiğini, çünkü kuruluşların ekipleri için neyin en iyi işe yaradığını ve AI sistemlerini nasıl kullanacaklarını belirleyebileceklerini ekledi.

Sorumlu yapay zeka ve risk değerlendirmesi, son günlerde haber döngüsünün ön sıralarına çıktı. Elon Musk’un xAI’si, Grok-2 modeli aracılığıyla yeni bir görüntü oluşturma hizmeti başlattı X sosyal ağında (eski adıyla Twitter). Erken kullanıcılar modelin büyük ölçüde sınırsız göründüğünü bildiriyorkullanıcıların şiddet eylemleri gerçekleştiren veya açıkça cinsel durumlarda bulunan politikacıların ve pop yıldızlarının derin sahteleri de dahil olmak üzere her türlü tartışmalı ve kışkırtıcı içerik oluşturmasına olanak tanır.

Üzerine inşa edilecek öncelikler

Anket katılımcılarına, PwC’nin “kuruluşların günümüzde en çok öncelik verdiği yeteneklerin bir alt kümesi” olarak tanımladığı 11 yetenek hakkında sorular soruldu. Bunlar şunları içerir:

1. Beceri Geliştirme
2. Yerleşik yapay zeka risk uzmanlarını edinme
3. Periyodik eğitim
4. Veri gizliliği
5. Veri yönetimi
6. Siber güvenlik
7. Model testi
8. Model yönetimi
9. Üçüncü taraf risk yönetimi
10. Yapay zeka risk yönetimi için özel yazılım
11. İzleme ve denetim

PwC anketine göre katılımcıların %80’inden fazlası bu yeteneklerde ilerleme kaydedildiğini bildirdi. Ancak katılımcıların yüzde 11’i 11 önerinin tamamını hayata geçirdiklerini iddia etse de PwC, “Bunların çoğunun ilerlemeyi olduğundan fazla tahmin ettiğinden şüpheleniyoruz” dedi.

Sorumlu yapay zekaya ilişkin bu belirteçlerden bazılarının yönetilmesinin zor olabileceğini, bunun da kuruluşların bunları tam olarak uygulamakta zorlanmasının bir nedeni olabileceğini ekledi. PwC, yapay zeka modellerinin dahili verilere erişimini tanımlaması ve etrafına koruma rayları koyması gereken veri yönetimine dikkat çekti. “Eski” siber güvenlik yöntemleri, modelin kendisini saldırılara karşı korumakta yetersiz kalabiliyor model zehirlenmesi gibi.

Sorumluluk ve sorumlu yapay zeka bir arada

PwC, yapay zeka dönüşümünden geçen şirketlere rehberlik etmek için kapsamlı sorumlu yapay zeka stratejisi.

Kosar, ankete katılanların karşılaştığı zorluklardan birinin de sahiplik yaratmak olduğunu söyledi. Sorumlu yapay zeka kullanımı ve dağıtımının tek bir yöneticiye kadar takip edilmesi konusunda hesap verebilirliğin ve sahipliğin sağlanmasının önemli olduğunu söyledi. Bu, yapay zeka güvenliğini teknolojinin ötesinde bir şey olarak düşünmek ve baş yapay zeka görevlisi veya sorumlu bir yapay zeka lideri iş süreçlerini anlamak için şirket içindeki farklı paydaşlarla birlikte çalışır.

Kosar, “Belki de yapay zeka, teknoloji ile operasyonel riski bir araya getirecek katalizör olabilir” dedi.

PwC ayrıca yapay zeka sistemlerinin tüm yaşam döngüsü boyunca düşünmeyi, teorik bilgilerin ötesine geçerek tüm kuruluş genelinde emniyet ve güven politikalarını uygulamayı, sorumlu yapay zeka uygulamalarını iki katına çıkararak gelecekteki düzenlemelere hazırlanmayı ve paydaşlara karşı şeffaf olacak bir plan geliştirmeyi öneriyor.

Kosar, ankette kendisini en çok şaşırtan şeyin, sorumlu yapay zekanın şirketleri için ticari bir katma değer olduğuna inanan katılımcıların yorumları olduğunu ve bunun daha fazla işletmeyi bu konu hakkında daha derin düşünmeye iteceğine inandığını söyledi.

“Sorumlu yapay zeka bir kavram olarak sadece riskle ilgili değil, aynı zamanda yaratıcılığa da değer vermelidir. Kuruluşlar sorumlu yapay zekayı rekabet avantajı olarak gördüklerini ve hizmetleri güvene dayandırabileceklerini söyledi” dedi.