CIA yapay zeka direktörü Lakshmi Raman, kurumun yapay zeka konusunda ‘düşünceli bir yaklaşım’ benimsediğini iddia ediyor

TechCrunch’ın yapay zeka odaklı kadın akademisyenlere ve diğerlerine hak ettikleri ve gecikmiş zamanlarını ön planda tutmayı amaçlayan Yapay Zekadaki Kadınlar serisinin bir parçası olarak TechCrunch, CIA Yapay Zeka Direktörü Lakshmi Raman ile röportaj yaptı. Onun direktörlüğe giden yolunun yanı sıra CIA’in yapay zeka kullanımından ve yeni teknolojiyi benimsemek ve onu sorumlu bir şekilde kullanmak arasında kurulması gereken dengeden bahsettik.

Raman uzun süredir istihbarattaydı. Lisans derecesini Illinois Urbana-Champaign Üniversitesi’nden ve yüksek lisans derecesini Chicago Üniversitesi’nden bilgisayar bilimleri alanında aldıktan sonra 2002 yılında yazılım geliştiricisi olarak CIA’ya katıldı. Birkaç yıl sonra ajansta yöneticiliğe geçti ve sonunda CIA’in genel kurumsal veri bilimi çabalarına liderlik etmeye devam etti.

Raman, istihbarat alanının tarihsel olarak erkek egemen safları göz önüne alındığında, CIA’da kaynak olarak kadın rol modellerine ve öncüllerine sahip olduğu için şanslı olduğunu söylüyor.

“Hala bakabileceğim, tavsiye isteyebileceğim ve bir sonraki liderlik seviyesinin neye benzeyeceği konusunda yaklaşabileceğim insanlar var” dedi. “Kariyerine doğru ilerlerken her kadının yönlendirmesi gereken şeyler olduğunu düşünüyorum.”

Raman, direktör rolünde CIA genelinde yapay zeka faaliyetlerini düzenler, entegre eder ve yönlendirir. “Yapay zekanın misyonumuzu desteklemek için burada olduğunu düşünüyoruz” dedi. “Yapay zeka kullanımımızda ön sıralarda insanlar ve makineler birlikte yer alıyor.”

Yapay zeka CIA için yeni değil. Raman, ajansın 2000 yılından bu yana veri bilimi ve yapay zeka uygulamalarını araştırdığını, özellikle de doğal dil işleme (yani metin analizi), bilgisayarlı görme (görüntüleri analiz etme) ve video analitiği alanlarında araştırdığını söylüyor. CIA’nın hem endüstri hem de akademi tarafından bilgilendirilen bir yol haritasıyla üretken yapay zeka gibi daha yeni trendlerin zirvesinde kalmaya çalıştığını ekledi.

Raman, “Ajans içinde tüketmemiz gereken devasa miktarda veriyi düşündüğümüzde, içerik önceliklendirmesi, üretken yapay zekanın fark yaratabileceği bir alandır” dedi. “Arama ve keşif yardımı, fikir oluşturma yardımı gibi şeylere bakıyoruz ve sahip olabileceğimiz analitik önyargılara karşı koymaya yardımcı olacak karşı argümanlar üretmemize yardımcı oluyoruz.”

ABD istihbarat camiasında konuşlandırma konusunda bir aciliyet duygusu var herhangi Gazze’deki savaşın neden olduğu terör tehditlerinden yabancı aktörler (örneğin Çin, Rusya) tarafından yürütülen dezenformasyon kampanyalarına kadar, CIA’nın dünya çapında artan jeopolitik gerilimlerle mücadele etmesine yardımcı olabilecek araçlar. Geçtiğimiz yıl, ulusal güvenlikte yapay zekaya odaklanan güçlü bir danışma grubu olan Özel Rekabetçi Çalışmalar Projesi, yerel istihbarat servislerinin deneylerin ve sınırlı pilot projelerin ötesine geçerek üretken yapay zekayı geniş ölçekte benimsemesi için iki yıllık bir zaman çizelgesi belirledi.

CIA’nın geliştirdiği üretken yapay zeka destekli araç olan Osiris, OpenAI’nin ChatGPT’sine biraz benziyor ancak istihbarat kullanım durumları için özelleştirilmiş. Verileri (şimdilik yalnızca sınıflandırılmamış ve kamuya açık veya ticari olarak mevcut veriler) özetliyor ve analistlerin sade İngilizce olarak takip soruları sorarak daha derine inmesine olanak tanıyor.

Osiris artık yalnızca CIA duvarları içinde değil, aynı zamanda 18 ABD istihbarat teşkilatı genelinde binlerce analist tarafından kullanılıyor. Raman, bunun kendi bünyesinde mi yoksa üçüncü taraf şirketlerin teknolojisi kullanılarak mı geliştirildiğini açıklamadı ancak CIA’nın ünlü marka satıcılarla ortaklıkları olduğunu söyledi.

Raman, “Ticari hizmetlerden yararlanıyoruz” dedi ve CIA’in aynı zamanda çeviri ve analistleri çalışma saatleri dışında potansiyel olarak önemli gelişmelere karşı uyarma gibi görevler için de yapay zeka araçlarını kullandığını ekledi. “Yalnızca adını duyduğunuz daha büyük hizmetleri ve çözümleri değil, aynı zamanda geleneksel olmayan satıcılardan henüz aklınıza gelmemiş olabilecek daha niş hizmetleri sağlamamıza yardımcı olabilmek için özel sektörle yakın bir şekilde çalışabilmemiz gerekiyor. .”

Endişe verici bir teknoloji

CIA’in yapay zeka kullanımına şüpheyle yaklaşmak ve bu konuda endişelenmek için pek çok neden var.

Şubat 2022’de Senatörler Ron Wyden (D-OR) ve Martin Heinrich (D-New Mexico), halka açık bir mektupta, CIA’nın, Amerikalıları ve Amerikan şirketlerini araştırması genel olarak yasaklanmış olmasına rağmen, aşağıdakileri içeren gizli, açıklanmayan bir veri havuzuna sahip olduğunu açıkladılar: ABD vatandaşları hakkında toplanan bilgiler. Ve geçen yıl, Ulusal İstihbarat Direktörlüğü Ofisi’nin bir raporu, CIA dahil ABD istihbarat teşkilatlarının, Amerikalılar hakkındaki verileri LexisNexis ve Sayari Analytics gibi veri komisyoncularından çok az gözetim altında satın aldığını gösterdi.

Eğer CIA bu verileri incelemek için yapay zekayı kullanacak olsaydı, birçok Amerikalı kesinlikle buna itiraz ederdi. Bu, sivil özgürlüklerin açık bir ihlali olacaktır ve yapay zekanın sınırlamaları nedeniyle ciddi anlamda adaletsiz sonuçlara yol açabilir.

Çeşitli çalışmalar, Geolitica gibi firmaların tahmine dayalı suç algoritmalarının tutuklama oranlarına göre kolayca çarpık olduğunu ve Siyah toplulukları orantısız bir şekilde işaretleme eğiliminde olduğunu gösterdi. Diğer çalışmalar, yüz tanımanın, beyaz olmayan insanlara kıyasla siyahi insanların daha yüksek oranda yanlış tanımlanmasına yol açtığını öne sürüyor.

Önyargının yanı sıra, günümüzün en iyi yapay zekası bile sorgulara yanıt olarak halüsinasyon görüyor veya gerçekleri ve rakamları icat ediyor. Örneğin, zaman zaman var olmayan kişilere alıntılar yapan Microsoft’un toplantı özetleme yazılımını ele alalım. Doğruluğun ve doğrulanabilirliğin çok önemli olduğu istihbarat çalışmalarında bunun nasıl bir sorun haline gelebileceği tahmin edilebilir.

Raman, CIA’in yalnızca tüm ABD yasalarına uymakla kalmayıp aynı zamanda “tüm etik kurallara uyduğu” ve yapay zekayı “önyargıyı azaltacak şekilde” kullandığı konusunda kararlıydı.

“Ben buna düşünceli bir yaklaşım derdim [to AI]dedi. “Benimsediğimiz yaklaşımın, kullanıcılarımızın kullandıkları yapay zeka sistemi hakkında mümkün olduğunca çok şey anlamalarını istediğimiz bir yaklaşım olduğunu söyleyebilirim. Sorumlu yapay zeka oluşturmak, tüm paydaşların katılımına ihtiyacımız olduğu anlamına gelir; bu, yapay zeka geliştiricileri anlamına gelir, bu da gizlilik ve sivil özgürlükler ofisimiz anlamına gelir [and so on].”

Raman’a göre, bir yapay zeka sistemi ne yapmak üzere tasarlanmış olursa olsun, sistem tasarımcılarının yetersiz kalabileceği alanları netleştirmesi önemlidir. Yakın zamanda yapılan bir çalışmada, North Carolina Eyalet Üniversitesi araştırmacıları, yüz tanıma ve silah sesi tespit algoritmaları da dahil olmak üzere yapay zeka araçlarının, bu teknolojilere veya eksikliklerine aşina olmayan polisler tarafından kullanıldığını buldu.

Polis teşkilatının yapay zeka suiistimalinin belki de cehaletten kaynaklanan çok kötü bir örneğinde, NYPD’nin bir keresinde, gözetimin hala sonuç vermediği durumlarda şüpheliler üzerinde yüz tanıma eşleşmeleri oluşturmak için ünlülerin fotoğraflarını, çarpık görüntüleri ve çizimleri kullandığı bildirildi.

Raman, “Yapay zekanın ürettiği herhangi bir çıktının kullanıcılar tarafından açıkça anlaşılması gerekiyor ve bu da açıkça yapay zeka tarafından oluşturulan içeriğin etiketlenmesi ve yapay zeka sistemlerinin nasıl çalıştığına dair net açıklamalar sağlanması anlamına geliyor” dedi. “Ajansta yaptığımız her şeyde yasal gerekliliklerimize uyuyoruz ve kullanıcılarımızın, ortaklarımızın ve paydaşlarımızın, yapay zeka sistemlerimizin kullanımını düzenleyen ilgili tüm yasa, yönetmelik ve yönergelerden haberdar olmalarını sağlıyoruz ve Biz bu kuralların hepsine uyuyoruz.”

Bu muhabir kesinlikle bunun doğru olduğunu umuyor.