Google nihayet rıza dışı derin sahtekarlıkları engellemek için harekete geçiyor

İki yıl geçmesine rağmen bu üretkenlik kazanımları çoğunlukla gerçekleşmedi. Tuhaf ve biraz da beklenmedik bir şeyin gerçekleştiğini gördük: İnsanlar yapay zeka sistemleriyle ilişkiler kurmaya başladı. Onlarla konuşuyoruz, lütfen diyoruz ve teşekkür ediyoruz ve yapay zekaları arkadaş, sevgili, akıl hocası, terapist ve öğretmen olarak hayatımıza davet etmeye başladık.

MIT Medya Laboratuvarı ortak JD-Doktora adayı Robert Mahari, devasa, gerçek dünya deneyinin ortaya çıktığını görüyoruz ve bu yapay zeka yoldaşlarının bireysel olarak bizim üzerimizde veya bir bütün olarak toplum üzerinde ne gibi bir etkiye sahip olacağının hala belirsiz olduğunu savunuyor. ve Harvard Hukuk Fakültesi ve MIT Medya Laboratuvarı’nda araştırmacı olan Pat Pataranutaporn. Bizi kendine bağlamak için “bağımlılık yaratan zekaya” veya içlerinde karanlık desenler bulunan yapay zeka yoldaşlara hazırlanmamız gerektiğini söylüyorlar. Yazılarını buradan okuyabilirsiniz. Akıllı düzenlemelerin, yapay zeka sohbet robotlarıyla ilişkili kafamızın derinliklerine inen bazı riskleri önlememize nasıl yardımcı olabileceğini inceliyorlar.

Yapay zeka yoldaşlarla bağ kuracağımız fikri artık sadece varsayımdan ibaret değil. Daha da duygusal seslere sahip sohbet robotları OpenAI’nin GPT-4o’subizi daha da derinlere sürükleyecek gibi görünüyor. Sırasında güvenlik testiOpenAI, kullanıcıların “Bu birlikte geçirdiğimiz son günümüz” gibi yapay zeka modelleriyle bağlantı kurduklarını belirten bir dil kullandıklarını gözlemledi. Şirketin kendisi de duygusal bağımlılığın yeni ses özellikli sohbet robotunun artırabileceği risklerden biri olduğunu kabul ediyor.

Sadece metin alışverişleriyle sınırlı olsa bile, yapay zeka ile daha derin bir düzeyde bağlantı kurduğumuza dair kanıtlar zaten mevcut. Mahari analiz eden bir grup araştırmacının parçasıydı. bir milyon ChatGPT etkileşim günlüğüve yapay zekanın ikinci en popüler kullanımının cinsel rol oynama olduğunu ortaya çıkardı. Bunun dışında, chatbot’un en popüler kullanım alanı yaratıcı kompozisyondu. İnsanlar aynı zamanda bunu beyin fırtınası yapmak ve planlamak, açıklamalar istemek ve konular hakkında genel bilgi istemek için de kullanmayı seviyorlardı.

Bu tür yaratıcı ve eğlenceli görevler, yapay zeka sohbet robotlarını kullanmanın mükemmel yollarıdır. Yapay zeka dil modelleri, bir cümledeki bir sonraki olası kelimeyi tahmin ederek çalışır. Kendine güvenen yalancılardır ve sıklıkla yalanları ve gerçekleri sunarlar, uydururlar veya halüsinasyon görürler. Bir şeyler uydururken bu daha az önemlidir, asıl mesele bu. Haziran ayında meslektaşım Rhiannon Williams şunu yazdı: Komedyenler yapay zeka dil modellerini nasıl faydalı buldu? materyallerinin ilk “kusmuk taslağını” oluşturdukları ve daha sonra bunu komik hale getirmek için kendi insani yaratıcılıklarını ekleyebilecekleri için.

Ancak bu kullanım senaryoları finansal anlamda mutlaka verimli olmayabilir. Eminim ki yatırımcıların AI şirketlerine milyarlarca dolar akıtırken akıllarındaki şey müstehcen robotlar değildi ve hala AI için mükemmel bir uygulamamızın olmadığı gerçeğiyle de birleştiğinde, Wall Street’in bu konuda böyle hissetmesi hiç de şaşırtıcı değil. son zamanlarda bu konuda çok daha az yükseliş var.

Kullanım durumları istemek “üretken” olan ve bu nedenle en çok heyecanlananlar, yapay zekanın benimsenmesinde daha az başarı elde edenler oldu. Kod oluşturma, haberler ve reklamlar gibi bu kullanım durumlarının bazılarında halüsinasyon sorun olmaya başlıyor. çevrimiçi aramaişleri doğru yapmanın çok önemli olduğu yer. Sohbet robotlarının en utanç verici başarısızlıklarından bazıları, insanların yapay zeka sohbet robotlarına çok fazla güvenmeye başlaması veya onları gerçek bilgi kaynakları olarak görmeye başlamasıyla meydana geldi. Örneğin bu yılın başlarında, Google’ın çevrimiçi arama sonuçlarını özetleyen yapay zeka genel bakış özelliği, insanların taş yemesini ve pizzaya yapıştırıcı sürmesini önerdi.

Yapay zeka reklamının sorunu da bu. Beklentilerimizi çok yüksek tutuyor ve kelimenin tam anlamıyla inanılmaz vaatler gerçekleşmediğinde bizi hayal kırıklığına uğratıyor ve hayal kırıklığına uğratıyor. Bu aynı zamanda yapay zekanın anlık değişimler yaratacak kadar olgun bir teknoloji olduğunu düşünmemizi de sağlıyor. Gerçekte, gerçek faydasını görmemiz yıllar alabilir.