Yapay Zekada Bu Hafta: OpenAI, yapay zeka pornolarına izin vermeyi düşünüyor

Yapay zeka kadar hızlı hareket eden bir sektöre ayak uydurmak zorlu bir iştir. Bir yapay zeka bunu sizin için yapana kadar, kendi başımıza ele almadığımız dikkate değer araştırma ve deneylerin yanı sıra, makine öğrenimi dünyasındaki son hikayelerin kullanışlı bir özetini burada bulabilirsiniz.

Bu arada TechCrunch yakında bir AI bülteni yayınlamayı planlıyor. Bizi izlemeye devam edin. Bu arada, daha önce ayda iki kez (veya daha fazla) olan yarı düzenli AI sütunumuzun temposunu haftalık hale getiriyoruz; bu nedenle daha fazla basım için tetikte olun.

Bu hafta AI’da OpenAI, AI pornosunun nasıl “sorumlu bir şekilde” üretileceğini araştırdığını açıkladı. Evet, doğru duydunuz. OpenAI, perdeleri aralamayı ve yapay zekanın talimatları hakkında geri bildirim toplamayı amaçlayan bir belgede duyurulan OpenAI’nin yeni NSFW politikasının, şirketin yapay zeka ürünlerinde açık görsellere ve metinlere nasıl ve nerede izin verebileceği konusunda bir tartışma başlatmayı amaçladığını söyledi.

OpenAI ürün ekibinin bir üyesi olan Joanne Jang, NPR’ye şunları söyledi: “İnsanların, yasaları veya diğer insanların haklarını ihlal etmediği ölçüde maksimum kontrole sahip olmasını sağlamak istiyoruz.” “Cinsellik veya çıplaklık içeren içeriğin kullanıcılarımız için önemli olduğu yaratıcı durumlar var.”

Bu, OpenAI’nin tartışmalı bir alana adım atmaya istekli olduğunu ilk kez bildirmiyor. Bu yılın başlarında şirketin CTO’su Mira Murati, The Wall Street Journal’a OpenAI’nin video oluşturma aracı Sora’nın yetişkinlere yönelik içerik oluşturmak için kullanılmasına izin verip vermeyeceğinden “emin olmadığını” söyledi.

Peki bundan ne yapmalı?

Orada dır-dir OpenAI’nin yapay zeka tarafından üretilen pornoya kapıyı açtığı ve her şeyin yolunda gittiği bir gelecek. Jang’ın, yetişkinlere yönelik sanatsal ifadenin meşru biçimlerinin (yapay zeka destekli araçların yardımıyla yaratılabilecek ifadeler) olduğunu söylerken hatalı olduğunu düşünmüyorum.

Ancak bunu doğru yapmak için OpenAI’ye veya herhangi bir üretken yapay zeka sağlayıcısına güvenebileceğimizden emin değilim.

Birincisi, yaratıcıların hakları açısını düşünün. OpenAI’nin modelleri, bazıları kuşkusuz doğası gereği pornografik olan çok sayıda halka açık web içeriği üzerinde eğitildi. Ancak OpenAI tüm bu içeriğin lisansını vermedi ve hatta nispeten yakın bir zamana kadar içerik oluşturucuların eğitimden vazgeçmesine izin vermedi (ve o zaman bile yalnızca belirli eğitim türlerine).

Yetişkinlere yönelik içerikle geçimini sağlamak zor ve OpenAI, yapay zeka tarafından oluşturulan pornoyu ana akım haline getirseydi, yaratıcıların karşı karşıya olduğu daha da sert bir rekabet olurdu; bu yaratıcıların eserleri üzerine kurulu bir rekabet, boşuna değil.

Aklımdaki diğer sorun ise mevcut önlemlerin yanılabilirliği. OpenAI ve rakipleri yıllardır filtreleme ve denetleme araçlarını geliştiriyorlar. Ancak kullanıcılar sürekli olarak şirketlerin yapay zeka modellerini, uygulamalarını ve platformlarını kötüye kullanmalarına olanak tanıyan geçici çözümler keşfediyor.

Ocak ayında Microsoft, kullanıcıların Taylor Swift’in çıplak görüntülerini oluşturmanın bir yolunu bulmasının ardından OpenAI modellerini kullanan Tasarımcı görseli oluşturma aracında değişiklik yapmak zorunda kaldı. Metin oluşturma tarafında, Anthropic’in Claude 3’ü gibi sözde “güvenli” modeller üzerine inşa edilmiş ve kolayca erotik içerikli sohbetler yayan sohbet robotları bulmak önemsizdir.

Yapay zeka halihazırda yeni bir cinsel istismar biçimi yarattı. İlkokul ve lise öğrencileri, sınıf arkadaşlarının fotoğraflarını, sınıf arkadaşlarının izni olmadan “soymak” için yapay zeka destekli uygulamalar kullanıyor; Birleşik Krallık, Yeni Zelanda ve Avustralya’da 2021 yılında yapılan bir anket, 16 ila 64 yaşları arasındaki katılımcıların %14’ünün deepfake görüntülerin mağduru olduğunu ortaya çıkardı.

ABD ve diğer yerlerdeki yeni yasalar bununla mücadele etmeyi amaçlıyor. Ancak jüri, halihazırda çoğu seks suçunun kökünü kazımaya çalışan bir adalet sistemi olan adalet sisteminin, yapay zeka kadar hızlı hareket eden bir sektörü düzenleyip düzenleyemeyeceği konusunda kararsız.

Açıkçası, OpenAI’nin yapay zeka tarafından oluşturulan pornoya yönelik risklerle dolu olmayan bir yaklaşımı hayal etmek zor. Belki OpenAI tutumunu bir kez daha gözden geçirecektir. Ya da belki – her şeye rağmen – o irade daha iyi bir yol bul. Durum ne olursa olsun, er ya da geç öğreneceğiz gibi görünüyor.

İşte son birkaç güne ait diğer AI hikayeleri:

• Apple’ın yapay zeka planları: Apple CEO’su Tim Cook, yatırımcılarla geçen hafta yapılan kazanç görüşmesinde şirketin yapay zeka ile ilerleme planları hakkında birkaç ipucu verdi. Sarah’nın tüm hikayesi var.
• Kurumsal GenAI: Dropbox ve Figma’nın CEO’ları (sırasıyla Drew Houston ve Dylan Field), kurumsal kuruluşlara yönelik üretken bir yapay zeka barındırma platformunun yanı sıra üretken yapay zeka teknolojisi üreten bir startup olan Lamini’ye yatırım yaptı.
• Müşteri hizmetleri için yapay zeka: Airbnb, ev sahiplerinin konukların sorularına yanıt vermek için, konuklara tesisin ödeme kılavuzunu göndermek gibi yapay zeka destekli önerileri tercih etmelerine olanak tanıyan yeni bir özellik başlatıyor.
• Microsoft, AI kullanımını kısıtlıyor: Microsoft, ABD polis teşkilatlarının yüz tanıma için üretken yapay zeka kullanmasına yönelik yasağını yeniden doğruladı. Ayrıca küresel kolluk kuvvetlerinin yüz tanıma teknolojisini vücut kameralarına ve araç kameralarına uygulaması da yasaklandı.
• Bulut için para: CoreWeave gibi alternatif bulut sağlayıcıları, üretken yapay zeka patlamasının modelleri eğitmek ve çalıştırmak için düşük maliyetli donanıma olan talebi artırmasıyla yüz milyonlarca dolar topluyor.
• RAG’ın sınırları vardır: Halüsinasyonlar, üretken yapay zekayı operasyonlarına entegre etmek isteyen işletmeler için büyük bir sorundur. Bazı satıcılar RAG adı verilen bir teknik kullanarak bunları ortadan kaldırabileceklerini iddia ediyor. Ancak bu iddialar fazlasıyla abartılı, sizinki gerçekten doğru.
• Vogels’in toplantı özeti: Amazon’un CTO’su Werner Vogels, Distill adlı bir toplantı özetleyici uygulamasını açık kaynak olarak kullandı. Tahmin edebileceğiniz gibi, ağırlıklı olarak Amazon ürün ve hizmetlerine dayanıyor.