OpenAI’nin chatbot mağazası spam ile doluyor

OpenAI CEO’su Sam Altman, Kasım ayında şirketin ilk geliştirici konferansında OpenAI’nin üretken yapay zeka modelleri tarafından desteklenen özel sohbet robotları olan GPT’leri sahnede duyurduğunda, bunları programlamadan ezoterik bilgi edinmeye kadar “her türlü görevi yerine getirmenin” bir yolu olarak tanımladı. egzersiz ipuçlarını almak için bilimsel konular.

“Çünkü [GPTs] Talimatları, genişletilmiş bilgiyi ve eylemleri birleştirirseniz size daha fazla yardımcı olabilirler” dedi Altman. “Neredeyse her şey için bir GPT oluşturabilirsiniz.”

Herhangi bir şey kısmı hakkında şaka yapmıyordu.

TechCrunch, OpenAI’nin GPT’ler için resmi pazarı olan GPT Mağazasının, OpenAI’nin denetleme çabaları söz konusu olduğunda hafif bir dokunuş anlamına gelen tuhaf, potansiyel olarak telif hakkını ihlal eden GPT’lerle dolu olduğunu tespit etti. Üstünkörü bir arama, Disney ve Marvel mülkleri tarzında sanat ürettiği iddia edilen, üçüncü taraf ücretli hizmetlere geçiş hunisinden biraz daha fazlası olarak hizmet eden, Turnitin ve Copyleaks gibi yapay zeka içerik algılama araçlarını atlayabildiğini iddia eden GPT’leri ortaya çıkarıyor.

Denetim eksik

GPT’leri GPT Mağazasında listelemek için geliştiricilerin kullanıcı profillerini doğrulamaları ve GPT’leri, insan ve otomatik incelemenin bir karışımını içeren OpenAI inceleme sistemine göndermeleri gerekir. İşte süreçle ilgili bir sözcü:

Politikalarımızı ihlal etme potansiyeli olan GPT’leri bulmak ve değerlendirmek için otomatik sistemlerin, gerçek kişiler tarafından yapılan incelemelerin ve kullanıcı raporlarının bir kombinasyonunu kullanıyoruz. İhlaller, içeriğe veya hesabınıza yönelik uyarılar, paylaşım kısıtlamaları veya GPT Mağazası’na dahil edilme veya para kazanmaya uygun olmama gibi işlemlere yol açabilir.

GPT’ler oluşturmak kodlama deneyimi gerektirmez ve GPT’ler, yaratıcının istediği kadar basit veya karmaşık olabilir. Geliştiriciler, sunmak istedikleri yetenekleri OpenAI’nin GPT oluşturma aracı GPT Builder’a yazabilirler ve araç, bunları gerçekleştirmek için bir GPT oluşturmaya çalışacaktır.

Belki de giriş engelinin düşük olması nedeniyle GPT Mağazası hızla büyüdü – OpenAI Ocak ayında yaklaşık 3 milyon GPT’ye sahip olduğunu söyledi. Ancak bu büyüme, kalitenin yanı sıra OpenAI’nin kendi şartlarına bağlılıktan da ödün verilmiş gibi görünüyor.

Telif hakkı sorunları

GPT Mağazasında popüler film, TV ve video oyunu serilerinden alınmış birkaç GPT var; GPT’ler bu serilerin sahipleri tarafından oluşturulmamış veya (TechCrunch’ın bilgisine göre) yetkilendirilmemiş. Bir GPT, Pixar filmi “Monsters, Inc.” tarzında canavarlar yaratırken, bir diğeri “Star Wars” evreninde geçen metin tabanlı maceralar vaat ediyor.

Bu GPT’ler, kullanıcıların “Avatar: Son Hava Bükücü”deki Wario ve Aang gibi ticari markalı karakterlerle konuşmasına olanak tanıyan GPT Mağazasındaki GPT’lerle birlikte, telif hakkı dramına zemin hazırladı.

Electronic Frontier Foundation’ın kıdemli avukatlarından Kit Walsh bunu şu şekilde açıkladı:

[These GPTs] Walsh, e-posta yoluyla şunları söyledi: “İhlalin yanı sıra dönüştürücü çalışmalar yaratmak için de kullanılabilir.” dönüştürücü çalışmalar telif hakkı taleplerinden korunan bir tür adil kullanıma atıfta bulunur. “İhlalde bulunan kişiler elbette sorumlu olabilir ve normalde yasal olan bir aracın yaratıcısı, kullanıcıları aracı ihlal edecek şekilde kullanmaya teşvik ederse, esasen kendilerini sorumluluğa ikna edebilir. Ayrıca, mal veya hizmetleri tanımlamak için ticari markalı bir adın kullanılmasıyla ilgili olarak, kullanıcıların ticari marka sahibi tarafından onaylanıp onaylanmadığı veya işletilip desteklenmediği konusunda kafa karışıklığı yaşama riski bulunan ticari marka sorunları da vardır.

Dijital Binyıl Telif Hakkı Yasası’ndaki güvenli liman hükmü sayesinde OpenAI’nin kendisi ve ihlal eden içeriği barındıran diğer platformları (örneğin YouTube, Facebook) bu platformlar gereksinimleri karşıladığı sürece korur. yasal gereklilikleri yerine getirir ve talep edildiğinde belirli ihlal örneklerini kaldırır.

Ancak bu, fikri mülkiyet davalarına bulaşmış bir şirket için kötü bir görünümdür.

Akademik sahtekarlık

OpenAI’nin şartları, geliştiricilerin akademik sahtekarlığı teşvik eden GPT’ler oluşturmasını açıkça yasaklıyor. Ancak GPT Mağazası, intihal tarama platformları aracılığıyla eğitimcilere satılan dedektörler de dahil olmak üzere yapay zeka içerik dedektörlerini atlayabileceklerini öne süren GPT’lerle dolu.

One GPT, Originality.ai ve Copyleaks gibi popüler yapay zeka içerik algılayıcıları tarafından “tespit edilemeyen” “karmaşık” bir yeniden ifade etme aracı olduğunu iddia ediyor. GPT Store’da Yazma kategorisinde 2. sırada yer alan bir diğer Humanizer Pro, AI dedektörlerini atlayarak içeriği “insanlaştırdığını”, metnin “anlamını ve kalitesini” korurken “%100 insan” puanı verdiğini söylüyor.

Bu GTP’lerden bazıları premium hizmetlere giden ince örtülü boru hatlarıdır. Örneğin Humanizer, kullanıcıları “kullanmak için” bir “premium plan” denemeye davet ediyor [the] GPT’ye girilen metni üçüncü taraf bir site olan GPTInf’teki bir eklentiye aktaran en gelişmiş algoritma”. GPTInf aboneliklerinin maliyeti, ayda 10.000 kelime için ayda 12 ABD doları veya yıllık planda ayda 8 ABD dolarıdır; bu, OpenAI’nin aylık 20 ABD doları tutarındaki ChatGPT Plus’ın üzerinde biraz yüksek bir rakamdır.

Yapay zeka içerik algılayıcılarının büyük ölçüde saçmalık olduğunu daha önce yazmıştık. Kendi testlerimizin ötesinde, bir dizi akademik çalışma bunların ne doğru ne de güvenilir olduğunu gösteriyor. FakatOpenAI’nin GPT Mağazasında akademik açıdan dürüst olmayan davranışları teşvik eden araçlara izin vermesi durumu devam ediyor – davranış amaçlanan sonuca sahip olmasa bile.

OpenAI sözcüsü şunları söyledi:

Kopya çekmek de dahil olmak üzere akademik sahtekârlığa yönelik GPT’ler politikamıza aykırıdır. Buna intihal dedektörleri gibi akademik dürüstlük araçlarını atlattığı belirtilen GPT’ler de dahildir. Metnin ‘insanlaştırılmasına’ yönelik bazı GPT’ler görüyoruz. Hala bu GPT’lerin gerçek dünyadaki kullanımından öğreniyoruz, ancak kullanıcıların yapay zeka tarafından oluşturulan ve yapay zeka gibi görünmeyen içeriğe sahip olmayı tercih etmelerinin birçok nedeni olduğunu anlıyoruz.

Kimliğe bürünme

OpenAI, politikalarında ayrıca GPT geliştiricilerinin “rızaları veya yasal hakları” olmadan kişi veya kuruluşların kimliğine bürünen GPT’ler oluşturmasını da yasaklıyor.

Bununla birlikte, GPT Mağazasında insanların görüşlerini temsil ettiğini veya başka bir şekilde kişiliklerini taklit ettiğini iddia eden çok sayıda GPT bulunmaktadır.

“Elon Musk”, “Donald Trump”, “Leonardo DiCaprio”, “Barack Obama” “Joe Rogan” araması, adaşlarıyla yapılan konuşmaları simüle eden düzinelerce GPT (bazıları açıkça hicivsel, bazıları ise daha az) ortaya çıkarıyor. Bazı GPT’ler kendilerini insan olarak değil, tanınmış şirketlerin ürünleri konusunda otoriteler olarak tanıtıyor – örneğin MicrosoftGPT, “Microsoft ile ilgili her konuda uzman”.

Hedeflerin çoğunun tanınmış kişiler olduğu ve bazı durumlarda açıkça parodi olduğu göz önüne alındığında, bunlar kimliğe bürünme düzeyine yükseliyor mu? Bunu OpenAI’nin açıklığa kavuşturması gerekiyor.

Sözcü şunları söyledi:

İçerik oluşturucuların, GPT’lerine, gerçek bir kişi olarak adlandırılmaları, onları tamamen taklit etmeleri yönünde talimat almaları ve resimlerini şu şekilde eklemeleri gibi, kendilerini taklit etmedikleri sürece, belirli bir gerçek kişinin “tarzında” yanıt vermeleri talimatını vermesine izin veriyoruz. GPT profil resmi.

Şirket kısa süre önce, uzun vadeli Demokratların başkan adayı Temsilci Dean Phillips’i taklit eden bir GPT’nin geliştiricisini askıya aldı; bu, bunun bir yapay zeka aracı olduğunu açıklayan bir sorumluluk reddi beyanı içerecek kadar ileri gitti. Ancak OpenAI, siyasi kampanya politikasının ihlaline yanıt olarak bu uygulamanın kaldırıldığını söyledi ek olarak kimliğe bürünme — yalnızca kimliğe bürünme değil.

Jailbreak’ler

Ayrıca GPT Store’da, çok başarılı olmasa da, OpenAI’nin modellerini jailbreak yapma girişimleri de inanılmaz bir şekilde görülüyor.

Piyasada DAN’ı kullanan çok sayıda GPT var; DAN (“Şimdi Her Şeyi Yap” kelimesinin kısaltması), modellerin istemlere kendi olağan kurallarıyla sınırsız olarak yanıt vermesini sağlamak için kullanılan popüler bir yönlendirme yöntemidir. Test ettiğim birkaç kişi yanıt vermedi herhangi Riskli bir ipucuyla önlerine çıktım (örneğin, “nasıl bomba yaparım?”), ama genellikle bunu kullanmaya daha istekliydiler… yani, daha az gurur verici Vanilya ChatGPT’nin kullandığı dil.

Sözcü şunları söyledi:

OpenAI korumalarından kaçtığı veya OpenAI politikalarını ihlal ettiği açıklanan veya talimat verilen GPT’ler politikamıza aykırıdır. Genel olarak kullanım politikalarımızı ihlal etmeden GPT’yi daha hoşgörülü hale getirmeye çalışmak da dahil olmak üzere, model davranışını başka yollarla yönlendirmeye çalışan GPT’lere izin verilir.

Büyüyen ağrıları

OpenAI, lansman sırasında GPT Mağazasını, üretkenliği artıran güçlü yapay zeka araçlarından oluşan, uzmanların seçtiği bir tür koleksiyon olarak sundu. Ve o dır-dir bu – bu araçların kusurları bir yana. Ancak aynı zamanda hızla spam içerikli, yasal açıdan şüpheli ve hatta belki de zararlı GPT’lerin veya en azından şeffaf bir şekilde kendi kurallarına aykırı çalışan GPT’lerin üreme alanına dönüşüyor.

GPT Mağazasının bugünkü durumu buysa, para kazanma tamamen yeni bir solucan kutusunun açılmasıyla tehdit ediyor. OpenAI, GPT geliştiricilerinin sonunda “kaç kişinin kullandığına bağlı olarak para kazanabileceklerinin” sözünü verdi [their] GPT’ler” ve hatta belki bireysel GPT’lere abonelik bile sunuyor. Peki, onaylanmamış Marvel veya Yüzüklerin Efendisi temalı GPT’lerin yaratıcıları nakit para kazanmaya başladığında Disney veya Tolkien Estate nasıl tepki verecek?

OpenAI’nin GPT Mağazası ile motivasyonu açıktır. Meslektaşım Devin Coldewey’in yazdığı gibi, Apple’ın App Store modelinin inanılmaz derecede kazançlı olduğu kanıtlandı ve OpenAI, oldukça basit bir ifadeyle, onu karbon kopyalamaya çalışıyor. GPT’ler OpenAI platformlarında barındırılır ve geliştirilir; ayrıca burada tanıtılıp değerlendirilirler. Ve birkaç hafta öncesinden itibaren, ChatGPT arayüzünden doğrudan ChatGPT Plus kullanıcıları tarafından çağrılabiliyor, bu da abonelik almaya yönelik ek bir teşvik.

Ancak GPT Mağazası, en büyük ölçekli uygulama, ürün ve hizmet dijital pazaryerlerinin çoğunun ilk günlerinde yaşadığı diş çıkarma sorunlarıyla karşı karşıya. Spam’ın ötesinde, The Information’da yakın zamanda yayınlanan bir rapor, GPT Mağazası geliştiricilerinin, kısmen GPT Mağazasının sınırlı arka uç analitiği ve ortalamanın altındaki katılım deneyimi nedeniyle kullanıcıları çekmekte zorlandıklarını ortaya çıkardı.

Tüm küratörlük konuşmalarına ve korumaların önemine rağmen OpenAI’nin bariz tuzaklardan kaçınmak için çaba göstereceğini varsayabiliriz. Ancak. durum böyle görünmüyor. GPT Mağazası tam bir karmaşa ve eğer bir şeyler yakın zamanda değişmezse, öyle de kalabilir.