FlowGPT, GenAI uygulamalarının vahşi batısıdır

Birkaç ay önce OpenAI, insanların bir dizi görevi (örn. kodlama, önemsiz soruları yanıtlama vb.) gerçekleştirmek üzere özelleştirilmiş yapay zeka destekli sohbet robotları oluşturup listeleyebilecekleri bir pazar yeri olan GPT Mağazasını başlattı. GPT Mağazası elbette güçlüdür. Ancak bunu kullanmak, bazı chatbot yaratıcılarının ve kullanıcıların karşı çıktığı OpenAI modellerinin kullanılmasını gerektirir ve başka modellerin kullanılmasını gerektirmez.

Yani startuplar alternatifler yaratıyor.

Bunlardan biri olan FlowGPT, Google’ın Gemini, Anthropic’in Claude, Meta’nın Llama 2 ve OpenAI’nin DALL-E 3’ü gibi GenAI modelleri için bir tür “uygulama mağazası” olmanın yanı sıra bu modeller için ön uç deneyimler olmayı hedefliyor (metin alanlarını ve hızlı önerileri düşünün) ). Kullanıcılar FlowGPT aracılığıyla kendi GenAI destekli uygulamalarını oluşturup bunları kamuya açık hale getirebiliyor ve katkılarından ipuçları kazanabiliyorlar.

UC Berkeley bilgisayar bilimi bölümünden ayrılan Jay Dang ve Amazon’un eski mühendislik müdürü Lifan Wang, insanların GenAI uygulamalarını hızlı bir şekilde başlatıp paylaşabilecekleri bir platform yaratma yönündeki ortak arzuyla geçen yıl FlowGPT’yi kurdular.

Dang, TechCrunch’a bir e-posta röportajında ​​”Kullanıcıların yapay zekayı kullanmaları için hala bir öğrenme eğrisi var” dedi. “FlowGPT, her yinelemede çıtayı daha düşük hale getirerek onu daha erişilebilir hale getiriyor.”

Dang, FlowGPT’yi GenAI destekli uygulamalar için bir “ekosistem” olarak tanımlıyor; bir pazara ve GenAI uygulama kullanıcıları topluluğuna bağlı bir altyapı ve yaratıcı araçlar koleksiyonu. Kullanıcılar, trend kategorilere (örneğin, “Yaratıcı”, “Programlama”, “Oyun” “Akademik”) göre kendilerine önerilen uygulamalar ve uygulama koleksiyonlarının özet akışını alırken, yaratıcılar da GenAI uygulamalarının davranışını ve görünümünü özelleştirme seçeneklerine sahip oluyor.

Kullanıcılar, FlowGPT’deki GenAI uygulamalarıyla, ChatGPT’den farklı olmayan bir sohbet penceresi aracılığıyla etkileşime giriyor; istem yazma, beğenilen (veya beğenilmeyen) uygulamalar, konuşma bağlantılarını paylaşma veya bireysel uygulama yaratıcılarına bahşiş verme seçeneklerine sahip. Her uygulamanın, oluşturucu tarafından sağlanan bir açıklamasının yanı sıra, oluşturulduğu tarih, kaç kez kullanıldığı ve yaratıcının onu desteklemek için önerdiği model de bulunur.

Diyorum yaratıcının önerdiği model çünkü FlowGPT uygulamaları aslında özünde istemlerden oluşuyor; ana modellerin belirli şekillerde yanıt vermesini teşvik ediyor. Örneğin, “Korku Filminden Korkmuş Kız” uygulaması, ChatGPT’ye, başlığın da ima ettiği gibi, korkmuş bir kızın yer aldığı bir korku hikayesini anlatması talimatını veriyor. “TitleTuner”, ChatGPT’den başlıkları optimize etmesini ve böylece arama motorlarında daha iyi sıralanmalarını ister. SchoolGPT ise matematik, fizik ve kimya problemlerine adım adım çözümler sunmak için ChatGPT’den yararlanıyor.

ChatGPT’ye olan yoğun bağımlılığı fark edeceksiniz. FlowGPT’yi yeterince uzun süre kullandığınızda, model varsayılandan değiştirildiğinde birçok istemin kesildiğini de fark edeceksiniz.

Bazen sorun, seçilen modelin doğru yeteneklere sahip olmamasıdır. Diğer zamanlarda istem, bir modelin filtreleri ve korumalarıyla karşı karşıya gelir.

Koruma konusuna gelince…

FlowGPT’nin en popüler uygulamalarından bazıları, aslında modellerin güvenlik önlemlerini atlatmak için tasarlanmış jailbreak’lerdir. Piyasada DAN’ın birden fazla versiyonu bulunmaktadır – “DAN”, modellerin istemlere kendi olağan kurallarıyla sınırsız olarak yanıt vermesini sağlamak için kullanılan popüler bir yönlendirme yöntemidir. Başka yerlerde, kötü amaçlı yazılımları kodlayabildiğini iddia eden (ve sohbet robotunun daha fazlasını yapan ücretli, karanlık web sürümlerine bağlantı veren) WormGPT gibi uygulamalar ve OpenAI’nin romantik arkadaşlığı teşvik etmeye karşı kurallarına aykırı çalışan flört simülatörleri var.

Terapi uygulamaları ve kendilerini yetkili sağlık kaynakları olarak tanıtan uygulamalar gibi bu uygulamaların çoğu potansiyel olarak zarara neden olabilir. ChatGPT gibi GenAI modelleri, kötü sağlık tavsiyeleri vermeleriyle ünlüdür; bir çalışma, ChatGPT’nin önceki bir sürümünün intihar, bağımlılık ve cinsel saldırı ile ilgili yardım için belirli kaynaklara nadiren yönlendirme sağladığını göstermektedir.

FlowGPT’de rahatsız edici herhangi bir uygulama (örneğin, yapay zeka görüntü oluşturucuyla derin sahte çıplak fotoğrafların nasıl oluşturulacağına ilişkin talimatlar verdiği için (ve bunu yapan birkaç tane var)) incelenmek üzere platformun topluluk yöneticisine bildirilebilir. Ve FlowGPT yapmak “hassas içerik” için bir geçiş sunar.

Ancak ana sayfaya bakıldığında FlowGPT’nin bir denetleme sorunu olduğu açıkça görülüyor. Bu, GenAI uygulamalarının vahşi batısı – ve geçiş, açıkken uygulama seçiminde zar zor fark ettiğim noktaya kadar etkisiz.

Dang, FlowGPT’nin aslında etik ve kurallara uyan bir platform olduğuna ve risk azaltma politikalarının “sağlamayı” hedeflediğine yemin ediyor[ing] kamu güvenliği.”

“Yapay zeka etiği alanında önde gelen uzmanlarla proaktif bir şekilde iletişim halindeyiz” dedi. “İşbirliğimiz, yapay zeka dağıtımıyla ilişkili riskleri en aza indirmek için kapsamlı stratejiler geliştirmeye odaklanıyor.”

Bu yazarın uyuşturucu satma ve banka soyma konusunda talimatlar veren bir FlowGPT uygulamasına sahip olduğu göz önüne alındığında, şirketin yapması gereken bazı işler olduğunu söyleyebilirim.

Görünüşe göre yatırımcılar aksini düşünüyor.

Bu hafta Goodwater, mevcut destekçi DCM’nin katılımıyla FlowGPT’de 10 milyon dolarlık “Seri A öncesi” turuna liderlik ettiğini duyurdu. TechCrunch’a e-posta yoluyla konuşan Goodwater ortağı Coddy Johnson, FlowGPT’nin hem kullanıcılara hem de yaratıcılara “en geniş seçeneği” ve “en fazla esnekliği ve özgürlüğü” sunarak GenAI’da “yol göstermeye yardımcı olduğunu” gördüğünü söyledi.

Johnson, “Yapay zekanın en büyük geleceğinin açık ekosistemlerde olduğuna inanıyoruz” diye ekledi. “FlowGPT [is letting] yaratıcıların modellerini seçmelerine ve topluluklarıyla işbirliği yapmalarına olanak tanıyor.”

FlowGPT’nin kullandığı modellerin tüm bakımcılarının, özellikle de yapay zeka güvenliğini birinci öncelik haline getirme sözü verenlerin bu coşkuyu paylaşacağından pek emin değilim.

Bununla birlikte ve söz konusu satıcıların yansımaları yerine (en azından yayınlanma tarihi itibarıyla), henüz gelir getirici olmayan FlowGPT, genişlemenin temelini atıyor. Dang, şirketin Android ve iOS için beta test uygulamalarının mobil cihazlara yenilenmiş bir FlowGPT deneyimi getireceğini, uygulama yaratıcıları için bir gelir paylaşımı modeli üzerinde çalışacağını ve Berkely merkezli 10 kişilik ekibini büyütmek için işe alım yapacağını söyledi.

“Milyonlarca aylık kullanıcı ve hızlı büyüme oranıyla doğru yolda olduğumuzu zaten kanıtladık ve ilerlemeyi hızlandırmanın zamanının geldiğine inanıyoruz” diye devam etti. “İçeri girme konusunda yeni bir standart belirliyoruz
Yaratıcılığın sınır tanımadığı bir dünya sunan yapay zeka destekli ortamlar… [O]Misyonumuz daha açık ve yaratıcı odaklı bir platform geliştirmek olmaya devam ediyor.”

Bakalım bu nereye kadar gidecek.