Elon Musk’un akıl almaz yapay zeka görüntü oluşturucusuna güç veren girişim Black Forest Labs ile tanışın

Elon Musk’un Grok’u Salı gecesi, tıpkı yapay zeka sohbet robotu gibi çok az korumaya sahip yeni bir yapay zeka görüntü oluşturma özelliği yayınladı. Bu, örneğin Joe Rogan Show’da Donald Trump’ın esrar içtiğinin sahte görüntülerini oluşturabileceğiniz ve bunu doğrudan X platformuna yükleyebileceğiniz anlamına gelir. Ancak tartışmalı özelliğin arkasında yeni bir girişim yatıyor.

Sosyal medya sitesi zaten yeni özelliğe ait çirkin görüntülerle dolu. Bu kesinlikle bir seçim döngüsüne doğru giden endişeleri artırıyor, ancak kesin olarak konuşursak, bu çılgınlığa güç veren aslında Elon Musk’un yapay zeka şirketi değil. Musk, OpenAI’nin Dall-E’sinde veya Google’ın Imagen’inde bulunan katı korkulukların olmadığı bir “uyanma önleyici sohbet robotu” olarak Grok’a yönelik vizyonuna sempati duyan bir şirket bulmuş gibi görünüyor. Salı günü xAI, Grok’un görüntü oluşturucusunu FLUX.1 modelini kullanarak güçlendirmek için 1 Ağustos’ta başlatılan yapay zeka görüntü ve video girişimi Black Forest Labs ile bir işbirliği yaptığını duyurdu.

Merkezi Almanya’da bulunan Black Forest Labs, bir basın açıklamasına göre yakın zamanda Andreessen Horowitz liderliğindeki 31 milyon dolarlık tohum finansmanıyla gizlice ortaya çıktı. Diğer önemli yatırımcılar arasında Y Combinator CEO’su Garry Tan ve eski Oculus CEO’su Brandan Iribe yer alıyor. Girişimin kurucu ortakları Robin Rombach, Patrick Esser ve Andreas Blattmann, daha önce Stability AI’nin Stabil Difüzyon modellerinin oluşturulmasına yardımcı olan araştırmacılardı.

Yapay Analize göre, Black Forest Lab’ın FLUX.1 modelleri kalite açısından Midjourney ve OpenAI’nin yapay zeka görüntü oluşturucularını, en azından kendi görüntü alanlarındaki kullanıcılar tarafından sıralama açısından geride bırakıyor.

Başlangıç, Hugging Face ve GitHub’daki açık kaynaklı yapay zeka görüntü oluşturma modelleriyle “modellerimizi geniş bir kitleye sunduğunu” söylüyor. Şirket yakında metinden videoya bir model de oluşturmayı planladığını açıkladı.

Black Forest Labs, TechCrunch’ın yorum talebine hemen yanıt vermedi.

Şirket, lansman sürümünde “bu modellerin güvenliğine olan güveni artırmayı” hedeflediğini söylüyor ancak bazıları, X Çarşamba günü yapay zeka tarafından oluşturulan görüntülerin akışının tam tersini yaptığını söyleyebilir. Pikachu’nun saldırı tüfeği tutması gibi kullanıcıların Grok ve Black Forest Labs’ın aracını kullanarak oluşturabildiği birçok görüntü, Google veya OpenAI’nin görüntü oluşturucularıyla yeniden oluşturulamadı. Modelin eğitimi için telif hakkıyla korunan görüntülerin kullanıldığına kesinlikle şüphe yok.

asıl mesele bu

Bu koruma eksikliği muhtemelen Musk’un bu işbirlikçiyi seçmesinin önemli bir nedenidir. Musk, güvenlik önlemlerinin aslında yapay zeka modellerini daha az güvenli hale getirdiğine inandığını açıkça belirtti. Musk, 2022 tarihli bir tweetinde “Yapay zekayı uyandırmak için eğitmenin (başka bir deyişle yalan söylemenin) tehlikesi ölümcül” dedi.

Black Forest Labs Yönetim Kurulu Direktörü Anjney Midha, X’te Google Gemini ve Grok’un Flux işbirliğiyle lansmanın birinci gününde oluşturulan görüntüler arasında bir dizi karşılaştırma yayınladı. Konu, Google Gemini’nin, özellikle görsellere ırksal çeşitliliği uygunsuz bir şekilde enjekte ederek, tarihsel olarak doğru insan görselleri oluşturma konusunda iyi belgelenmiş sorunlarını vurguluyor.

Midha, bir tweetinde FLUX.1’in bu sorundan görünüşte kaçındığına atıfta bulunarak (ve xAI baş araştırmacısı Igor Babuschkin’in açıklamasından bahsederek) “@ibab ve ekibinin bunu ciddiye almasına ve doğru seçimi yapmasına sevindim” dedi.

Bu başarısızlık nedeniyle Google özür diledi ve Şubat ayında Gemini’nin insan görselleri oluşturma özelliğini kapattı. Bugün itibarıyla şirket Gemini’nin insan görselleri oluşturmasına hâlâ izin vermiyor.

Bir yanlış bilgi hortumu

Bu genel koruma eksikliği Musk için sorunlara neden olabilir. X platformu, Taylor Swift’i temsil eden AI tarafından oluşturulan derin sahte açık görsellerin platformda viral hale gelmesiyle eleştirilere maruz kaldı. Bu olayın yanı sıra Grok, neredeyse her hafta X’te kullanıcılara görünen halüsinasyonlu manşetler üretiyor.

Daha geçen hafta, beş dışişleri bakanı X’i X’te Kamala Harris hakkında yanlış bilgi yaymayı bırakmaya çağırdı. Bu ayın başlarında Musk, Harris’in sesini klonlamak için yapay zekayı kullanan bir videoyu yeniden paylaştı ve sanki Başkan Yardımcısı ” çeşitlilik kiralama.

Musk, bunun gibi yanlış bilgilerin platforma yayılmasına izin vermeye kararlı görünüyor. Kullanıcıların Grok’un herhangi bir filigran içermeyen yapay zeka görüntülerini doğrudan platformda yayınlamasına izin vererek, aslında herkesin X haber akışını hedef alan bir yanlış bilgi yangın hortumunun açılmasını sağladı.