Yapay Zekada Bu Hafta: OpenAI’nin yetenekleri elde tutma sorunları

Merhaba arkadaşlar, TechCrunch’ın düzenli AI bültenine hoş geldiniz.

Bu hafta AI’da OpenAI bir kurucu ortak daha kaybetti.

OpenAI’nin yapay zeka destekli sohbet robotu platformu ChatGPT’nin geliştirilmesinde önemli bir rol oynayan John Schulman, rakibi Anthropic için şirketten ayrıldı. Schulman, X ile ilgili haberi duyurdu ve kararının, yapay zeka hizalamasına (AI’nın amaçlandığı gibi davranmasını sağlama bilimi) odaklanmayı derinleştirme ve daha uygulamalı teknik çalışmalara girişme arzusundan kaynaklandığını söyledi.

Ancak OpenAI başkanı Greg Brockman’ın yıl sonuna kadar uzatılmış bir izne ayrılmasıyla birlikte Schulman’ın ayrılışının zamanlamasının fırsatçı olup olmadığını merak etmeden duramayız.

Schulman’ın ayrıldığını duyurduğu günün erken saatlerinde OpenAI, bu yıl DevDay etkinliğinin formatını değiştirmeyi planladığını ve gösterişli bir günlük konferans yerine bir dizi geliştirici etkileşim oturumunu tercih etmeyi planladığını açıkladı. Bir sözcü TechCrunch’a OpenAI’nin DevDay sırasında yeni bir model duyurmayacağını söyledi ve bu da şirketin mevcut amiral gemisi GPT-4o’nun halefi üzerindeki çalışmaların yavaş ilerlediğini öne sürdü. (Nvidia’nın Blackwell GPU’larının gecikmesi hızı daha da yavaşlatabilir.)

OpenAI’nin başı dertte olabilir mi? Schulman duvardaki yazıyı gördü mü? Sam Altman’ın imparatorluğuna dair bakış açısı şüphesiz bir yıl öncesine göre daha kasvetli.

Halkla ilişkiler uzmanı ve her yönüyle teknoloji uzmanı Ed Zitron, son zamanlarda bülteninde OpenAI’nin başarısını sürdürme yolunda birçok engelin durduğunu belirtti. Bu iyi araştırılmış ve kapsamlı bir eser ve onu yeniden ele alarak haksızlık yapmayacağım. Ancak Zitron’un OpenAI’nin artan performans baskısı hakkında öne sürdüğü noktalar dikkat çekmeye değer.

OpenAI’nin bu yıl 5 milyar dolar kaybetme yolunda olduğu bildiriliyor. Artan personel sayısı (AI araştırmacıları çok ama çok pahalıdır), model eğitimi ve geniş ölçekte model hizmeti maliyetlerini karşılamak için şirketin önümüzdeki 12 ila 24 ay içinde muazzam bir nakit dilimi toplaması gerekecek. Microsoft bariz bir hayırsever olacaktır; OpenAI’de %49 hisseye sahiptir ve zaman zaman aralarındaki rekabete rağmen OpenAI’nin ürün ekipleriyle yakın bir çalışma ilişkisi vardır. Ancak Microsoft’un sermaye harcamaları, henüz gerçekleşmemiş yapay zeka getirileri beklentisiyle yıldan yıla %75 oranında artarak (19 milyar dolara yükseldi), öyle mi? Gerçekten Uzun vadeli, riskli bir bahise sayısız milyarlarca dolar daha yatırma iştahınız var mı?

Bu muhabir, dünyanın en önde gelen yapay zeka şirketi OpenAI’nin ihtiyaç duyduğu parayı bir yerde Sonunda. Bununla birlikte, bu cankurtaran halatının daha az elverişli koşullarla ve belki de şirketin tavan kar yapısında uzun süredir söylentilere konu olan bir değişiklikle gelmesi çok gerçek bir ihtimal.

Hayatta kalmak muhtemelen OpenAI’nin orijinal misyonundan uzaklaşıp keşfedilmemiş ve belirsiz bölgelere doğru ilerlemesi anlamına gelecektir. Ve belki de bu, Schulman’ın (ve ortaklarının) yutamayacağı kadar zor bir haptı. Onları suçlamak zor; Yatırımcı ve kurumsal şüphecilik artarken, yalnızca OpenAI değil, tüm yapay zeka endüstrisi bir hesaplaşmayla karşı karşıya.

Haberler

Apple Intelligence’ın sınırları vardır: Apple, geçtiğimiz ay iOS 18.1 geliştirici beta sürümünün yayınlanmasıyla kullanıcılara Apple Intelligence özelliklerinin ilk gerçek tadını verdi. Ancak Ivan’ın yazdığı gibi, Yazma Araçları özelliği, uyuşturucu ve cinayet gibi küfür ve hassas konular söz konusu olduğunda tökezliyor.

Google’ın Nest Learning Termostatı yenileniyorr: Dokuz uzun yılın ardından Google nihayet Nest’e adını veren cihazı yeniliyor. Şirket Salı günü, orijinalin piyasaya sürülmesinden 4 ila 13 yıl sonra ve Learning Thermostat 3’ten neredeyse on yıl sonra ve gelecek hafta Made by Google 2024 etkinliğinden önce Nest Learning Thermostat’ın piyasaya sürüleceğini duyurdu.

X’in chatbot’u seçimle ilgili yanlış bilgiler yaydı: Grok, daha önce Twitter olarak bilinen sosyal ağ X’te Başkan Yardımcısı Kamala Harris hakkında yanlış bilgiler yayıyor. Bu, beş dışişleri bakanı tarafından Tesla, SpaceX ve X CEO’su Elon Musk’a hitaben yazılan ve X’in yapay zeka destekli sohbet robotunun yanlışlıkla Harris’in 2024 ABD başkanlık seçimlerine katılmaya uygun olmadığını öne sürdüğü iddia edilen açık bir mektuba göre.

YouTuber OpenAI’ye dava açtı: Bir YouTube içerik oluşturucusu, şirketin üretken yapay zeka modellerini video sahiplerine bildirimde bulunmadan veya tazminat ödemeden YouTube videolarından alınan milyonlarca transkript üzerinde eğittiğini iddia ederek OpenAI’ye karşı toplu dava açmaya çalışıyor.

Yapay zeka lobiciliği artıyor: ABD federal düzeyinde yapay zeka lobiciliği, devam eden üretken yapay zeka patlamasının ve gelecekteki yapay zeka düzenlemelerini etkileyebilecek bir seçim yılının ortasında yoğunlaşıyor. AI ile ilgili konularda federal hükümette lobi yapan grupların sayısı 2023’te 459’dan, Ocak’tan Temmuz’a kadar 2024’ün ilk yarısında 556’ya çıktı.

Haftanın araştırma makalesi

Geliştiricilerin tercihine göre az ya da çok kullanılabilen Meta’nın Llama ailesi gibi “açık” modeller yeniliği teşvik edebilir – ancak aynı zamanda riskler de taşırlar. Elbette birçoğunun yerleşik güvenlik filtreleri ve araçlarının yanı sıra kısıtlamalar getiren lisansları da var. Ancak bunların ötesinde, kötü bir aktörün örneğin yanlış bilgi yaymak veya bir içerik çiftliğini başlatmak için açık modelleri kullanmasını engelleyecek pek bir şey yok.

Gelecekte olabilir.

Harvard’dan, kar amacı gütmeyen Yapay Zeka Güvenliği Merkezi’nden ve başka yerlerden gelen bir araştırmacı ekibi, teknik bir makalede, modelin “iyi huylu yeteneklerini” korurken, modelin istenmeyen şekilde hareket etmesini önleyen “kurcalamaya dayanıklı” bir yöntem öneriyor. Deneylerde, yöntemlerinin modellere yönelik “saldırıları” önlemede etkili olduğunu (örneğin, vermemesi gereken bilgileri sağlayacak şekilde kandırmak gibi) modelin doğruluğundan biraz ödün vererek etkili olduğunu buldular.

Bir yakalama var. Araştırmacılar makalede, yöntemin, ek yükü azaltmak için “optimizasyon” gerektiren “hesaplama zorlukları” nedeniyle daha büyük modellere iyi ölçeklenemediğini açıklıyor. Bu nedenle, ilk çalışmalar umut verici olsa da yakın zamanda uygulamaya konmasını beklemeyin.

Haftanın modeli

Son zamanlarda sahneye çıkan yeni bir görüntü oluşturma modeli, Midjourney ve OpenAI’nin DALL-E 3’ü gibi yerleşik şirketlere paralarının karşılığını verecek gibi görünüyor.

Flux.1 olarak adlandırılan model – daha doğrusu, aile modellerin çoğu, Stabil Difüzyon ve onun birçok devamının yaratılmasında yer alan eski Stabilite Yapay Zeka araştırmacıları tarafından kurulan bir girişim olan Black Forest Labs tarafından geliştirilmiştir. (Black Forest Labs geçen hafta ilk finansman turunu duyurdu: Andreessen Horowitz liderliğindeki 31 milyon dolarlık bir tohum.)

En gelişmiş Flux.1 modeli olan Flux.1 Pro, bir API’nin arkasındadır. Ancak Black Forest Labs, ticari kullanımda hafif kısıtlamalarla yapay zeka geliştirme platformu Hugging Face’te Flux.1 Dev ve Flux.1 Schnell (Almanca “hızlı” anlamına gelen) adlı iki küçük modeli piyasaya sürdü. Black Forest Labs, her ikisinin de üretebildikleri görüntülerin kalitesi ve yönlendirmeleri ne kadar iyi takip edebildikleri açısından Midjourney ve DALL-E 3 ile rekabet halinde olduğunu iddia ediyor. Ve özellikle görsellere metin ekleme konusunda çok iyiler; bu, tarihsel olarak görüntü oluşturma modellerinin gözden kaçırdığı bir beceri.

Black Forest Labs, modelleri eğitmek için hangi verileri kullandığını paylaşmamayı tercih etti (bu, bu tür yapay zeka görüntü oluşturmanın doğasında bulunan telif hakkı riskleri göz önüne alındığında bu biraz endişe verici bir durum) ve girişim, bunun nasıl yapılacağı konusunda çok fazla ayrıntıya girmedi. Flux.1’in kötüye kullanımını önlemeyi amaçlamaktadır. Şimdilik kesinlikle uygulamalı bir yaklaşım benimseniyor; bu nedenle kullanıcılar dikkatli olsun.

Çantayı al

Üretken yapay zeka şirketleri, veri sahiplerinin izni olmadan, telif hakkıyla korunan veriler üzerinde modellerin eğitimi söz konusu olduğunda, adil kullanım savunmasını giderek daha fazla benimsiyor. Örneğin, yakın zamanda mahkemede sanatçılara ve plak şirketlerine ait şarkıları, bu sanatçıların ve plak şirketlerinin bilgisi olmadan ve onlara tazminat ödemeden kullanma iznine sahip olduğunu savunan yapay zeka müzik üreten platform Suno’yu ele alalım.

Bildirildiğine göre bu, Nvidia’nın (belki de arzulu) düşüncesi. Bu hafta yayınlanan 404 Media raporuna göre Nvidia, Cosmos kod adlı devasa bir video oluşturma modelini YouTube ve Netflix içeriği üzerinde eğitiyor. Üst düzey yönetim, ABD telif hakkı yasasının mevcut yorumu sayesinde mahkeme salonundaki savaşlardan sağ çıkacağına inandıkları projeye yeşil ışık yaktı.

Peki adil kullanım dünyadaki Suno’ları, Nvidia’ları, OpenAI’leri ve Midjourney’leri yasal cehennem ateşinden kurtarabilecek mi? TBD – ve davaların sonuçlanması kesinlikle yıllar alacak. Üretken yapay zeka balonunun bir emsal oluşturulmadan önce patlaması pekâlâ ortaya çıkabilir. Durum böyle olmazsa, sanatçılardan müzisyenlere, yazarlara, söz yazarlarına ve kameramanlara kadar yaratıcılar büyük bir maaş günü bekleyebilirler ya da halka açıkladıkları her şeyin adil olduğu gerçeğiyle yaşamak zorunda kalacaklar. üretken bir yapay zeka şirketinin eğitimi için.