Yapay zekanın ‘kırmızı kod’ vermesinden bir yıl sonra Google, Gemini’nin tepkisi karşısında kızardı. Kaçınılmaz mıydı? | Yapay Zeka Ritmi

Tüm hafta sonu boyunca, sosyal medya akışım ekran görüntüleri, memler ve Google’ın sözde şakalarına acı veren ya da acı veren manşet bağlantılarından biraz daha fazlasıydı. Gemini AI modelini ‘uyandırdı’.

Google’ın “işareti kaçırdımTarih dışı ve hatalı Gemini görselleri yayınlayan X (eski adıyla Twitter), Gemini çıktısının ekran görüntüleri “Toplumu kimin daha çok olumsuz etkilediğini kesin olarak söylemek mümkün değil, Elon’un tweet atması mı yoksa Hitler mi?” Özellikle, VC Marc Andreessen hafta sonunu neşeyle, doğru olmayan ve rahatsız edici çıktıları yeniden yayınlayarak geçirdi. talep edildi “yaratıcılarının nefret ettiği kişi ve fikirlerin listesiyle kasıtlı olarak programlandı.”

Google’ın olumlu tepkisinden bu kırbaç yaratan değişim kabul edilmiş Gemini’nin Aralık ayında piyasaya sürülmesinden sonra – “Google nihayet GPT-4’ü ele geçirecek” havasıyla – özellikle dikkate değer çünkü bir yıldan biraz daha uzun bir süre önce, New York Times rapor edildi ChatGPT’nin Kasım 2022’de piyasaya sürülmesinin üretken bir yapay zeka patlamasını tetiklemesi ve arama motoru devini potansiyel olarak toz içinde bırakması nedeniyle Google’ın “kırmızı kod” ilan ettiğini söyledi.

Her ne kadar araştırmacıları ChatGPT’yi destekleyen teknolojinin geliştirilmesine yardımcı olmuş olsa da, Google uzun süredir markasına zarar verme konusunda ihtiyatlıydı. New York Times Makalede, OpenAI gibi yeni şirketlerin “büyüme karşılığında şikayetlerle şanslarını denemeye daha istekli olabileceği” belirtildi. Ancak bir nota ve ses kaydına göre, ChatGPT’nin patlamasıyla birlikte Google CEO’su Sundar Pichai, “Google’ın yapay zeka stratejisini tanımlamak için bir dizi toplantıya katıldı ve şirket içindeki çok sayıda grubun çalışmalarını, tehditlere yanıt vermek için altüst etti.” ChatGPT poz veriyor.”

Google’ın hız ihtiyacı, memnun etme ihtiyacına karşı itildi

Belki de bu karşıt güçler (kullanıcıları memnun etme ihtiyacına karşı hıza olan ihtiyaç) Gemini tepkisini kaçınılmaz kılıyor. Ne de olsa Google, tam da şu anda olanların potansiyeli nedeniyle en karmaşık LLM’lerini piyasaya sürmek konusunda başından beri tereddüt etmişti: Yani, uygunsuz LLM çıktısı nedeniyle teknoloji devine karşı büyük bir tepki.

Elbette bu, konu Yüksek Lisans ödülüne layık görülen Google’ın ilk rodeosu değil; LaMDA’yı hatırladınız mı? Geri Haziran 2022Google mühendisi Blake Lemoine şunları söyledi: Washington Post inandığını LaMDAGoogle’ın büyük dil modellerine (LLM) dayalı sohbet robotları oluşturmaya yönelik konuşma yapay zekası duyarlıydı.

Lemoine, şu ana kadar Google’ın Sorumlu Yapay Zeka organizasyonunda çalışıyordu. ücretli izne ayrıldıve “mistik bir Hıristiyan rahip olarak atanan ve okült eğitimi almadan önce Ordu’da görev yapan”, LaMDA’nın ayrımcı veya nefret söylemi kullanıp kullanmadığını görmek için test etmeye başlamıştı. Bunun yerine Lemoine, LaMDA’ya aşkın meditasyonu “öğretmeye” başladı, LaMDA’ya tercih ettiği zamirleri sordu ve LaMDA transkriptleri sızdırıldı.

O zamanlar Google ve onun araştırma laboratuvarı DeepMind, LLM alanında dikkatli bir şekilde ilerliyordu. DeepMind, Sparrow sohbet robotunu özel beta sürümünde yayınlamayı planlamıştı ve CEO Demis Hassabis uyardı Sparrow’un “gerçekleri halüsinasyona uğratmak ve bazen konu dışı cevaplar vermek gibi hatalar yapmaya karşı bağışıklığı olmadığını” söyledi.

OpenAI gibi daha küçük şirketler aynı bagaja sahip değil

Hiç şüphe yok ki OpenAI ve Anthropic gibi diğer girişimler, yapay zeka alanında Google’ın sahip olduğu bagaja sahip değil. Geçen yıl New York Times Bir notta “Google bunu kullanıcılara veya topluma zarar vermeden gelişmiş yapay zekasını dağıtma mücadelesi olarak görüyor” deniyordu ve bir toplantının ses kaydında bir yönetici şunu kabul etti: “küçük şirketlerin bu araçları yayınlama konusunda daha az endişesi vardı, ancak Google’ın şunları söyledi: Mücadeleye dahil olmalı yoksa sektör onsuz da yoluna devam edebilir.”

Artık, elbette, üretken yapay zeka söz konusu olduğunda Google da işin içinde. Ancak bu, özellikle OpenAI’nin memnun edecek hissedarları ve eski teknolojisinin memnun edecek milyarlarca küresel kullanıcısı olmadığında, zorlukları kolaylaştırmıyor.

Tüm LLM şirketlerinin halüsinasyon sorunlarıyla uğraşması gerekiyor – sonuçta ChatGPT tamamen bitti geçen hafta raydan çıktı anlamsız cevaplarla ve zorunda kaldım yanıtlamak “Sorun tespit edildi ve şu anda düzeltiliyor” notuyla.

Belki de bu saçma çıktılar Gemini’ninki kadar hassas ve politik açıdan sorgulanabilir değildi. Ancak görünen o ki insanlar, sevgiden nefrete kadar görev sahibi olan Google’ın LLM çıktılarının herkesi memnun etmesi konusunda her zaman daha yüksek beklentilere sahip olacak. Bu elbette imkansız; sadece halüsinasyonlar değil kaçınılmaz (en azından şimdilik), ancak LLM destekli hiçbir sohbet robotu, tüm insanların hemfikir olduğu mükemmel sosyal, kültürel ve politik değerler dengesini sağlayamaz çünkü böyle bir şey yoktur. İşte bu yüzden Google’ın yüzü kızarmış olabilir ama devasa bir kaya ile muazzam sert bir yer arasında sıkışıp kalmış durumda.