OpenAI yeni sınır modelini eğitmeye başlıyor

ChatGPT yapımcısı OpenAI bu sabah duyuruldu yeni “sınır modelini” eğitmeye başladı ve mevcut yönetim kurulu üyeleri Bret Taylor (OpenAI yönetim kurulu başkanı ve müşteri hizmetleri girişimi Sierra AI’nin kurucu ortağıeski Google Haritalar lideri ve eski Facebook CTO’su), Adam D’Angelo (Quora’nın CEO’su ve AI model toplayıcı uygulaması Poe), Nicole Seligman (eski Sony Corporation’ın İdari Başkan Yardımcısı ve küresel Genel Danışmanı) ve Sam Altman (şu anki OpenAI CEO’su ve kurucu ortaklarından biri).

OpenAI’nin yazdığı gibi şirket blog yazısı:

“OpenAI yakın zamanda bir sonraki öncü modelini eğitmeye başladı ve ortaya çıkan sistemlerin bizi AGI yolunda bir sonraki yetenek düzeyine taşıyacağını öngörüyoruz. Hem yetenekler hem de güvenlik açısından sektör lideri modeller oluşturup piyasaya sürmekten gurur duysak da, bu önemli anda güçlü bir tartışmayı memnuniyetle karşılıyoruz.“

90 günlük zamanlayıcı şimdi başlıyor

Şirket, bu yeni komitenin yeni öncü yapay zeka modelinin geliştirilmesinde oynayacağı rolü özellikle şöyle özetliyor:

“Emniyet ve Güvenlik Komitesinin ilk görevi OpenAI’yi değerlendirmek ve daha da geliştirmek olacaktır. süreçler ve güvenlik önlemleri önümüzdeki 90 gün boyunca. 90 günün sonunda Emniyet ve Güvenlik Komitesi tavsiyelerini tüm Kurulla paylaşacak. Kurulun tamamının incelemesinin ardından OpenAI, emniyet ve güvenlikle tutarlı bir şekilde kabul edilen önerilere ilişkin bir güncellemeyi kamuya açıklayacak.“

Bu nedenle, yeni sınır modeli ne olursa olsun (GPT-5 veya başka bir şey olarak adlandırılsa da) bu yıl için piyasaya sürülmeyeceği sonucuna varmak mantıklı olacaktır. en azından 90 gün, yeni Emniyet ve Güvenlik Komitesine “OpenAI süreçlerini ve korumalarını değerlendirmek ve daha da geliştirmek” için gerekli zamanı vermek ve tavsiyeleri “tam kurul” yönetim kuruluna sunmak.

Bu, OpenAI yönetim kurulunun yeni Emniyet ve Güvenlik Komitesinin tavsiyelerini en geç 26 Ağustos 2024 tarihine kadar alması gerektiği anlamına geliyor.

Neden daha uzun, daha kısa ya da başka bir süre yerine 90 gün? OpenAI tam olarak belirtmiyor ancak bu metrik, iş dünyasında süreçleri değerlendirmek ve geri bildirim sağlamak için kullanılan yaygın bir ölçümdür ve neredeyse diğerleri kadar iyi görünüyor – ne çok kısa ne de çok uzun.

Yeni güvenlik kurulu bağımsız değil

Bazıları yeni komitenin tamamen OpenAI’nin “kendi yöneticilerinden” oluştuğunu ve şirketin güvenlik önlemlerinin değerlendirilmesinin bağımsız olmayacağı anlamına geldiğini belirterek, haber hemen eleştirildi.

Birçoğu şu anda yeni Emniyet ve Güvenlik Komitesinde yer alan OpenAI’nin yönetim kurulu, daha önce de bir tartışma kaynağı olmuştu.

OpenAI’nin kar amacı gütmeyen holding şirketinin eski yönetim kurulu, Altman’ı CEO’luk görevinden ve şirketteki tüm görevlerinden kovdu 17 Kasım 2023’te, ChatGPT’nin 1. yıl dönümünden sadece beş gün önce, onlara karşı “tutarlı bir şekilde samimi olmadığını” belirterek, yalnızca bir çalışanların sert isyanı ve binbaşı Büyük destekçi Microsoft da dahil olmak üzere OpenAI yatırımcıları tarafından geri çevrildi.

Altman sonuçta 21 Kasım 2024’te OpenAI CEO’su olarak yeniden görevlendirildi. ve bu kurul istifa ederek yerlerine Taylor, Larry Summers ve Adam D’Angelo’yu getirdi; Microsoft da oy hakkı olmayan bir gözlemci olarak katıldı. O zamanlar yönetim kurulu tamamen erkek egemen olduğu için eleştiriliyor.

Açık Bu yılın 8 Mart’ıek üyeler Sue Desmond-Hellmann (Bill ve Melinda Gates Vakfı’nın eski CEO’su), Fidji Simo (Instacart CEO’su ve Başkanı), Seligman ve Altman da yeni yönetim kuruluna seçildi.

OpenAI (ve AI endüstrisi) için inişli çıkışlı bir dönem

OpenAI en son AI modelini yayınladı — GPT-4o – bu ayın başlarında ve o zamandan bu yana halkla ilişkilerde bir miktar erime yaşandı.

Yeni model, OpenAI’nin (ve muhtemelen dünyanın) türünün ilk örneği olmasına rağmen (önceki GPT’de olduğu gibi) metin ve medya üzerine eğitilmiş birkaç modeli bir araya getirmek yerine, başlangıçtan itibaren çok modlu giriş ve çıkışlar üzerinde eğitildi. 4), şirket aktör Scarlett Johansson tarafından eleştirildi onu yeni asistanını seslendirmek ve kendisinin ve diğerlerinin sesine benzeyen bir sesi (özellikle bilim kurgu filmindeki yapay zeka asistanı karakteri) sergilemekle suçladı O). OpenAI, ayrı bir ses görevlendirdiğini ve asla böyle bir niyet veya talimat vermediğini söyledi. seslendirme sanatçısı Johansson’u taklit edecek.

OpenAI’nin baş bilim adamı ve kurucu ortağı Ilya Sutskever istifa etti ile birlikte süper hizalama ekibinin eş lideri kendini süperzekalara karşı korumaya adamıştır ve ikincisi OpenAI’yi eleştirdi “parlak ürünlere” güvenliğe öncelik verdiği için kapıdan çıkıyor. süper hizalama ekibinin tamamı dağıtıldı.

Ayrıca OpenAI, Giden çalışanlar için kısıtlayıcı, aşağılayıcı olmayan bir ayrılık sözleşmesi olduğu için eleştirildi ve diğer şartların ihlal edilmesi durumunda özsermayenin geri alınması hükmü, ancak şirket o zamandan beri bunu söyledi uygulamayacak ve çalışanları bu terminolojiden kurtarın (bunun aynı zamanda Xerox’ta teknoloji alanında çalışma deneyimim ve kendi kendini yöneten Argo AI girişimi nedeniyle aslında alışılmadık bir durum olmadığını da ekleyebilirim).

Ancak aynı zamanda ana akım medyada yeni ortaklar edinerek başarıyı yakaladı Eğitim verilerinin ve yetkili gazeteciliğin ChatGPT’de ortaya çıkarılması için ve Sora video oluşturma modeline müzisyenler ve film yapımcıları arasında ilgi görüldü – gibi Hollywood’un yapay zekaya baktığı bildiriliyor film ve TV prodüksiyonunu kolaylaştırmak ve maliyetleri azaltmak.

Bu sırada, Rakip Google, aramadaki Yapay Zeka Genel Bakış yanıtları nedeniyle eleştirildiöneren sıradan kullanıcılar arasında tüm yapay zeka alanına yönelik daha geniş bir tepki.

OpenAI’nin yeni güvenlik komitesinin, hazırladığı her ne varsa piyasaya sürülmeden önce bazı eleştirmenleri ve belki daha da önemlisi düzenleyicileri ve potansiyel iş ortaklarını sakinleştirip sakinleştiremeyeceğini veya en azından sakinleştirebileceğini göreceğiz.