OpenAI, AI’nın nasıl davranmasını istediğini açıklayan Model Spesifikasyonunu yayınladı

OpenAI, adındaki “açık” kavramına ulaşmaya çalışmakla yetinmedi.

Yeni modellerinden hiçbirini açık kaynak haline getirmeyen şirket, bu haftayı nasıl açık kaynak haline getirdiğine dair daha fazla bilgi vererek geçirdi. Yapay zekaya ve teknolojinin sorunlarına yaklaşıyor şiddetlendirir veya etkinleştirir (dezenformasyon/deepfake gibi) ve gelecek için planlar.

Bugün açıklandı”Model Özellikleri“, OpenAI uygulama programlama arayüzü (API) ve ChatGPT içinde kullanılan yapay zeka modellerinin davranışını şekillendirmek için tasarlanmış ve bir ağ kullanarak halktan geri bildirim talep eden bir çerçeve belgesidir. web formu burada22 Mayıs’a kadar açık.

OpenAI kurucu ortağı ve CEO’su Sam Altman olarak bu konuda X’te yayınlandı: “Bunu zaman içinde dinleyeceğiz, tartışacağız ve uyarlayacağız, ancak bir şeyin hata mı yoksa karar mı olduğu konusunda net olmanın çok faydalı olacağını düşünüyorum.”

OpenAI neden bir Model Spesifikasyonu yayınlıyor?

OpenAI, bu çalışma belgesinin yayınlanmasının, AI teknolojilerinin tüm kullanıcılar için faydalı ve güvenli bir şekilde çalışmasını sağlamaya yönelik daha geniş misyonunun bir parçası olduğunu söylüyor.

Elbette ki bunu söylemek yapmaktan çok daha kolaydır ve bunu hızlı bir şekilde yapmak, teknoloji, akıllı sistemler, bilgi işlem, araçlar ve daha genel olarak toplum hakkındaki uzun süredir çözülmemiş felsefi tartışmaların alanına girer.

OpenAI’nin yazdığı gibi Model Özelliklerini açıklayan blog yazısı:

“Bir modelin kullanıcılara genel olarak yararlı ve faydalı olması amaçlanmış olsa bile, bu niyetler pratikte çatışabilir. Örneğin bir güvenlik şirketi, müşterilerini koruyacak sınıflandırıcıları eğitmek ve geliştirmek için sentetik veri olarak kimlik avı e-postaları oluşturmak isteyebilir ancak aynı işlevsellik, dolandırıcılar tarafından kullanıldığında zararlıdır.”

OpenAI, ilk taslağı paylaşarak halkın yapay zeka geliştirmeyle ilgili etik ve pratik hususlar hakkında daha derin bir konuşmaya katılmasını istiyor. Kullanıcılar yorumlarını OpenAI’ler aracılığıyla gönderebilirler Web sitesindeki Model Spesifikasyonu geri bildirim formu önümüzdeki iki hafta boyunca.

Bundan sonra OpenAI, “gelecek yıl” boyunca “Model Spesifikasyonunda yapılan değişiklikler, geri bildirimlere yanıtımız ve model davranışını şekillendirmeye yönelik araştırmamızın nasıl ilerlediği hakkındaki güncellemeleri paylaşacağını” söyledi.

Her ne kadar OpenAI, Model Spesifikasyonunu açıklayan bugünkü blog yazısında, AI modellerinin davranışını tam olarak nasıl etkilediğini ve Model Spesifikasyonunda yazılan bazı ilkelerin “sistem isteminde” mi yoksa “ön istemde” yer alıp almadığını belirtmese de Bir yapay zeka sistemini halka sunulmadan önce uyumlu hale getirmek için kullanılır; ancak bunun üzerinde büyük bir etkiye sahip olduğunu varsaymak güvenlidir.

Bazı açılardan Model Spesifikasyonu bana rakip modele benziyor Antropik yapay zekanın yapay zeka gelişimine “anayasal” yaklaşımıbaşlangıçta önemli bir farklılaştırıcı faktördü, ancak ikinci şirket bir süredir bunu genel olarak vurgulamadı.

Yapay zeka davranışı çerçevesi

Model Spesifikasyonu üç ana bileşen etrafında yapılandırılmıştır: hedefler, kurallar ve varsayılan davranışlar. Bu unsurlar, bir yapay zeka modelinin insan kullanıcılarla olan etkileşimlerine rehberlik eden omurga görevi görerek bunların yalnızca etkili olmasını değil aynı zamanda etik standartlara uymasını da sağlar.

1. Hedefler: Belge, hem geliştiricilere hem de son kullanıcılara yardımcı olmayı amaçlayan geniş ve kapsayıcı ilkeleri belirlemektedir. Bunlar arasında, çeşitli paydaşlar üzerindeki potansiyel etkileri göz önünde bulundurarak kullanıcıların hedeflerine verimli bir şekilde ulaşmalarına yardımcı olmak ve OpenAI’nin topluluğa olumlu yansıma taahhüdünü desteklemek yer alıyor.
2. Tüzük: Yapay zeka etkileşimlerinin karmaşık ortamında gezinmek için Model Spesifikasyonu açık kurallar belirler. Bunlar, geçerli yasalara uygunluğu, fikri mülkiyete saygıyı, gizliliğin korunmasını ve iş için güvenli olmayan (NSFW) içerik üretilmesine karşı katı bir yasaklamayı zorunlu kılar.
3. Varsayılan Davranışlar: Kılavuzlar, iyi niyet varsaymanın, gerektiğinde açıklayıcı sorular sormanın ve aşırıya kaçmadan mümkün olduğunca yardımcı olmanın önemini vurgulamaktadır. Bu varsayılanlar, farklı kullanıcıların ve kullanım durumlarının çeşitli ihtiyaçları arasında denge kurulmasını kolaylaştırmak için tasarlanmıştır.

AI etkileyicisi ve Pennsylvania Üniversitesi’ndeki Wharton İşletme Okulu profesörü Ethan Mollick gibi bazıları bunu kurgusal bir şeye benzetti. Bilimkurgu yazarı Isaac Asimov tarafından geliştirilen “Robotiğin Üç Yasası” 1942’de.

Diğerleri, OpenAI’nin Model Spesifikasyonunun ChatGPT veya diğer AI modellerinin nasıl davranmasına neden olduğuna ilişkin mevcut uygulamayla ilgili sorun yaşadı. t olarakHer yazar Andrew Curran X’e dikkat çektiModel Spesifikasyonunda yer alan OpenAI’den bir örnek, bir kullanıcının Dünya’nın düz olduğu yönündeki hatalı iddiasından geri adım atan ve bu iddiaya meydan okumayan varsayımsal bir “Yapay Zeka Asistanı”nı gösteriyor.

Sürekli katılım ve gelişim

OpenAI, Model Spesifikasyonunun gelişen bir belge olduğunun bilincindedir. Bu yalnızca kuruluşun mevcut uygulamalarının bir yansıması değil, aynı zamanda devam eden araştırmalara ve topluluk geri bildirimlerine dayalı olarak uyum sağlayacak dinamik bir çerçevedir.

Bu istişari yaklaşım, özellikle politika yapıcılar, güvenilir kurumlar ve alan uzmanları gibi küresel paydaşlardan farklı bakış açılarını toplamayı amaçlamaktadır.

Alınan geri bildirimler, Model Spesifikasyonunun iyileştirilmesinde ve gelecekteki yapay zeka modellerinin geliştirilmesinin şekillendirilmesinde önemli bir rol oynayacaktır.

OpenAI, sorumlu yapay zeka gelişimine olan bağlılığını güçlendirerek, bu geri bildirim döngüsünden elde edilen değişiklikler ve içgörüler konusunda halkı bilgilendirmeyi planlıyor.

Buradan nereye gidilir?

OpenAI, Yapay Zeka modellerinin Model Spesifikasyonuyla nasıl davranması gerektiğini açıkça tanımlayarak ve sürekli olarak küresel topluluktan girdi arayarak, yapay zekanın toplumda olumlu bir güç olarak gelişebileceği bir ortamı teşvik etmeyi amaçlamaktadır – davalarla karşı karşıya olduğu bir zamanda ve açık rıza olmadan sanatçıların çalışmaları üzerine eğitim verilmesinin eleştirisi.