OpenAI’nin kar amacı gütmeyen AGI oluşturma misyonu neden yine ateş altında | Yapay Zeka Ritmi

İçinde yeni dava Elon Musk’un geçen hafta OpenAI, CEO’su Sam Altman ve başkanı Greg Brockman’a karşı açtığı davada “kâr amacı gütmeyen kuruluş” kelimesi 17 kez geçiyor. “Board” tam 62 kez karşımıza çıkıyor. “AGİ” mi? 66 kez.

Sözleşmenin ihlali, vekalet görevinin ihlali ve haksız rekabeti içeren davanın iddialarının tümü, OpenAI’nin karları ve ticari çıkarları birbirine bağladığı fikri etrafında dönüyor. yapay genel zekanın geliştirilmesi (AGI) kar amacı gütmeyen kolunun (kar amacı gütmeyen kurulunun liderliğinde) kamu yararını koruma görevinin ilerisindedir.

Bu elbette OpenAI’nin yönetim kurulundan sonra patlak veren bir konu. aniden ateş edildi 17 Kasım 2023’te Sam Altman – bunu Microsoft ve yüzlerce OpenAI çalışanının da aralarında bulunduğu yatırımcıların Altman’ın tarafında olduklarını belirten kalp emojileri yayınlaması izledi. Altman hızla görevine iade edilirken, birkaç OpenAI yönetim kurulu üyesi de görevi devraldı.

Pek çok kişi, OpenAI kurucu ortağı olarak Musk’un artık şirketle rekabet ettiğini belirtti. kendi girişimi X.ai, pek objektif bir parti değil. Ancak ben önemli bir soruyla çok daha fazla ilgileniyorum: Yapay genel zekanın yükselişiyle bağlantılı olarak kar amacı gütmeyen inek yönetim sorunları nasıl yasal bir fırtınaya yol açtı?

OpenAI’nin sıra dışı kar amacı gütmeyen yapısı yine tehlikede

Her şey, Musk’un davasında daha önce gördüğümüzden daha ayrıntılı olarak ortaya konan OpenAI’nin başlangıcına kadar uzanıyor: 2015 yılında Musk, Altman ve Brockman, Google’a yetişmeye çalışacak kar amacı gütmeyen bir yapay zeka laboratuvarı oluşturmak için güçlerini birleştirdi. AGI yarışında – onu “hissedar kârını en üst düzeye çıkarmayı amaçlayan kâr amaçlı bir şirket için değil, insanlığın yararı için” geliştiriyoruz.

Ancak dava, 2023’te Altman, Brockman ve OpenAI’nin, Altman’ın kovulmasından sonraki günlerde meydana gelen olaylar da dahil olmak üzere, kar amacı gütmeyen kurulun vekâlet görevini ihlal etmek ve sözleşmeyi ihlal etmek gibi “aleni ihlallerle” “Kurucu Anlaşmayı alevlendirdiğini” iddia ediyor. 17 Kasım 2023’te kar amacı gütmeyen kuruluş kuruluna atandı ve ardından eski durumuna getirildi.

Tartışmaların çoğu, Open AI’nin herhangi bir eski kar amacı gütmeyen kuruluş olmadığı gerçeğine dayanıyor. aslında ben rapor edildi OpenAI’nin alışılmadık ve karmaşık kar amacı gütmeyen/sınırlı kar yapısı, Altman’ın kovulmasından sadece birkaç gün önce.

O parçada şunu işaret ettim:YapımızOpenAI’nin web sitesinde, OpenAI’nin kar amacı gütmeyen bağlı kuruluşunun OpenAI kar amacı gütmeyen kuruluşu tarafından “tamamen kontrol edildiğini” belirten sayfa. Kâr amacı güden bağlı kuruluşun “kar elde etme ve dağıtma izni olmasına rağmen” kâr amacı gütmeyen kuruluşun misyonuna tabidir.

Ancak Elon Musk’un davası, davaya taraf olan şirketlerin kafa karıştırıcı alfabe çorbasına daha da ışık tuttu. OpenAI, Inc. kar amacı gütmeyen bir kuruluş olmasına rağmen OpenAI, LP; OpenAI LLC; OpenAI GP, LLC; OpenAI Opco, LLC; OpenAI Global, LLC; OAI Corporation, LLC ve OpenAI Holdings, LLC’nin tümü kâr amacı güden yan kuruluşlar gibi görünmektedir.

Microsoft artık OpenAI’nin kar amacı gütmeyen yönetim kurulunun oy hakkı olmayan bir üyesi

Kasım ayında yazdığım gibi, OpenAI’ye göre kâr amacı gütmeyen yönetim kurulu üyeleri şirketin ne zaman harekete geçeceğini belirleyecek:AGI’ye ulaştı“- bunu “ekonomik açıdan en değerli işlerde insanlardan daha iyi performans gösteren, oldukça özerk bir sistem” olarak tanımlıyor. “Yasal olarak Kâr Amacı Gütmeyen Kuruluş misyonunu sürdürmekle yükümlü olan” kâr amacı gütmeyen kol sayesinde, yönetim kurulu AGI’ye veya yapay genel zekaya ulaşıldığına karar verdiğinde, böyle bir sistem “Microsoft’un IP lisanslarından ve diğer ticari şartlarından hariç tutulacaktır” yalnızca AGI öncesi teknoloji için geçerlidir.”

Ancak YGZ’nin tanımı üzerinde mutabakata varılmaktan çok uzak olduğundan, YGZ’ye ulaşılıp ulaşılmadığına yarım düzine kişinin karar vermesi ne anlama geliyor? Gelecekteki bu olası kararın zamanlaması ve bağlamı, en büyük yatırımcısı olan ve artık kar amacı gütmeyen yönetim kurulunun oy hakkı olmayan bir üyesi olan Microsoft için ne anlama geliyor? Bu çok büyük bir çıkar çatışması değil mi?

Musk kesinlikle öyle düşünüyor gibi görünüyor. Dava dilekçesinde şöyle deniyor: “Sn. Altman ve Bay Brockman, Microsoft ile birlikte, Microsoft’un OpenAI, Inc. üzerindeki önemli nüfuzundan yararlandı ve Baş Bilim Adamı Ilya Sutskever de dahil olmak üzere OpenAI, Inc.’in Yönetim Kurulu üyelerinin çoğunluğunu istifaya zorladı. Bay Altman, 21 Kasım’da OpenAI, Inc.’in CEO’su olarak yeniden görevlendirildi. Bilgi ve inanç üzerine, yeni Yönetim Kurulu üyeleri Bay Altman tarafından özel olarak seçildi ve Microsoft tarafından kutsandı. Yeni Yönetim Kurulu üyeleri önemli düzeyde yapay zeka uzmanlığından yoksundur ve bilgi ve inanç açısından, OpenAI’nin AGI’ye ulaşıp ulaşmadığı ve ne zaman ulaştığı ve dolayısıyla Microsoft’un lisansının kapsamı dışında bir algoritma geliştirdiği konusunda bağımsız bir karar verecek donanıma sahip değiller. .”

Diğerleri OpenAI’nin kar amacı gütmeyen statüsüne geri adım attı

Musk, OpenAI’nin kar amacı gütmeyen statüsüne karşı çıkan ilk kişi değil. Kâr amacı gütmeyen bir tüketici savunuculuğu kuruluşu olan Public Citizen’in başkanı Robert Weissman, “Musk’un şikayetinde anlattığı hikayenin Kaliforniya’da yaptığımız davayı doğruladığını ve derinleştirdiğini düşünüyorum” dedi. 9 Ocak tarihli mektup Kaliforniya Başsavcılığından OpenAI’nin kâr amacı gütmeyen statüsünü araştırmasını talep ediyoruz. Mektup, OpenAI’nin “kâr amacı gütmeyen amaçlarını yerine getiremediği ve bunun yerine kâr amacı güden yan kuruluşunun etkin kontrolü altında hareket ettiği” yönündeki endişeleri dile getirdi.

Konuştuğum hukuk uzmanları da Musk’ın bu konuda güçlü bir noktaya sahip olduğunu söylüyor: Washington DC merkezli CipherLaw’da avukat ve baş teknoloji uzmanı James Denaro, bana söyle Musk’un, eğer bir şirket kamu yararı için çalışan kar amacı gütmeyen bir kuruluş olarak faaliyete geçerse, vergi öncesi bağışlar toplarsa ve daha sonra fikri mülkiyeti kâr amaçlı bir girişime aktarırsa, bunun “oldukça sorunlu” olacağına dair güçlü bir politika argümanı öne sürüyor. teknoloji şirketleri için paradigma değişimi.

Case Western Üniversitesi Hukuk Fakültesi’nde doçent olan ve yakın zamanda şirket hukuku ve yönetimi üzerine yoğunlaşan Anat Alon-Beck, OpenAI’yi rahatsız eden kar amacı gütmeyen kuruluş ve kar amacı gütmeyen yapısal sorunlar nedeniyle Musk’un davasının şaşırtıcı olmadığını ekledi. bir makale yazdı Teknoloji şirketlerindeki yönetim kurulu üyelerini gözlemleyerek “gölge yönetişim” hakkında bilgi edindim.

Makaleye göre, “ChatGPT’yi dünyaya getiren kurumsal varlık OpenAI’nin, OpenAI’nin yönetim kurulu odasında yaşanan dramın ardından Microsoft’a bir kurul gözlemci koltuğu vermesinin ardından, ana akım medyanın yönetim kurulu gözlemcileri kavramına daha fazla ilgi göstermesi Kasım 2023’e kadar gerçekleşmedi. . Ancak ana akım medyanın yönetim kurulu gözlemcisi kavramına ilişkin haberlerinde keşfetmediği şey, OpenAI ile Microsoft arasındaki karmaşık ilişkinin önemli bir unsuru olan, oy hakkı olmayan kurul üyeliği olarak görünüşte daha az ilginç olan doğasıydı. Bu, iki şirket arasındaki bağların derinleştiğinin sinyalini verdi ve sonuçta DOJ ve FTC’nin de dikkatini çekti, ayrıca CVC’nin etkili rolü de ortaya çıktı. [corporate venture capital] OpenAI’nin araştırma ve geliştirmesinin finansmanı ve yönetilmesinde.”

“Bu dava OpenAI’nin yapısı nedeniyle açıldı” dedi ve OpenAI’nin endişelenmesi gerektiğini ekledi.

“Her zaman endişelenmelisiniz çünkü OpenAI gibi tuhaf bir yapıyı seçtiğinizde belirsizlik olur” dedi. “Hukuk alanında büyük şirketleri temsil ettiğimizde verimlilik, düşük işlem maliyetleri ve öngörülebilirlik istiyoruz. Mahkemelerin vekalet görevlerine nasıl bakacağını bilmiyoruz. Mahkeme bu yönde bir karar vermediği için bilmiyoruz. Kusura bakmayın ama kötü bir yapı. Bunu başarabilirlerdi [what they wanted] farklı bir yapı türü kullanıyor.”