Y Combinator’dan Garry Tan bazı yapay zeka düzenlemelerini destekliyor ancak yapay zeka tekellerine karşı uyarıyor

Y Combinator’ın başkanı ve CEO’su Garry Tan, bu hafta Washington DC Ekonomi Kulübü’nde kalabalığa yapay zeka için “düzenlemenin muhtemelen gerekli olduğunu” söyledi.

Tan, Y Combinator’a nasıl girileceğinden yapay zekaya kadar her şeyi tartıştığı birebir röportajın bir parçası olarak General Catalyst yönetim kurulu üyesi Teresa Carlson ile konuştu ve “teknolojide çalışmak için doğru zamanda çalışmaktan daha iyi bir zaman olmadığını” belirtti. Şimdi.”

Tan, Ulusal Standartlar ve Teknoloji Enstitüsü’nün (NIST) bir GenAI risk azaltma çerçevesi oluşturma girişimini “genel olarak desteklediğini” söyledi ve “Biden Yönetimi tarafından yapılan EO’nun büyük bir kısmının muhtemelen doğru yolda olduğunu” söyledi.

NIST’in çerçevesi, GenAI’nin veri gizliliği ve telif hakkı gibi konuları yöneten mevcut yasalara uyması gerektiğini tanımlamak; GenAI kullanımının son kullanıcılara açıklanması; GenAI’nin çocuklara yönelik cinsel istismar materyalleri oluşturmasını yasaklayan düzenlemeler oluşturmak vb. Biden’ın yönetim emri, yapay zeka şirketlerinin güvenlik verilerini hükümetle paylaşmasını zorunlu tutmaktan, küçük geliştiricilerin adil erişime sahip olmasını sağlamaya kadar çok çeşitli hükümleri kapsıyor.

Ancak birçok Valley VC’si gibi Tan da diğer düzenleyici çabalara karşı temkinliydi. Kaliforniya ve San Francisco yasama meclislerinden geçen AI ile ilgili yasa tasarılarını “çok endişe verici” olarak nitelendirdi.

Politico’nun haberine göre, eyalet Senatörü Scott Wiener tarafından ortaya atılan ve başsavcıya, ürünlerinin zararlı olması durumunda yapay zeka şirketlerine dava açma olanağı tanıyan California yasa tasarısı heyecan yarattı.

“Şu anda genel olarak politika açısından büyük tartışma, bunun iyi bir versiyonunun gerçekte neye benzeyeceğidir?” dedi Tan. “Birleşik Krallık’taki Ian Hogarth gibi insanların düşünceli olmasını bekleyebiliriz. Aynı zamanda gücün yoğunlaşması fikrinin de farkındalar. Aynı zamanda, olası en kötü zararları azaltırken yeniliği nasıl desteklediğimizi de anlamaya çalışıyorlar.”

Hogarth, Birleşik Krallık tarafından yapay zeka modeli görev gücüne seçilen eski bir YC girişimcisi ve yapay zeka uzmanıdır.

Tan, “Beni korkutan şey, elimizde olmayan bir bilimkurgu endişesini gidermeye çalışmamızdır” dedi.

YC’nin sorumluluğu nasıl yönettiği konusunda Tan, eğer kuruluş bir startup’ın misyonunu ya da o ürünün toplum için ne yapacağını kabul etmiyorsa, “YC bunu finanse etmiyor” dedi. Medyada YC’ye başvuran bir şirketin haberlerini defalarca okuduğunu belirtti.

“Geri dönüp röportaj notlarına bakıyoruz ve bunun toplum için iyi olmadığını düşünüyoruz. Ve çok şükür, biz bunu finanse etmedik” dedi.

Yapay zeka liderleri ortalığı karıştırmaya devam ediyor

Tan’ın kılavuzu, Y Combinator’ın çok sayıda AI startup’ını kohort mezunları olarak ortaya çıkarması için hala yer bırakıyor. Meslektaşım Kyle Wiggers’ın bildirdiği gibi, YC’nin resmi başlangıç ​​dizinine göre, Kış 2024 kohortunda 86 yapay zeka girişimi vardı; bu, Kış 2023 grubunun neredeyse iki katı ve Kış 2021’deki sayının neredeyse üç katına yakındı.

Ve son zamanlardaki haberler, insanların sorumlu yapay zekayı tanımlayacak kişiler olarak yapay zeka ürünleri satan kişilere güvenip güvenemeyeceklerini merak etmelerine neden oluyor. Geçen hafta TechCrunch, OpenAI’nin AI sorumluluk ekibinden kurtulduğunu bildirdi.

Daha sonra fiyasko, şirketin yeni GPT-4o modelini tanıtırken aktris Scarlet Johansson’un sesine benzeyen bir ses kullanmasıyla ilgiliydi. Meğerse sesini kullanması istenmiş, o da bu teklifleri geri çevirmiş. OpenAI o zamandan beri Sky sesini kaldırdı ancak Johansson’a dayandığını inkar etti. Bu ve OpenAI’nin kazanılmış çalışan sermayesini geri alma becerisiyle ilgili sorunlar, insanların Sam Altman’ın vicdanını açıkça sorgulamasına yol açan birkaç konu arasındaydı.

Bu arada Meta, yalnızca beyaz erkeklerin yer aldığı bir Yapay Zeka danışma konseyinin kurulduğunu duyurarak Yapay Zeka konusunda kendi haberlerini yaptı; bu konseyin oluşturulmasında ve yenilenmesinde önemli bir rol oynayan kadınları ve farklı etnik kökenden insanları etkili bir şekilde dışarıda bıraktı. endüstri.

Tan bu örneklerden hiçbirine değinmedi. Çoğu Silikon Vadisi risk sermayedarı gibi onun da gördüğü şey yeni, devasa ve kazançlı işletmeler için fırsatlardır.

Tan, “Yeni girişimleri bir fikir labirenti olarak düşünmeyi seviyoruz” dedi. “Büyük dil modelleri gibi yeni bir teknoloji ortaya çıktığında, tüm fikir labirenti sarsılıyor. ChatGPT’nin kendisi muhtemelen yakın zamanda piyasaya sürülen en hızlı başarıya ulaşan tüketici ürünlerinden biriydi. Bu da kurucular için iyi bir haber.”

Geleceğin yapay zekası

Tan ayrıca San Francisco’nun yapay zeka hareketinin merkezinde olduğunu söyledi. Örneğin, YC mezunları tarafından başlatılan Anthropic’in başlangıcı ve YC’nin bir yan ürünü olan OpenAI burada başladı.

Tan ayrıca Altman’ın izinden gitmeyeceğini söyleyerek şaka yaptı ve Altman’ın “benim işimi birkaç yıl önce aldığını, dolayısıyla bir yapay zeka laboratuvarı kurma planının olmadığını” belirtti.

YC’nin diğer başarı öykülerinden biri, 2023’te Thomson Reuters’e 600 milyon dolara satılan yasal teknoloji girişimi Casetext’tir. Tan, Casetext’in dünyada üretken yapay zekaya erişim sağlayan ilk şirketlerden biri olduğuna ve o zaman da ilk çıkışlardan biri olduğuna inanıyordu. üretken yapay zekada.

Tan, yapay zekanın geleceğine bakarken, biyoterör ve siber saldırılarla ilgili risklerle ilgili olduğundan “açıkçası bu teknoloji konusunda akıllı olmamız gerektiğini” söyledi. Aynı zamanda “çok daha ölçülü bir yaklaşım” olması gerektiğini söyledi.

Ayrıca, muhtemelen “kazanan hepsini alır” modelinin olmayacağını, bunun yerine “tüketicinin özgürlük seçimi ve kurucuların bir milyar insana dokunan bir şey yaratabilmesi için inanılmaz bir bahçe” olacağını varsayıyor.

En azından onun gerçekleşmesini görmek istediği şey bu. Bu onun ve YC’nin çıkarına olacaktır; pek çok başarılı startup, yatırımcılara bol miktarda para kazandırıyor. Yani Tan’ı en çok korkutan şey kötü niyetli yapay zekalar değil, aralarından seçim yapılabilecek yapay zekaların azlığı.

“Aslında kendimizi sadece birkaç modelde büyük yoğunlaşmanın olduğu bu gerçekten tekelci durumda bulabiliriz. O zaman rant elde etmekten bahsediyorsun ve karşında benim yaşamak istemediğim bir dünya var.”