Goodfire, AI gözlemlenebilirlik platformu için 7 milyon dolar topladı

Üretken yapay zeka modellerinin iç işleyişinin gözlemlenebilirliğini artırmak için araçlar geliştiren bir girişim olan Goodfire, bugün Menlo Ventures, South Park Commons, Work-Bench, Juniper’ın katılımıyla Lightspeed Venture Partners liderliğindeki tohum finansmanında 7 milyon dolar topladığını duyurdu. Ventures, Mythos Ventures, Bluebirds Capital ve birkaç önemli melek yatırımcı.

‘Kara kutu’ sorununa çözüm

Büyük dil modelleri (LLM’ler) gibi üretken yapay zeka modelleri giderek daha karmaşık hale geldikçe yüz milyarlarca parametreveya davranışlarını yöneten iç ortamlar da daha şeffaf hale geldi.

Bu “kara kutu” doğası, yapay zekayı güvenli ve güvenilir bir şekilde dağıtmak isteyen geliştiriciler ve işletmeler için önemli zorluklar doğurmaktadır.

2024’te yapılan bir McKinsey anketi bu sorunun aciliyetini vurguladı ve şunu ortaya çıkardı: İş liderlerinin %44’ü İstenmeyen model davranışı nedeniyle en az bir olumsuz sonuçla karşılaşan.

Goodfire, “” adlı yeni bir yaklaşımdan yararlanarak bu zorlukları çözmeyi amaçlamaktadır.Mekanistik yorumlanabilirlik.”

Bu çalışma alanı, yapay zeka modellerinin nasıl akıl yürüttüğünü ve ayrıntılı düzeyde nasıl karar verdiğini anlamaya odaklanır.

Model davranışını mı düzenliyorsunuz?

Goodfire’ın ürünü, yapay zeka modeli davranışını anlamak ve düzenlemek için yorumlanabilirliğe dayalı araçların kullanımına öncülük ediyor. Goodfire’ın CEO’su ve kurucu ortağı Eric Ho, yaklaşımlarını şöyle açıklıyor:

VentureBeat’e e-postayla gönderilen bir yanıtta Ho, “Araçlarımız üretken yapay zeka modellerinin kara kutusunu parçalayarak, bir modelin çıktısının ardındaki iç karar verme sürecini açıklayan, insan tarafından yorumlanabilen bir arayüz sağlıyor” dedi. “Geliştiriciler, modelin iç mekanizmalarına doğrudan erişebilir ve modelin karar verme sürecini değiştirmek için farklı kavramların ne kadar önemli olduğunu değiştirebilir.”

Ho’nun tanımladığı gibi süreç, yapay zeka modelleri üzerinde beyin ameliyatı yapmaya benziyor. Üç temel adımı özetlemektedir:

1. Beynin haritalanması: “Tıpkı bir sinir bilimcinin insan beyninin içini görmek için görüntüleme tekniklerini kullanması gibi, biz de hangi nöronların farklı görevlere, kavramlara ve kararlara karşılık geldiğini anlamak için yorumlanabilirlik tekniklerini kullanıyoruz.”
2. Davranışı görselleştirme: “Beynin haritasını çıkardıktan sonra, geliştiricilerin modelleriyle ilgili sorunları kolayca bulmasına olanak tanıyan bir arayüz oluşturarak, sorunlu davranışlardan beynin hangi bölümlerinin sorumlu olduğunu anlamak için araçlar sağlıyoruz.”
3. Ameliyat yapmak: “Bu anlayışla kullanıcılar model üzerinde çok hassas değişiklikler yapabiliyor. Tıpkı bir beyin cerrahının belirli bir beyin bölgesini dikkatle manipüle etmesi gibi, model davranışını düzeltmek için belirli bir özelliği kaldırabilir veya geliştirebilirler. Kullanıcılar bunu yaparak modelin yeteneklerini geliştirebilir, sorunları ortadan kaldırabilir ve hataları düzeltebilir.”

Bu düzeyde bir içgörü ve kontrol, pahalı yeniden eğitim veya deneme-yanılma odaklı hızlı mühendislik ihtiyacını potansiyel olarak azaltabilir ve yapay zeka gelişimini daha verimli ve öngörülebilir hale getirebilir.

Dünya standartlarında bir ekip oluşturmak

Goodfire ekibi, yapay zekanın yorumlanabilirliği ve startup ölçeklendirmesi alanındaki uzmanları bir araya getiriyor:

• CEO Eric Ho, daha önce Goldman Sachs tarafından desteklenen B Serisi yapay zeka işe alım girişimi olan RippleMatch’i kurmuştu.
• Baş Bilim Adamı Tom McGrath, daha önce DeepMind’da kıdemli bir araştırma bilimcisiydi ve burada şirketin mekanik yorumlanabilirlik ekibini kurdu.
• CTO Dan Balsam, RippleMatch’in kurucu mühendisiydi ve burada çekirdek platform ve makine öğrenimi ekiplerini yönetti.

Eskiden OpenAI’de önde gelen yorumlanabilirlik araştırmacısı olan Nick Cammarata, Goodfire’ın çalışmasının önemini vurguladı: “Şu anda sınır araştırması ile yorumlanabilirlik yöntemlerinin pratik kullanımı arasında kritik bir boşluk var. Goodfire ekibi bu açığı kapatacak en iyi ekip.”

Lightspeed Venture Partners Ortağı Nnamdi Iregbulem, Goodfire’ın potansiyeline duyduğu güveni dile getirdi: “Yorumlanabilirlik, yapay zekada çok önemli bir yapı taşı olarak ortaya çıkıyor. Goodfire’ın araçları, LLM geliştirmede temel bir ilkel görevi görecek ve geliştiricilerin modellerle tamamen yeni yollarla etkileşim kurma yeteneğini açacak. Yapay zeka yığınının bu kritik katmanına liderlik etmesi için Goodfire’ı destekliyoruz.”

İleriye bakmak

Goodfire, finansmanı mühendislik ve araştırma ekibini büyütmenin yanı sıra temel teknolojisini geliştirmek için kullanmayı planlıyor.

Şirket, mevcut en büyük teknoloji harikası açık ağırlık modellerini desteklemeyi, model düzenleme işlevselliğini geliştirmeyi ve modelin dahili bileşenleriyle etkileşim için yeni kullanıcı arayüzleri geliştirmeyi hedefliyor.

Kamu yararına çalışan bir şirket olarak Goodfire, insanlığın gelişmiş yapay zeka sistemlerine ilişkin anlayışını geliştirmeye kendini adamıştır. Şirket, yapay zeka modellerini daha yorumlanabilir ve düzenlenebilir hale getirerek daha güvenli, daha güvenilir ve daha faydalı yapay zeka teknolojilerinin yolunu açabileceğine inanıyor.

Goodfire, ekiplerine katılmak ve yapay zeka yorumlanabilirliğinin geleceğini inşa etmeye yardımcı olmak için aktif olarak “temsilci, görev odaklı, nazik ve düşünceli insanları” işe alıyor.