OpenAI, 2025’te Dikkatleri Süper Zekaya Kaydırıyor

Sam Altman’ın bir blog yazısına göre OpenAI, önümüzdeki yıl için öncelikli odak noktasının “süper zeka” geliştirmek olacağını duyurdu. Bu, insandan daha üstün yeteneklere sahip yapay zeka olarak tanımlanıyor.

OpenAI’nin mevcut ürün paketi çok çeşitli yeteneklere sahip olsa da Altman, süper zekanın kullanıcıların “başka her şeyi” gerçekleştirmesine olanak tanıyacağını söyledi. Toplumun iyileşmesine yol açacağına inandığı birincil örnek olarak hızlanan bilimsel keşifleri vurguluyor.

“Bu şu anda bilim kurgu gibi geliyor ve bunun hakkında konuşmak bile biraz çılgınca. Sorun değil; daha önce orada bulunduk ve tekrar orada olmamızda sorun yok” diye yazdı.

Yön değişikliği, Altman’ın artık “geleneksel olarak anladığımız şekliyle AGI’nin nasıl oluşturulacağını” bildiği şirketine olan güveniyle teşvik edildi. AGI veya yapay genel zeka, tipik olarak insan yetenekleriyle eşleşen, süper zekanın ise onları aşan bir sistem olarak tanımlanır.

BAKIN: OpenAI Sora: Bilmeniz Gereken Her Şey

Altman yıllardır süper zekayı araştırıyor ancak endişeler var

OpenAI, yapay zeka sistemlerinin risklerini tartışırken ve bunları insani değerlerle uyumlu hale getirirken birkaç yıldır süper zekadan bahsediyor. Temmuz 2023’te OpenAI, süper akıllı yapay zekayı kontrol altına almak için araştırmacıları işe aldığını duyurdu.

Ekibin, OpenAI’nin toplam bilgi işlem gücünün %20’sini, gelecekteki AI ürünlerini aynı hizada tutmak için insan düzeyinde otomatik hizalama araştırmacısı dedikleri şeyi eğitmeye ayıracağı bildirildi. Süper akıllı yapay zekaya ilişkin endişeler, böyle bir sistemin kontrol edilmesinin imkansız olmasından ve insani değerleri paylaşmamasından kaynaklanıyor.

OpenAI Hizalama Başkanı Jan Leike ve kurucu ortak ve Baş Bilim Adamı Ilya Sutskever, o dönemde bir blog yazısında “Yapay zeka sistemlerini bizden çok daha akıllı bir şekilde yönlendirmek ve kontrol etmek için bilimsel ve teknik atılımlara ihtiyacımız var” diye yazmıştı.

BAKINIZ: OpenAI ve Anthropic, ABD Yapay Zeka Güvenlik Enstitüsü ile Anlaşmalar İmzaladı

Ancak ekibin kurulmasından dört ay sonra, başka bir şirket gönderisi, onların “insanüstü yapay zeka sistemlerini güvenilir bir şekilde nasıl yönlendireceklerini ve kontrol edeceklerini hâlâ bilmediklerini (bilmediklerini)” ve “(süper zeki bir yapay zekanın) hile yapmasını engellemenin bir yoluna sahip olmadıklarını ortaya çıkardı. ”

Mayıs ayında, OpenAI’nin süper istihbarat güvenlik ekibi dağıtıldı ve aralarında Jan Leike ve ekibin eş lideri Ilya Sutskever’in de bulunduğu çok sayıda üst düzey personel, “güvenlik kültürü ve süreçlerinin parlak ürünlerin arkasında ikinci planda kaldığı” endişesi nedeniyle işten ayrıldı. Wired’a göre ekibin çalışmaları OpenAI’nin diğer araştırma çabaları tarafından emildi.

Buna rağmen Altman, blog yazısında OpenAI için güvenliğin önemini vurguladı. “Bir yapay zeka sistemini güvenli hale getirmenin en iyi yolunun, onu yinelemeli ve kademeli olarak dünyaya sunmak, topluma teknolojiye uyum sağlaması ve birlikte gelişmesi için zaman tanımak, deneyimlerden ders almak ve teknolojiyi daha güvenli hale getirmeye devam etmek olduğuna inanmaya devam ediyoruz. “diye yazdı.

“Güvenlik ve hizalama araştırmalarında dünya lideri olmanın ve bu araştırmayı gerçek dünya uygulamalarından alınan geri bildirimlerle yönlendirmenin önemine inanıyoruz.”

Süper zekaya giden yol hâlâ yıllar uzakta olabilir

Süper zekanın elde edilmesinin ne kadar süreceği konusunda anlaşmazlıklar var. Kasım 2023 tarihli blog gönderisinde bunun on yıl içinde gelişebileceği söylendi. Ancak neredeyse bir yıl sonra Altman bunun “birkaç bin gün uzakta” olabileceğini söyledi.

Ancak IBM Başkan Yardımcısı ve Teknoloji ve Veri Stratejisi küresel başkanı Brent Smolinski, Eylül 2024 tarihli bir şirket gönderisinde bunun “tamamen abartıldığını” söyledi. süper zeka” dedi.

Yapay zeka, yeni bir yeteneği öğrenmek için hala insanlardan çok daha fazla veriye ihtiyaç duyuyor, yeteneklerin kapsamı sınırlı ve Smolinski’nin süper zekanın temel göstergesi olarak gördüğü bilince veya öz farkındalığa sahip değil.

Ayrıca kuantum hesaplamanın, insan zekasını aşan yapay zekanın kilidini açmamızın tek yolu olabileceğini iddia ediyor. On yılın başında IBM, kuantumun gerçek iş sorunlarını 2030’dan önce çözmeye başlayacağını öngörmüştü.

BAKIN: Kuantum Bulut Bilişimdeki Atılım Güvenliğini ve Gizliliğini Sağlıyor

Altman, yapay zeka ajanlarının 2025’te iş gücüne katılacağını öngörüyor

Yapay zeka aracıları, yapılandırılmamış bir ortamda talimatları yerine getirmek veya kararlar almak için birlikte zincir oluşturabilen veya uygulamalarla etkileşime girebilen yarı özerk, üretken yapay zekadır. Örneğin Salesforce, satış potansiyel müşterilerini aramak için AI aracılarını kullanıyor.

TechRepublic, yıl sonunda yapay zeka ajanlarının kullanımının 2025’te artacağını öngördü. Altman, blog yazısında bunu yineleyerek şöyle dedi: “İlk yapay zeka ajanlarının ‘iş gücüne katıldığını’ ve şirketlerin çıktılarını önemli ölçüde değiştirdiğini görebiliriz.”

BAKIN: IBM: Kurumsal BT, Yakında Yapay Zeka Aracısı Devrimiyle Karşı Karşıya

Gartner tarafından hazırlanan bir araştırma makalesine göre sektöre hakim olacak ilk aktörler yazılım geliştirme olacak. Yazarlar, “Mevcut yapay zeka kodlama asistanları olgunluk kazanıyor ve yapay zeka aracıları bir sonraki artımlı faydaları sağlıyor” diye yazdı.

Gartner raporuna göre, 2028 itibarıyla kurumsal yazılım uygulamalarının %33’ü ajansal yapay zeka içerecek; bu oran 2024’te %1’in altındaydı. O yıla kadar çevrimiçi mağaza etkileşimlerinin beşte biri ve günlük iş kararlarının en az %15’i acenteler tarafından yürütülecek.

Altman, “Amacımızı bunun ötesine, kelimenin tam anlamıyla süper zekaya çevirmeye başlıyoruz” diye yazdı. “Gelecek birkaç yıl içinde herkesin bizim gördüklerimizi göreceğinden ve geniş faydayı ve yetkilendirmeyi en üst düzeye çıkarırken büyük bir dikkatle hareket etme ihtiyacının çok önemli olduğundan oldukça eminiz.”