Opera, kullanıcıların LLM’leri yerel olarak indirmesine ve kullanmasına olanak tanır

Web tarayıcı şirketi Opera, bugün kullanıcıların Büyük Dil Modellerini (LLM) bilgisayarlarına yerel olarak indirmelerine ve kullanmalarına izin vereceğini duyurdu. Bu özellik ilk olarak geliştirici akışı güncellemelerini alan Opera One kullanıcılarına sunulacak ve kullanıcıların 50’den fazla aileden 150’den fazla model arasından seçim yapmasına olanak tanıyacak.

Bu modeller arasında Meta’dan Llama, Google’dan Gemma ve Vicuna yer alıyor. Bu özellik, kullanıcıların bazı AI özelliklerine erken erişime sahip olmalarını sağlamak için Opera’nın Yapay Zeka Özellik Düşme Programının bir parçası olarak kullanıcılara sunulacak.

Şirket, bu modelleri bilgisayarınızda çalıştırmak için tarayıcıdaki Ollama açık kaynak çerçevesini kullandığını söyledi. Şu anda mevcut tüm modeller Ollama’nın kütüphanesinin bir alt kümesidir, ancak gelecekte şirket farklı kaynaklardan gelen modelleri de dahil etmeyi planlıyor.

Şirket, her bir varyantın yerel sisteminizde 2 GB’tan fazla yer kaplayacağını belirtti. Bu nedenle, depolama alanınızın tükenmesini önlemek için boş alanınıza dikkat etmelisiniz. Özellikle Opera, model indirirken depolama alanından tasarruf etmek için herhangi bir çalışma yapmıyor.

“Opera, ilk defa, çok sayıda 3. taraf yerel LLM’ye doğrudan tarayıcı üzerinden erişim sağladı. Opera Başkan Yardımcısı Jan Standal, TechCrunch’a yaptığı açıklamada, “Eldeki görevler konusunda giderek uzmanlaştıkça boyutlarının küçülmesi bekleniyor” dedi.

Bu özellik, çeşitli modelleri yerel olarak test etmeyi planlıyorsanız kullanışlıdır, ancak yerden tasarruf etmek istiyorsanız farklı modelleri keşfetmek için Quora’nın Poe ve HuggingChat gibi birçok çevrimiçi araç vardır.

Opera geçen yıldan beri yapay zeka destekli özelliklerle oynuyor. Şirket, geçtiğimiz mayıs ayında kenar çubuğunda yer alan Aria isimli bir asistanı kullanıma sunmuş ve ağustos ayında bunu iOS sürümüyle tanıştırmıştı. Ocak ayında Opera, AB’nin Dijital Piyasa Yasaları’nın (DMA) Apple’dan mobil tarayıcılar için zorunlu WebKit motoru zorunluluğunu kaldırmasını istemesi üzerine iOS için kendi motoruyla yapay zeka destekli bir tarayıcı oluşturduğunu açıklamıştı.