Anthropic’in baş bilim adamı, ajanların 2025’te daha da iyi olacağı 5 yol hakkında konuşuyor

2/ Temsilciler bağlamı anlayacak

“Claude’un yararlı olabilmesi için özel durumunuz ve faaliyet gösterdiğiniz kısıtlamalar hakkında yeterince bilgi edinmesi gerekiyor. Hangi rolde olduğunuz, hangi yazım tarzları veya sizin ve kuruluşunuzun ne gibi ihtiyaçları olduğu gibi şeyler.

“Claude’un belgeleriniz, Slack’iniz vb. gibi şeyleri araştırabileceği ve sizin için neyin yararlı olduğunu gerçekten öğrenebileceği gelişmeler göreceğimizi düşünüyorum. Bu, acentelerde biraz yeterince vurgulanmıyor. Sistemlerin yalnızca kullanışlı değil, aynı zamanda güvenli olması ve beklentilerinizi karşılayabilmesi de gereklidir.

“Başka bir şey de, pek çok görevin Claude’un çok fazla şey yapmasını gerektirmeyecek olması muhakeme. Google Dokümanlar’ı veya başka bir şeyi açmadan önce oturup saatlerce düşünmenize gerek yok. Ve bu yüzden göreceğimiz şeylerin çoğunun sadece daha fazla akıl yürütme değil, aynı zamanda gerçekten yararlı ve önemli olduğunda akıl yürütmenin uygulanması, aynı zamanda gerekli olmadığında zaman kaybetmemek olacağını düşünüyorum.”

3/ Temsilciler kodlama asistanlarını daha iyi hale getirecek

“Sistem nispeten ilkelken geliştiricilere geri bildirim almaları için bilgisayar kullanımının ilk beta sürümünü sunmak istedik. Ancak bu sistemler geliştikçe daha yaygın olarak kullanılabilirler ve farklı faaliyetlerde sizinle gerçekten işbirliği yapabilirler.

“Bence DoorDash, Tarayıcı Şirketi ve Canva farklı türden tarayıcı etkileşimleri üzerinde deneyler yapıyor ve bunları yapay zeka yardımıyla tasarlıyor.

“Beklentim şu ki kodlama asistanlarında da daha fazla gelişme göreceğiz. Bu geliştiriciler için çok heyecan verici bir şey. Kodlama için Claude 3.5’in kullanılmasına büyük bir ilgi var; burada bu, birkaç yıl önce olduğu gibi yalnızca otomatik tamamlama değil. Bu gerçekten koddaki sorunun ne olduğunu anlamak, hata ayıklamak, kodu çalıştırmak, ne olduğunu görmek ve düzeltmek anlamına geliyor.”

4/ Temsilcilerin güvenli hale getirilmesi gerekecek

“Anthropic’i kurduk çünkü yapay zekanın çok hızlı ilerlemesini bekliyorduk ve [thought] kaçınılmaz olarak güvenlik kaygılarının önemli olacağı. Ve bence bu yıl bu daha da içselleşecek çünkü bu temsilcilerin yaptığımız işe giderek daha fazla entegre olacağını düşünüyorum. Hızlı enjeksiyon gibi zorluklara hazır olmamız gerekiyor.

[Prompt injection is an attack in which a malicious prompt is passed to a large language model in ways that its developers did not foresee or intend. One way to do this is to add the prompt to websites that models might visit.]