Prompt Poet ile Tanışın: LLM istem mühendisliğinde devrim yaratan, Google tarafından edinilen araç

Yapay zeka çağında, hızlı mühendislik büyük dil modellerinin (LLM’ler) tüm potansiyelinden yararlanmak için önemli bir yeni beceridir. Bu, ChatGPT gibi yapay zeka modellerinden ilgili, faydalı çıktılar elde etmek için karmaşık girdiler oluşturma sanatıdır. Birçok LLM, teknik bilgisi olmayan kullanıcılara dost olacak ve kulağa doğal gelen konuşma istemlerine iyi yanıt verecek şekilde tasarlanmış olsa da, gelişmiş istem mühendisliği teknikleri başka bir güçlü kontrol düzeyi sunar. Bu teknikler bireysel kullanıcılar için faydalıdır ve gelişmiş yapay zeka destekli uygulamalar geliştirmek isteyen geliştiriciler için kesinlikle gereklidir.

Oyunun Kurallarını Değiştiren: Hızlı Şair

Prompt Poet, tarafından geliştirilen çığır açan bir araçtır. Karakter.aikişiselleştirilmiş konuşma yapay zekaları için bir platform ve yapım alanı olan yakın zamanda Google tarafından satın alındı. Prompt Poet, Google’ın Gemini gibi yapay zeka projelerinde hızlı içerik yönetiminin gelecekteki yönüne potansiyel olarak bir bakış sunuyor.

Prompt Poet birçok önemli avantaj sunar ve basitliği ve odağıyla Langchain gibi diğer çerçevelerden öne çıkar:

• Düşük Kod Yaklaşımı: Daha yoğun kod içeren çerçevelerin aksine, hem teknik hem de teknik olmayan kullanıcılar için hızlı tasarımı basitleştirir.
• Şablon Esnekliği: Karmaşık bilgi istemi yapılarını desteklemek için YAML ve Jinja2’yi kullanır.
• Bağlam Yönetimi: Daha dinamik ve veri açısından zengin bir bilgi istemi oluşturma süreci sunarak harici verileri sorunsuz bir şekilde entegre eder.
• Yeterlik: Dizgi işlemlerinin mühendisliği için harcanan zamanı azaltarak kullanıcıların en uygun bilgi istemi metnini oluşturmaya odaklanmasını sağlar.

Bu makale, hızlı mühendislikte kritik bağlam kavramına, özellikle de talimat ve veri bileşenlerine odaklanmaktadır. Prompt Poet’in, LLM uygulamalarınızın etkinliğini artırarak dinamik, veri açısından zengin istemlerin oluşturulmasını nasıl kolaylaştırabileceğini keşfedeceğiz.

Bağlamın Önemi: Talimatlar ve Veriler

Bir LLM uygulamasını özelleştirmek genellikle ona nasıl davranılacağına ilişkin ayrıntılı talimatlar vermeyi içerir. Bu, bir kişilik tipini, belirli bir durumu tanımlamak, hatta tarihsel bir figürü taklit etmek anlamına gelebilir. Örneğin:

Bir chatbot gibi bir LLM uygulamasını özelleştirmek, genellikle ona nasıl hareket edileceğine dair özel talimatlar vermek anlamına gelir. Bu, belirli bir kişilik tipini, durumunu veya rolünü, hatta belirli bir tarihsel veya kurgusal kişiyi tanımlamak anlamına gelebilir. Örneğin, ahlaki bir ikilemle ilgili yardım isterken, modelden belirli birinin tarzında yanıt vermesini isteyebilirsiniz; bu, alacağınız yanıtın türünü büyük ölçüde etkileyecektir. Ayrıntıların (seçtiğiniz kişiler gibi) ne kadar önemli olduğunu görmek için aşağıdaki istemin çeşitlerini deneyin:

Simulate a panel discussion with the philosophers Aristotle, Karl Marx, and Peter Singer. Each should provide individual advice, comment on each other's responses, and conclude. Suppose they are very hungry.
The question: The pizza place gave us an extra pie, should I tell them or should we keep it?

Ayrıntılar önemlidir. Etkili bilgi istemi mühendisliği ayrıca belirli, özelleştirilmiş bir veri bağlamı oluşturmayı da içerir. Bu, modele, aksi takdirde erişemeyeceği kişisel kullanıcı verileri, gerçek zamanlı bilgiler veya özel bilgiler gibi ilgili gerçekleri sağlamak anlamına gelir. Bu yaklaşım, yapay zekanın, kullanıcının özel durumuyla, bilgisiz genel bir model için mümkün olandan çok daha alakalı çıktılar üretmesine olanak tanır.

Hızlı Şablon Oluşturma ile Verimli Veri Yönetimi

Veriler, yalnızca ChatGPT’ye yazılarak manuel olarak yüklenebilir. Bir yazılımın nasıl kurulacağı konusunda tavsiye isterseniz, donanımınız hakkında bilgi vermelisiniz. Mükemmel özgeçmişi hazırlamak için yardım isterseniz, önce ona becerilerinizi ve iş geçmişinizi anlatmalısınız. Ancak kişisel kullanım için bu uygun olsa da geliştirme amaçlı olarak işe yaramıyor. Kişisel kullanım için bile her etkileşim için verilerin manuel olarak girilmesi sıkıcı ve hataya açık olabilir.

Hızlı şablonlamanın devreye girdiği yer burasıdır. Prompt Poet, esnek ve dinamik istemler oluşturmak için YAML ve Jinja2’yi kullanarak LLM etkileşimlerini önemli ölçüde artırır.

Örnek: Günlük Planlayıcı

Prompt Poet’in gücünü göstermek için basit bir örnek üzerinde çalışalım: kullanıcıya yaklaşan etkinlikleri hatırlatacak ve gerçek zamanlı verilere dayalı olarak güne hazırlanmalarına yardımcı olacak bağlamsal bilgiler sağlayacak bir günlük planlama asistanı.

Örneğin, şöyle bir çıktı isteyebilirsiniz:

Good morning! It looks like you have virtual meetings in the morning and an afternoon hike planned. Don't forget water and sunscreen for your hike since it's sunny outside.

Here are your schedule and current conditions for today:

- **09:00 AM:** Virtual meeting with the marketing team

- **11:00 AM:** One-on-one with the project manager

- **07:00 PM:** Afternoon hike at Discovery Park with friends

It's currently 65°F and sunny. Expect good conditions for your hike. Be aware of a bridge closure on I-90, which might cause delays.

Bunu yapmak için modele en az iki farklı bağlam parçası sağlamamız gerekecek: 1) görevle ilgili özelleştirilmiş talimatlar ve 2) kullanıcı etkileşiminin gerçek bağlamını tanımlamak için gerekli veriler.

Prompt Poet bize bu bağlamı ele almamız için bazı güçlü araçlar sunuyor. Bir tane oluşturarak başlayacağız şablon Talimatların genel formunu tutmak ve bunu özel bilgilerle doldurmak veri sorguyu çalıştırmak istediğimiz zaman. Yukarıdaki örnekte, Prompt Poet ‘Prompt’ nesnesinin bileşenleri olan bir ‘raw_template’ ve onu doldurmak için ‘template_data’ oluşturmak için aşağıdaki Python kodunu kullanabiliriz.

raw_template = """

- name: system instructions

  role: system

  content: |

    You are a helpful daily planning assistant. Use the following information about the user's schedule and conditions in their area to provide a detailed summary of the day. Remind them of upcoming events and bring any warnings or unusual conditions to their attention, including weather, traffic, or air quality warnings. Ask if they have any follow-up questions.

- name: realtime data

  role: system

  content: |   

    Weather in {{ user_city }}, {{ user_country }}:

    - Temperature: {{ user_temperature }}°C

    - Description: {{ user_description }}

    Traffic in {{ user_city }}:

    - Status: {{ traffic_status }}

    Air Quality in {{ user_city }}:

    - AQI: {{ aqi }}

    - Main Pollutant: {{ main_pollutant }}

    Upcoming Events:

    {% for event in events %}

    - {{ event.start }}: {{ event.summary }}

    {% endfor %}

"""

Aşağıdaki kod, tek, tutarlı bir bilgi istemi oluşturmak üzere birden fazla veri kaynağından gelen verileri bir şablona doldurmak için Prompt Poet’in “Prompt” sınıfını kullanır. Bu, kişiselleştirilmiş, bağlama duyarlı yanıtlar sağlamak için günlük planlama asistanını çağırmamıza olanak tanır. Model, hava durumu verilerini, trafik güncellemelerini, AQI bilgilerini ve takvim etkinliklerini alarak ayrıntılı özetler ve hatırlatıcılar sunarak kullanıcı deneyimini geliştirebilir.

Tam çalışmayı klonlayabilir ve deneyebilirsiniz kod örneğiaynı zamanda uygulayan birkaç adımda öğrenme, modellerin küçük bir eğitim örnekleri seti ile sunulmasını içeren güçlü bir hızlı mühendislik tekniği.

# User data

user_weather_info = get_weather_info(user_city)

traffic_info = get_traffic_info(user_city)

aqi_info = get_aqi_info(user_city)

events_info = get_events_info(calendar_events)

template_data = {

    "user_city": user_city,

    "user_country": user_country,

    "user_temperature": user_weather_info["temperature"],

    "user_description": user_weather_info["description"],

    "traffic_status": traffic_info,

    "aqi": aqi_info["aqi"],

    "main_pollutant": aqi_info["main_pollutant"],

    "events": events_info

}

# Create the prompt using Prompt Poet

prompt = Prompt(

    raw_template=raw_template_yaml,

    template_data=template_data

)

# Get response from OpenAI

model_response = openai.ChatCompletion.create(

  model="gpt-4",

  messages=prompt.messages

)

Çözüm

Hızlı mühendisliğin temellerine, özellikle de talimatların ve verilerin rollerine hakim olmak, Yüksek Lisans’ın potansiyelini en üst düzeye çıkarmak için çok önemlidir. Prompt Poet, bu alanda güçlü bir araç olarak öne çıkıyor ve dinamik, veri açısından zengin istemler oluşturmaya yönelik akıcı bir yaklaşım sunuyor.

Prompt Poet’in düşük kodlu, esnek şablon sistemi, hızlı tasarımı erişilebilir ve verimli hale getirir. Veri dolu bilgi istemi şablonları, bir LLM’nin eğitiminde kullanılamayacak harici veri kaynaklarını entegre ederek, yapay zeka yanıtlarının doğru ve kullanıcıyla alakalı olmasını daha iyi sağlayabilir.

Prompt Poet gibi araçları kullanarak hızlı mühendislik becerilerinizi geliştirebilir ve farklı kullanıcı ihtiyaçlarını hassasiyetle karşılayan yenilikçi yapay zeka uygulamaları geliştirebilirsiniz. Yapay zeka gelişmeye devam ettikçe, en son hızlı mühendislik tekniklerinde yetkin kalmak önemli olacaktır.