Yapay zeka araçlarından (ChatGPT, Claude vb.) istediğiniz çıktıyı almak için genellikle sıcaklık ve Top-p gibi parametreleri ayarlamanız gerekir. Bu iki değer, modelin ne kadar yaratıcı ya da tutarlı olacağını belirler. Yanlış ayarlar, ya tekrarlayan ya da anlamsız sonuçlara yol açabilir. Bu adım adım rehberde, AI modellerinde sıcaklık ve Top-p ayarını nasıl optimize edeceğinizi somut örneklerle göreceksiniz.
Adım 1: Sıcaklık ve Top-p'yi Anlayın
İlk adım, bu parametrelerin ne işe yaradığını kavramaktır.
- Sıcaklık (Temperature): 0 ile 2 arasında değişir (genelde 0-1 arası kullanılır). Düşük sıcaklık (0.1-0.5) modeli daha deterministik yapar; aynı girdiye benzer çıktılar üretir. Yüksek sıcaklık (0.8-1.5) ise rastgeleliği artırır; daha yaratıcı ama bazen tutarsız sonuçlar verir.
- Top-p (Nucleus Sampling): 0 ile 1 arasında bir değerdir. Örneğin Top-p=0.9, modelin olasılık dağılımının %90'ını oluşturan en olası token'ları seçmesi anlamına gelir. Düşük Top-p (0.1-0.5) daha odaklı, yüksek Top-p (0.9-1) daha çeşitli çıktılar üretir.
Bu iki parametre birlikte çalışır; genelde birini sabit tutup diğerini değiştirmek en iyi sonucu verir. Örneğin, Few-shot vs Zero-shot Prompting tekniklerinde sıcaklık ayarı, modelin örnekleri ne kadar taklit edeceğini etkiler.
Adım 2: Hedef Çıktı Türünü Belirleyin
Her görev farklı bir sıcaklık/Top-p kombinasyonu gerektirir. Görevinizi netleştirin:
- Yaratıcı yazı (hikaye, şiir): Yüksek sıcaklık (0.8-1.2) ve yüksek Top-p (0.9-1).
- Teknik dokümantasyon (kod, API açıklaması): Düşük sıcaklık (0.1-0.3) ve düşük Top-p (0.1-0.5).
- Müşteri hizmetleri yanıtı (tutarlı ve güvenilir): Düşük sıcaklık (0.2-0.4) ve orta Top-p (0.6-0.8).
- Beyin fırtınası (fikir üretimi): Orta-yüksek sıcaklık (0.7-1.0) ve yüksek Top-p (0.9).
Bu eşleştirme, başlangıç noktanızı belirler. Unutmayın, Structured Prompt kullanmak da çıktıyı yönlendirmede etkilidir.
Adım 3: Düşük Sıcaklık ile Başlayın (0.2-0.5)
Çoğu durumda, düşük sıcaklık daha güvenilir sonuçlar verir. İlk denemenizi sıcaklık=0.3, Top-p=0.9 yaparak başlatın. Bu, modelin en olası cevaplara odaklanmasını sağlarken yine de bir miktar çeşitlilik sunar. Eğer çıktı tekrarlayıcı veya sıkıcıysa, sıcaklığı kademeli olarak artırın. Ancak her 0.1 artışta çıktıyı test edin. Örneğin, bir kod açıklaması yazarken sıcaklık=0.2 idealken, bir e-posta taslağı için 0.5 daha uygun olabilir.
Adım 4: Top-p ile Çeşitliliği Kontrol Edin
Top-p, modelin kelime seçimindeki çeşitliliği daraltır. Sıcaklığı sabit tutup Top-p'yi değiştirerek ince ayar yapabilirsiniz. Örneğin:
- Top-p=0.5: Çok odaklı, nadiren sürpriz yapar.
- Top-p=0.9: Dengeli, yaygın kullanılan aralık.
- Top-p=1.0: Tüm olasılıkları değerlendirir, en yaratıcı ama en tutarsız.
Bir tavsiye: Önce sıcaklığı belirleyin, sonra Top-p ile oynayın. Örneğin, sıcaklık=0.7 ve Top-p=0.8 genellikle iyi bir yaratıcılık/tutarlılık dengesi sunar. LLM halüsinasyonlarını azaltmak için düşük sıcaklık ve düşük Top-p birlikte kullanılabilir.
Adım 5: İkili Ayarı Test Edin
Şimdi farklı kombinasyonları deneyerek sonuçları karşılaştırın. Küçük bir test senaryosu oluşturun: Aynı prompt'u sıcaklık=0.3, Top-p=0.9 ve sıcaklık=0.8, Top-p=0.6 ile çalıştırın. Çıktıları şu kriterlere göre değerlendirin:
- Anlamlılık (mantıklı mı?)
- Yaratıcılık (beklenmedik ama uygun fikirler?)
- Tutarlılık (konudan sapıyor mu?)
Bu testi 3-5 farklı prompt ile yaparak en iyi kombinasyonu bulun. Örneğin, bir ürün açıklaması için sıcaklık=0.4, Top-p=0.8; bir şiir için sıcaklık=1.1, Top-p=0.95 ideal olabilir. Her modelin (GPT-4, Claude 3, Gemini) bu parametrelere verdiği tepki farklıdır; bu nedenle aynı ayarlar farklı modellerde farklı sonuçlar verebilir.
Adım 6: Göreve Özel İnce Ayar Yapın
Son adım, parametreleri görevinizin gereksinimlerine göre optimize etmektir. Aşağıdaki tablo sık kullanılan görevler için önerilen başlangıç değerlerini göstermektedir:
| Görev Türü | Sıcaklık Aralığı | Top-p Aralığı |
|---|---|---|
| Teknik dokümantasyon | 0.1–0.3 | 0.1–0.5 |
| Müşteri desteği | 0.2–0.4 | 0.6–0.8 |
| Yaratıcı yazı | 0.8–1.2 | 0.9–1.0 |
| Beyin fırtınası | 0.7–1.0 | 0.9–1.0 |
| Kod üretimi | 0.1–0.3 | 0.1–0.3 |
Bu tabloyu başlangıç noktası olarak kullanın. Zamanla, kendi iş akışınıza en uygun kombinasyonu keşfedeceksiniz. Ayrıca, prompt'larınıza "sıcaklık: 0.5" gibi doğrudan talimatlar eklemek de bazı API'lerde işe yarar. Denemekten çekinmeyin.
Sonuç olarak, sıcaklık ve Top-p ayarları yapay zeka araçlarından maksimum verim almanızı sağlar. Bu adımları izleyerek, modelinizi ihtiyacınıza göre şekillendirebilir ve daha isabetli çıktılar elde edebilirsiniz.
Sık Sorulan Sorular
Sıcaklık ve Top-p arasındaki fark nedir?
Sıcaklık, modelin olasılık dağılımını yeniden şekillendirirken; Top-p, en olası token'ların birikimli olasılığını keserek seçim yapar. Sıcaklık daha çok genel yaratıcılığı, Top-p ise kelime çeşitliliğini kontrol eder.
Hangi durumlarda düşük sıcaklık kullanmalıyım?
Teknik dokümantasyon, kod üretimi veya doğruluk gerektiren işlerde düşük sıcaklık (0.1–0.3) idealdir. Bu, modelin tutarlı ve tekrarlanabilir çıktılar üretmesini sağlar.
Top-p değerini çok düşük ayarlarsam ne olur?
Top-p çok düşük (ör. 0.1) olursa model sadece en yüksek olasılıklı birkaç kelimeyi kullanır, bu da tekrarlayan ve kısır çıktılara yol açar. Genelde 0.8–0.9 arası iyi bir başlangıçtır.
Sıcaklık ve Top-p aynı anda mı değiştirilmeli?
Genellikle bir parametreyi sabit tutup diğerini değiştirerek ince ayar yapmak daha kolaydır. Aynı anda değiştirmek, etkileşimlerini tahmin etmeyi zorlaştırır.
Bu ayarlar tüm AI modellerinde aynı mı çalışır?
Farklı modeller (GPT-4, Claude, Gemini) aynı parametrelere farklı tepkiler verebilir. Her model için ayrı kalibrasyon yapmak en iyisidir.
