Fine-tuning ne zaman yapılır, ne zaman zaman kaybıdır?

Bir şirket, müşteri destek modelinin ürünleri hakkında yanlış bilgi verdiğini fark ediyor ve çözümün belli olduğunu düşünüyor: modeli ürün belgeleriyle eğitmek. Birkaç hafta veri hazırlanıyor, bir eğitim koşusu yapılıyor. Yeni model şirketin üslubunu çok iyi taklit ediyor, ama ürünler hakkında yine yanlış bilgi veriyor. Üstelik ürün kataloğu her değiştiğinde eğitimin baştan yapılması gerekiyor.

Fine-tuning güçlü bir araçtır. Ama çözmeye çalıştığı problemle karıştırıldığında, pahalı ve yavaş bir hayal kırıklığına dönüşür.

Fine-tuning nedir?

Hazır bir modeli, kendi örneklerinizle biraz daha eğiterek davranışını belirli bir göreve göre ayarlamaktır.

Modele girdi ve beklenen çıktı çiftleri verilir ve model bu çıktılara daha çok benzeyen cevaplar üretmeye doğru ayarlanır. Bu bir modeli sıfırdan eğitmek değildir; var olan bir modelin üstüne yapılan küçük bir ayardır. Sonuç, belirli bir görevde belirli bir biçimde, belirli bir üslupla cevap vermeye yatkın bir modeldir.

Fine-tuning modele yeni bilgi öğretir mi?

Güvenilir biçimde hayır; asıl öğrettiği şey davranış, biçim ve üsluptur.

Yukarıdaki şirketin yaşadığı tam olarak buydu. Fine-tuning, modelin nasıl cevap vereceğini değiştirmekte iyidir: hangi biçimde, ne uzunlukta, hangi tonla, hangi kategorilere ayırarak. Ama değişen ve doğru olması gereken bilgiyi (fiyatlar, stok, politikalar) modele yerleştirmenin güvenilir yolu değildir. Model eğitimde gördüğü bilgiyi yanlış hatırlayabilir, karıştırabilir ve bilgi değiştiğinde eski hâlini söylemeye devam eder. Değişen bilgi için doğru araç RAG'dir: bilgiyi her soruda belgelerden bulup modele vermek. Bu iki aracın farkını RAG üzerine yazımızda anlattık.

Fine-tuning'den önce ne denenmelidir?

Önce iyi bir prompt, sonra gerekirse RAG; ikisi de yetmezse fine-tuning.

Bu sıralamanın sebebi maliyet ve hızdır. Bir prompt değişikliği dakikalar içinde denenir ve ölçülür. RAG birkaç gün içinde kurulur ve bilgi değiştiğinde yalnızca belgeleri güncellemek yeter. Fine-tuning ise veri hazırlamak, eğitmek, ölçmek ve eğitilmiş modeli servis etmek demektir ve her değişiklikte bu döngü tekrar eder. Fine-tuning'in gerçekten öne çıktığı durumlar şunlardır: çok tutarlı bir biçimin binlerce istekte korunması gerektiğinde, uzun bir prompt'un yaptığı işi daha küçük ve ucuz bir modele öğretmek istediğinizde ve prompt'la bir türlü elde edilemeyen bir üslup gerektiğinde.

Ne kadar veri gerekir?

Sayıdan önce kaliteye bakılmalı: tutarlı ve doğru az sayıda örnek, dağınık çok sayıda örnekten iyi sonuç verir.

Bir fine-tuning projesindeki baskı her zaman veri hacmini artırmak yönündedir. Ama model, verideki tutarsızlıkları da öğrenir. Aynı türden iki soruya iki farklı biçimde cevap veren örnekler, modele "bazen böyle, bazen öyle" demeyi öğretir. Her örneğin beklenen çıktının tam olarak istenen hâli olduğundan emin olmak, örnek sayısını artırmaktan daha çok işe yarar. Hacim ancak kalite sağlandıktan sonra artırılmalıdır.

Değerlendirme verisi eğitime karışırsa ne olur?

Model sınavın sorularını önceden görmüş olur ve puanı anlamsızlaşır.

Buna sızıntı denir ve fark edilmesi zordur, çünkü sonuçlar çok iyi görünür. En yaygın biçimi, birbirinin neredeyse aynısı olan örneklerin bir kısmının eğitime, bir kısmının teste düşmesidir: aynı müşteri mesajının küçük farklarla yazılmış iki hâli gibi. Model test sorusunu çözmüş gibi görünür ama aslında ezberlediği bir örneği tanımıştır. Önlemi, veriyi bölmeden önce neredeyse aynı örnekleri temizlemek ve test kümesini eğitim verisinden tamamen ayrı tutmaktır. İyi bir puan, ancak bu yapıldıysa iyi bir model anlamına gelir.

LoRA nedir ve neden daha az bellek ister?

Modelin bütün ağırlıklarını değil, yanlarına eklenen küçük ek matrisleri eğiten bir yöntemdir.

Bir modelin bütün ağırlıklarını eğitmek, ağırlıkların kendisinden çok daha fazla bellek ister; çünkü eğitim sırasında her ağırlık için gradyanlar ve eniyileyicinin (optimizer) durumu da bellekte tutulur. LoRA, ana ağırlıkları dondurur ve yalnızca küçük ek parametreleri eğitir. Eğitilen parametre sayısı çok küçük bir orana düştüğü için gereken bellek de büyük ölçüde azalır; bu da tek bir ekran kartıyla eğitimi mümkün kılar. "Eğitim ne kadar bellek ister?" sorusu, modelin boyutundan çok bu gradyan ve eniyileyici durumuyla ilgilidir.

Açık bir modeli kullanmadan önce neden lisansa bakılır?

Çünkü bir modeli ticari olarak kullanıp kullanamayacağınızı ve hangi koşullarla kullanabileceğinizi lisansı belirler.

Açık ağırlıklı modellerin lisansları birbirinden çok farklıdır: bazıları her türlü kullanıma izin verir, bazıları ticari kullanımı sınırlar, bazıları belirli bir kullanıcı sayısının üstünde ayrı izin ister, bazıları da modelin adının belirtilmesini şart koşar. Satmayı düşündüğünüz bir ürün için lisans teknik bir ayrıntı değil, bir "yapalım mı, yapmayalım mı" kararıdır ve bu kararı ilk haftada vermek, ürün tamamlandıktan sonra vermekten çok daha ucuzdur.

Bir modeli kendi bilgisayarında çalıştırmak ne kadar bellek ister?

Ağırlıkların kendisi artı konuşma uzadıkça büyüyen bir önbellek kadar.

Model ağırlıkları belleğe bir kez yüklenir ve boyutları sabittir. Ama model metin üretirken, bağlamdaki her token için bir ara bellek tutar ve bu, bağlam uzadıkça büyür. Bir demoda kısa sorularla sorunsuz çalışan bir model, uzun bir belgeyle ya da uzun bir konuşmayla belleği tüketebilir. Bu ikinci kalemi hesaba katmak, çalışan bir demoyu bir dağıtımdan ayıran şeydir. Fine-tuning ve açık model kavramlarını ücretsiz bilgi haritasında görebilirsiniz.

Kaynaklar

• Hu ve ark. "LoRA: Low-Rank Adaptation of Large Language Models": LoRA yöntemini tanıtan makale. (eklenme: 2026-09)
• Dettmers ve ark. "QLoRA": daha da az bellekle fine-tuning. (eklenme: 2026-09)
• Hugging Face: PEFT documentation: parametre açısından verimli fine-tuning yöntemlerinin kütüphanesi. (eklenme: 2026-09)
• Hugging Face: Fine-tuning a pretrained model: hazır bir modeli eğitmenin temel adımları. (eklenme: 2026-09)
• Choose a License: yaygın açık lisansların sade özetleri. (eklenme: 2026-09)