Cihazda çalışan
Türkçe görev modeli

Müşteri mesajını anlar, doğru birime yönlendirir ve işlemi hazırlar. Bulut ve internet bağlantısı gerekmez.

Türk Telekom görüşmesi · 22 Ekim 2026

0532 555 66 77 numarası beni sürekli rahatsız ediyor engeller misiniz

Bumin, 20M parametre, bu bilgisayarda

{
  "ad": "numara_engelle",
  "girdi": {
    "numara": "0532 555 66 77",
    "engelleme_kapsami": "arama ve mesaj"
  }
}

Sorun

Her müşteri mesajını büyük bir bulut modeline göndermek pahalı ve riskli

Maliyet

Mesaj başına ücret ödenir. Hacim büyüdükçe fatura da büyür.

Gecikme

Her istek ağdan geçer, cevap saniyeler sürebilir. Bağlantı yoksa hizmet durur.

Veri

Mesaj ve kimlik bilgisi kurum dışına çıkar. KVKK ve yurt dışına aktarım soruları doğar.

Kontrol

Genel model kurumun niyet listesini bilmez, liste dışı cevap uydurabilir.

Oysa müşteri mesajlarının büyük kısmı belli işlemlere düşer: arıza, fatura, paket, hat işlemleri. Bu iş için dev bir model gerekmez.

Çözüm

Bumin: tek bir iş için eğitilmiş, kurumun içinde çalışan küçük model

20Mparametre. Büyük dil modellerinden binlerce kat küçük

82 MBmodel dosyası. Sıkıştırmayla 21 MB'a iner

~140 msüç adımlı çözümleme, dizüstü bilgisayar işlemcisinde (medyan)

0dış bağlantı. Veri kurumun cihazından çıkmaz

Türkçe için sıfırdan

Kendi Türkçe tokenizer'ı, kendi ön eğitimi, kendi görev verisi. Çeviri ya da yabancı model uyarlaması değil.

Nerede çalışır

Kurum içi sunucu, çağrı merkezi bilgisayarı, mobil uygulama ya da sahadaki cihaz. GPU şart değil.

Nasıl çalışır

Mesajdan işleme üç adım: her adım kapalı bir listeden seçer

Müşteri mesajı

Uygulama, web, e-posta ya da konuşmadan metne çevrilmiş çağrı.

"0532 555 66 77 numarası beni sürekli rahatsız ediyor engeller misiniz"

1Yönlendirme

16 telekom alanından biri ya da kapsam dışı.

istenmeyen_arama_ve_mesaj_engelleme
güven %99

2Niyet

Alanın tam niyet listesinden biri (toplam 188 niyet).

numara_engelle
güven %99

3İşlem

Alanın araçlarından birine JSON çağrı (toplam 102 araç) ya da eksik bilgiyi soran cevap.

numara_engelle(numara, engelleme_kapsami)

Sonuç üç yoldan birine gider

Uygula: güven yüksek, değerler mesajda var.

Onaya gönder: güven düşük ya da değer mesajda yok.

Temsilciye aktar: mesaj hiçbir alana uymuyor.

Aynı model form da doldurur

E-posta, not ya da sesli mesaj dökümünden şemadaki alanları çıkarır: hat numarası, ad soyad, tutar, adres, tarih.

Canlı demo

Müşteri mesajı

Müşteri ne yazdı?

Hazır örnekler

Bir örnek seçin ya da mesaj yazın

Canlı demo

Serbest metinden form doldurma

Belge türü

Gelen metin (e-posta, not, sesli mesaj dökümü)

Belge türü seçip formu doldurun

Güvenli tasarım

Emin değilse uydurmaz, işi insana bırakır

Güven eşiği

Yönlendirme güveni %50'nin altındaysa mesaj temsilciye aktarılır.

Kapalı liste

Model listede olmayan bir niyet adı üretirse kabul edilmez.

Kaynak denetimi

Her parametre müşteri mesajında aranır. Mesajda geçmeyen değer işaretlenir, işlem onaya düşer.

Eksik bilgi sorusu

Zorunlu bilgi yoksa müşteriye sorar: "Kayıt açabilmem için abone numaranızı yazar mısınız?"

Gerçek örnek

telefonum çalındı, numaram 0544 765 43 21, hemen kapatın

hatti gecici kullanima kapat

hat_numarasi	0544 765 43 21
kimlik_no	98765432109 Mesajda geçmiyor, uydurulmuş olabilir
kapatma_nedeni	telefon çalındı

Onay gerekli. Kimlik numarası mesajda yok, işlem otomatik yapılmaz.

Sonuçlar

Eğitimde hiç görmediği, elle yazılmış 58 gerçekçi mesajda

%91doğru alana yönlendirme (16 alan + kapsam dışı)

8/8kapsam dışı mesaj doğru tanındı, temsilciye aktarıldı

%88uçtan uca doğru niyet (yönlendirme dahil)

%96alan doğruysa niyet doğruluğu

Ayrılmış test kümesi (eğitimde kullanılmadı)

%90niyet, alanın tam listesinde (479 örnek)

%92araç çağırıp çağırmama kararı (136 örnek)

%88doğru araç adı

%51tüm parametreler birebir doğru. Zayıf yan: bu yüzden kaynak denetimi ve onay kapısı var

Kuruma özel eğitim

Genel modelden telekom modeline: 11 dakikalık eğitim

Genel model (aynı 20M)Telekom modeli

Uçtan uca niyet doğruluğu

Genel model

%28

Telekom modeli

%88

Alan doğru verildiğinde niyet doğruluğu

Genel model

%72

Telekom modeli

%96

%0%50%100

Sabit liste ile eğitimSektörün 16 alanı, 188 niyeti ve 102 aracı modele her seferinde aynı biçimde verilir.
Tek tüketici GPU'sunda 11 dakika115 bin örnek, 3 tur. Aynı 20M model, ek parametre yok.
Kurumun kendi listesiyle tekrarlanırTürk Telekom'un gerçek niyet ve işlem listesi verildiğinde aynı süreç işler.

Kaynak ihtiyacı

GPU gerektirmez, sıradan bir bilgisayarda çalışır

Çalıştığı yer	Uçtan uca gecikme (medyan)	Süreç belleği	GPU belleği
Dizüstü işlemcisi (CPU), demoda kullanılan	136 ms	~350 MB	yok
Dizüstü grafik birimi (Apple GPU)	157 ms	~1,4 GB	78 MB
Paylaşımlı web sunucusu, 2 sanal çekirdek (bu sayfadaki canlı demo)	1,5 sn	~480 MB	yok

Ölçüm: Apple Silicon dizüstü, 9 örnek mesaj, 3 tekrar; üç model çağrısının (yönlendirme, niyet, işlem) toplamı. Süreç belleği Etkinlik Monitörü'ndeki değerdir, Python ve PyTorch dahil (model ağırlıkları 82 MB). Bu boyutta model işlemcide hem daha hızlı hem daha az bellekle çalışıyor. Canlı demo slaytlarında değerler anlık görünür.

82 MBtam hassasiyet (fp32)

~41 MByarım hassasiyet (fp16)

~21 MB8 bit sıkıştırma (int8), mobil için

~520token/sn üretim hızı, işlemcide, tek istek

Nasıl yaptık

Tek bir tüketici GPU'suyla, sıfırdan

Türkçe tokenizer

16 bin

parçalık sözlük, Türkçe metinde verimli.

Ön eğitim

1,77 milyar

token Türkçe metin. Tek RTX 5060 Ti üzerinde 5 saat.

Görev verisi

112 bin

örnek: 25 sektör, 387 alan, 5.068 niyet, 2.630 araç tanımı.

Telekom eğitimi

11 dk

16 alan için ek veriyle sektöre özel ince ayar.

Model, veri hattı ve ölçüm araçları bizde. Yeni sektör ya da yeni kurum için süreç günler değil saatler sürer.

Yol haritası

Sıradaki adım daha büyük modeller ve gerçek veriyle pilot

50M ve 100M modellerParametre doğruluğu ve yeni niyetlere genelleme için daha büyük kapasite.
Kurumun gerçek verisiyle uyarlamaTürk Telekom'un niyet listesi ve anonimleştirilmiş örnek mesajlar.
Parametre doğruluğuKısıtlı çözümleme ve hedefli veriyle eksik ya da uydurma değerleri azaltmak.
EntegrasyonCRM, çağrı yönlendirme (konuşmadan metne sonrası), dijital asistan.

Bugünkü donanımla bir ön eğitim turu

Tek RTX 5060 Ti (16 GB), 1,77 milyar token

Model	Süre
Bumin 20M	5 saat
Bumin 50M	~10,5 saat
Bumin 100M	~19 saat
Bumin 200M	~31,5 saat

Birkaç deneme ve daha fazla veriyle haftalar sürer. Veri merkezi GPU'su ile saatlere iner.

Önerimiz

Birlikte ölçülebilir bir pilot

Pilot

Tek kanal (örneğin dijital asistan ya da e-posta kanalı), Türk Telekom'un niyet listesi ve anonimleştirilmiş örnek mesajlar.

GPU desteği

50M ve 100M ön eğitimi ve kurum verisiyle denemeler için hesaplama gücü.

Ortak ölçüm

Pilot sonunda doğruluk, gecikme ve maliyet; mevcut çözümle yan yana karşılaştırma.

Veri kurumdan çıkmaz: eğitim ve çalıştırma kurumun kendi altyapısında yapılabilir.

Teşekkürler

Bu sunumdaki canlı demo bu bilgisayarda, internetsiz çalıştı.

Cihazda çalışanTürkçe görev modeli

Her müşteri mesajını büyük bir bulut modeline göndermek pahalı ve riskli

Maliyet

Gecikme

Veri

Kontrol

Bumin: tek bir iş için eğitilmiş, kurumun içinde çalışan küçük model

Türkçe için sıfırdan

Nerede çalışır

Mesajdan işleme üç adım: her adım kapalı bir listeden seçer

Müşteri mesajı

1Yönlendirme

2Niyet

3İşlem

Sonuç üç yoldan birine gider

Aynı model form da doldurur

Müşteri mesajı

Serbest metinden form doldurma

Emin değilse uydurmaz, işi insana bırakır

Güven eşiği

Kapalı liste

Kaynak denetimi

Eksik bilgi sorusu

Eğitimde hiç görmediği, elle yazılmış 58 gerçekçi mesajda

Genel modelden telekom modeline: 11 dakikalık eğitim

Uçtan uca niyet doğruluğu

Alan doğru verildiğinde niyet doğruluğu

GPU gerektirmez, sıradan bir bilgisayarda çalışır

Tek bir tüketici GPU'suyla, sıfırdan

Türkçe tokenizer

Ön eğitim

Görev verisi

Telekom eğitimi

Sıradaki adım daha büyük modeller ve gerçek veriyle pilot

Bugünkü donanımla bir ön eğitim turu

Birlikte ölçülebilir bir pilot

Pilot

GPU desteği

Ortak ölçüm

Teşekkürler

Cihazda çalışan
Türkçe görev modeli