erhan/abap-llm
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

Step 400 check: Mac -13.4 % vs GPU -35.0 %; next GPU run bf16 mixed with stage 2; findings in STATE and roadmap

Browse Source 
Co-Authored-By: Claude Sonnet 5.5 <noreply@anthropic.com>
This commit is contained in:
Kral
2026-10-05 11:46:21 +02:00
parent 39dcdd9846
commit 3a9f9e75fc
2 changed files with 23 additions and 1 deletions
Download Patch File Download Diff File Expand all files Collapse all files

9
docs/yol-haritasi.md
View File

@@ -1,6 +1,6 @@
# ABAP Danışman Modeli — Yol Haritası
Durum: v20 · 2026-10-04
Durum: v21 · 2026-10-05
Şu anki konum: **Adım 1.3**
## Adım 0 — Çerçeve ve kararlar
@@ -121,6 +121,13 @@ Adım 1.6 tablosundan seçilir. Aday havuzu: sadece Apache 2.0 veya MIT lisansl
Bitti sayılır: tek baz model seçildi, gerekçesi yazıldı.
## Aşama 1 GPU sonucu ve karar (2026-10-05)
- QLoRA (nf4) aşama 1 koşusu ~418. adımda durduruldu. Valid loss, Mac (MLX 4-bit) / GPU (nf4): adım 200 0,758 (-%10,7) / -%26,0; adım 400 0,735 (-%13,4) / -%35,0; baz Mac 0,849.
- PEFT→MLX dönüştürücü overfit testiyle kanıtlandı (Mac -%98,5). nf4 adaptörü MLX 4-bit baza iyi taşınmıyor.
- **Karar:** şimdilik GPU koşusu yok. Aşama 1 tek başına eğitilmez; aşama 1 korpusu, aşama 2 yörüngeleri hazır olunca tek bir bf16 LoRA koşusunda karıştırılır. Sonraki GPU koşusu bf16 baz kullanır; öncesinde bf16 bellek testi gerekir. Araç isimleri EPOD ABAP MCP'deki gibi kalır (generic_v0 kullanılmaz). ADT "save failed" yanıtı sunucuda düzeltilemez: proxy sözdizimi kontrolü ekler.
- HF test ve checkpoint repoları silindi; aşama 1 veri seti kaldı.
## Adım 3 — Eğitim verisi üretimi
| Alt adım | İş |