Ling Tiny Mac’te çalışır mı? Ollama ve MLX desteğinin durumu

Kısa yanıt: deneysel Mac yolu var

Ling Tiny için Apple Silicon üzerinde deneysel bir çalıştırma yolu resmî model kartında belgeleniyor. Ancak bu, standart Ollama kurulumunda hazır destek bulunduğu anlamına gelmiyor. 28 Ağustos 2026 kontrolünde Ollama PR17643 kapalı ve birleşmemiş durumda; MLX-LM ana dalında ise Tiny mimarisinin uygulaması ve eşlemesi bulunuyor. Kararlı paket sürümü ve cihazınızdaki çalışma sonucu ayrıca doğrulanmalı.

Mac’iniz Intel işlemciliyse Apple Silicon için verilen tarifi doğrudan uygulamayın. Önce işlemci ailesini, macOS sürümünü ve seçtiğiniz çalıştırıcının hedef platformunu eşleştirin. Bu yazı bir donanım testi veya kurulumun başarılı olacağı garantisi değildir.

Ağırlık indirmek ile modeli çalıştırmak farklı işler

inclusionAI, Tiny’nin BF16, FP8 ve INT4 ağırlıklarını MIT lisansıyla yayımlıyor. Bu dosyaların erişilebilir olması, her yerel uygulamanın mimariyi ve kuantizasyon biçimini okuyabildiğini göstermez. Daha küçük dosya seçmek, eksik mimari desteğini tamamlamaz. İndirme kararından önce ağırlık biçimi ile çalıştırıcı sürümünü birlikte değerlendirin.

Ollama PR17643 neden önemli?

Resmî model kartındaki Ollama bölümü, PR17643 dalından derleme yapılmasını ve yerel oluşturulan çalıştırılabilir dosyanın kullanılmasını istiyor. Kart, bu yapılandırma için 48 GB birleşik belleğe sahip M4 Pro üzerinde doğrulama bildiriyor. Bu, sağlayıcının belirttiği örnek cihazdır; minimum bellek gereksinimi değildir.

Ollama bakımcısı PR’ı 25 Ağustos 2026’da değişikliklerin daha küçük parçalara ayrılmasını isteyerek kapattı; birleşme gerçekleşmedi. Bu yüzden karttaki deneysel tarifi kararlı sürüm özelliği gibi sunmak yanlış olur. Bir dalda yerel olarak oluşturulan model adı da resmî kütüphanede indirilebilir bir model etiketi değildir. Buradan hazır bir Ollama indirme komutu türetmeyin.

MLX-LM’de mimari var; paket sürümünü ayrıca kontrol edin

MLX arka ucu kullanan deneysel Ollama dalı ile Python paketi MLX-LM aynı yazılım değildir. MLX-LM ana dalında bailing_moe_v3.py dosyası bulunuyor. Ayrıca yükleyici, bailing_hybrid model türü ile BailingMoeV3ForCausalLM mimarisini birlikte gördüğünde bu uygulamayı seçiyor. Tiny’nin resmî config.json dosyası aynı çifti içeriyor.

Bu, ana daldaki mimari tanıma için somut kanıttır. İncelenen sürüm notlarından desteğin hangi kararlı paket sürümünde sunulduğu doğrulanamadı. Yalnızca MLX kurulu olması veya başka bir Ling modelinin çalışması yeterli değildir. Kurulu MLX-LM sürümünü, ilgili dosyayı, ağırlık biçimini ve sohbet şablonunu ayrı ayrı kontrol edin.

İndirme yapmadan yerel uyumluluk incelemesi

Ağırlıklar zaten bilgisayarınızdaysa model klasörünün mutlak yolunu LING_MODEL_DIR ortam değişkenine koyun. Aşağıdaki Python örneği yalnızca yerel config.json ve kurulu paket bilgilerini okur; ağırlık indirmez, modeli yüklemez veya çıkarım başlatmaz. Paket yoksa kurulum yapmadan bunu bildirir.

Dosyanın bulunması tek başına başarı kanıtı değildir. Sonucu sürüm notlarıyla karşılaştırmak için kullanın; mimari eşlemesi, kuantizasyon yükleyicisi ve sohbet şablonunun uyumunu ayrıca inceleyin. Örnek burada bir Mac üzerinde çalıştırılmadı.

Yalnızca yerel yapılandırma ve paket bilgisi okuyan inceleme

import json
import os
import platform
from importlib.metadata import PackageNotFoundError, distribution
from pathlib import Path

model_dir = Path(os.environ["LING_MODEL_DIR"]).expanduser()
config = json.loads(
    (model_dir / "config.json").read_text(encoding="utf-8")
)
print("machine:", platform.machine())
print("model_type:", config.get("model_type"))
print("architectures:", config.get("architectures", []))

try:
    package = distribution("mlx-lm")
except PackageNotFoundError:
    print("mlx-lm: not installed")
else:
    implementation = Path(
        package.locate_file("mlx_lm/models/bailing_moe_v3.py")
    )
    print("mlx-lm version:", package.version)
    print("architecture file exists:", implementation.is_file())

Devam etme kararını nasıl verirsiniz?

Örneğin M2 işlemcili, 16 GB belleğe sahip bir Mac ile mevcut BF16 dosyalarını değerlendirdiğinizi düşünün. Bu örnek bir ölçüm değildir: yalnızca işlemci ailesi ve dosyaların varlığı biliniyor. Çalıştırıcı desteği ile boş bellek ölçülmeden çalışır kararı vermeyin. Özellikle aktif parametre sayısını toplam çalışma belleği ihtiyacı sanmayın.

• Model sürümünü, ağırlık biçimini, çalıştırıcı sürümünü ve varsa kaynak commit’ini kaydedin.
• Başlangıçta kısa, hassas veri içermeyen bir görev ve küçük çıktı bütçesi seçin.
• Yükleme, ilk yanıt ve konuşmanın ikinci turunu ayrı başarı koşulları olarak değerlendirin.
• Bellek baskısı, takas kullanımı veya süreç kapanması görülürse bağlamı büyütmeyin; önce nedeni inceleyin.
• Thinking ayarının etkisini ve yanıtın düzgün sonlanmasını kontrol edin; LLMTR model son eklerini yerel kimliğe eklemeyin.

LLMTR’deki emeklilik yerel ağırlıkları kaldırmaz

LLMTR’de inclusionai/ling-3.0-tiny API yolu 15 Ağustos 2026 itibarıyla emeklidir. Bu, inclusionAI’nin yayımladığı ağırlıkların yok olduğu anlamına gelmez. LLMTR’nin resmî API halefi ücretli inclusionai/ling-3.0-flash modelidir. Yerel kurulum kararını API erişiminden ayrı verin: biri sizin donanım ve yazılım uyumunuza, diğeri seçilen hizmetin erişim ve ücret koşullarına bağlıdır.

Sık sorulan sorular

Ling Tiny için hazır bir Ollama indirme etiketi var mı?

İncelenen resmî kaynaklar hazır bir kütüphane etiketi doğrulamıyor. Model kartı deneysel dalın derlenmesini ve yerel ağırlıkların içe aktarılmasını tarif ediyor; yerel adlandırmayı resmî indirme etiketi saymayın.

PR kapalıysa Mac’te çalıştırmak imkânsız mı?

Hayır. Kapalı ve birleşmemiş PR, önerilen kodun o yolla ana dala alınmadığını gösterir. Belgelenmiş deneysel yolu veya bağımsız MLX-LM geliştirmesini ortadan kaldırmaz.

INT4 indirirsem bellek sorunu kesin çözülür mü?

Hayır. Biçim desteği, çalışma sırasında oluşan ara veriler, bağlam ve açık uygulamalar da önemlidir. Daha küçük ağırlık dosyası, belirli bir Mac için doğrulanmış bellek gereksinimi yerine geçmez.

İlgili yazılar

• Ling Tiny alternatifi: Flash Fin ve ücretli Flash karşılaştırması
• Ling 3.0 Tiny: kapanan LLMTR API rotasından Flash'a geçiş
• Ling-3.0-Tiny indirme rehberi: BF16, FP8 ve INT4 seçimi

• inclusionai/ling-3.0-tiny
• Model kataloğu
• Gateway dokümantasyonu
• OpenAI / OpenRouter