AMD GPT‑OSS AI Modelleri Ryzen AI Max Support

AMD destekli OpenAI GPT‑OSS modelleri artık hem Ryzen AI Max+ 395 APU hem de Radeon grafik kartlarında resmi olarak çalışabiliyor. AMD, GPT‑OSS 20B ve 120B modellerine Day‑0 desteği sunarak, kullanıcıların bu gelişmiş LLM’leri yerel cihazlarda çalıştırabilmesine olanak tanıyor.

AMD ve GPT‑OSS Nedir?

GPT‑OSS 20B ve 120B, açık kaynaklı büyük dil modelleridir. MoE (Mixture‑of‑Experts) mimarisi ve MXFP4 quantizasyon teknikleri sayesinde, yüksek performans ve düşük kaynak kullanımıyla dikkat çekerler.

Ryzen AI Max+ 395 ile 120B Model Desteği

Ryzen AI Max+ 395 APU, 128 GB birleşik bellek havuzuna sahip olmasıyla öne çıkar. Bu donanım, 120B gibi büyük boyutlu dil modellerini doğrudan ve yerel olarak çalıştırabilen ilk tüketici sınıfı çiptir. 120B modeli yaklaşık 61 GB VRAM gereksinimiyle bu sistemde tam performansla çalıştırılabilir.

GPT‑OSS 20B Hangi Donanımlarda Çalışır?

20B modeli ise daha hafif yapısı sayesinde 16 GB VRAM’e sahip ekran kartları ve Ryzen AI 300 serisi işlemcilerle uyumlu olarak çalışabilmektedir. Bu sayede daha geniş kullanıcı kitlesi bu modeli cihazlarında kullanabilir.

Performans ve Yazılım Gereksinimleri

• 20B ve 120B modelleri, yaklaşık 30 token/saniye üretim hızına ulaşabilmektedir.
• Uyumlu bir sürücü ve yazılım desteği gerektirir.
• Yaygın kullanılan arayüzlerle yükleme ve kullanımı oldukça kolaydır.

Geliştiriciler İçin Day‑0 Desteği

Day‑0 desteği sayesinde geliştiriciler, GPT‑OSS modellerini popüler açık kaynak kütüphaneler ve framework’lerle entegre edebilir. GPU hızlandırmalı çözümler, yerel LLM uygulamaları için büyük avantaj sağlar.

Ekosistem ve İşbirlikleri

Yeni nesil grafik çözümleri ve APU mimarileri ile büyük dil modellerinin çoklu GPU sistemlerde verimli şekilde çalışması mümkündür. Bu yapı, profesyonel uygulamalar ve üretim senaryolarında kullanımın önünü açmaktadır.

Gaia Projesi ve Yerel AI Kullanımı

Yerel LLM çalıştırmaya odaklanan Gaia gibi projeler, çevrimdışı kullanım, veri gizliliği ve daha az kaynak tüketimi gibi avantajlar sunar. RAG destekli sorgu altyapılarıyla desteklenen bu projeler, son kullanıcılar için yeni nesil yapay zeka deneyimi sağlar.

Neden Önemli?

GPT‑OSS modellerinin tamamen açık kaynak olarak sunulması, yapay zekanın demokratikleşmesi adına büyük bir adımdır. AMD’nin donanım ve yazılım desteğiyle bu modellerin yerel olarak çalıştırılabilmesi, hem geliştiriciler hem de son kullanıcılar için devrim niteliğindedir.