r/CodingTR • u/Independent-Hair-694 • 5h ago
Dün gece yaşayan zekayı icat etmiş olabilirim
github.comSelamlar, ben Muhammed. Bir süredir transformer modelleri, sinir ağları, sinir ağlarının yapı taşları olan dikkat mekanizmaları, ileri ve geri yayılım, mixture of experts, softmax, argmax, AdamW optimizer modülleri, tokenizer ve eğitim altyapıları gibi konular üzerine aktif olarak çalışıyorum. Ekim 2024'te başladığım bu çalışmaların hepsini Mart 2026'da derlenmiş bir yığın halinde, tamamen açık kaynak olarak GitHub’ta paylaştım. Paylaşmadan önce, sıfırdan geliştirdiğim bu sistemi OpenAI ve Claude API’leri aracılığıyla ürettiğim kaliteli bir veri setiyle, Google Colab’dan aldığım 100 GB’lık GPU’larda birkaç epoch eğittim ve Cevahir’in smoke testlerde tutarlı yanıtlar verdiğini gözlemledim. Sonra hem yatırım eksikliğinden hem de projeyi kendi başıma daha ileri götüremeyeceğimi düşündüğümden, bari insanlar böyle bir sistemin yapı taşlarını görsün, anlasın; yapay zeka nedir, bir model hangi aşamalardan geçerek, neler sayesinde bugün konuştuğumuz bu makineler haline gelir, bilsin istedim. Çünkü açıkçası bana hep garip gelmişti bu durum.
Geçtiğimiz aylarda şu fikri düşünmeye başladım: Bir yapay zeka modeli veya sinir ağı ne kadar güçlü bir veriyle eğitilirse eğitilsin, tensör uzayındaki vektörler ne kadar yüksek boyutlu olursa olsun, ilk eğitim aşamasında girilen veri yine de embedding uzayına yerleşiyor; model de multi-head self-attention gibi dikkat mekanizmalarıyla next token prediction yaparak belirli bir token uzunluğunda response üretiyor. Yaşama bağlı deneyimleri ise sinir ağının dışındaki bir bellekte tutuyor ve her girdide bunları bağlama ekliyor. Yani aslında deneyimden öğrenemiyor, anlayacağınız.
Ben de o zamandan beri bu konuyu araştırıyorum ve yüzlerce test yaptım. Öğrenmeyi, eğitim aşamasında gelen veriyi tokenize edip tensörlere çevirmek ve bunları vektör uzayına belirli ağırlıklarla kaydetmek olarak gören bir zihin yapısı açıkçası bana zeka gibi gelmiyordu.
Son çalışmalarımda elde ettiğim şey, transformer altyapısındaki gibi ileri ve geri yayılım süreçleri olmayan bir zihin: Cevahir Zihin. Modeli yaşayan zeka olarak tanımlama sebebim ise beynimizin nörolojik süreçlerinde, plastisite oluşumunda ve hafızanın çalışma prensiplerinde görülen davranışları taklit etmeye çalışan matematik modellerine dayanması. Yani Cevahir’in zihni artık yaşarken öğrenebiliyor. Hatta GPU’su olmayan, RAM’i ve işlemcisi düşük cihazlarda bile onunla konuşup büyümesini izleyebilirsiniz diyebilirim.
Bir transformer önce eğitilir, sonra dondurulur ve öyle kullanılır. Cevahir Zihin ise her an, yaşadıklarını sayarak öğrenir.
Transformer’da bilgi ağırlıklara dağılmıştır ve okunması çok zordur. Cevahir Zihin’de ise her bilgi bir bağdır, bu yüzden neden öyle dediği gösterilebilir.
Bir transformer’a yeni bilgi öğretmek eski bilgiyi bozabilir. Cevahir Zihin’de yeni bilgi eskisinin yanına eklenir ve eski bilgi bit bit aynı kalır.
Bir transformer’dan tek bir örneği kesin olarak silmek için modeli yeniden eğitmek gerekir. Cevahir Zihin’de ise o deneyimin kanıtı tamamen geri alınır.
Bir transformer her zaman bir çıktı üretir. Cevahir Zihin ise bilmediğini ölçer ve gerektiğinde susabilir.
Bu çalışmalarımı da yine GitHub repomda yayınlamaya devam ediyorum. Açık kaynak topluluğuna ve Türk geliştiricilerine selamlarımı iletiyorum.

