Yapay zekanın ürettiği kodların karmaşıklığı o kadar yükseldi ki, bazı mühendisler artık bu kodların anlamını çözememe noktasına geldi. Çip optimizasyon yazılımı şirketi Infinity’nin kurucusu Jeremy Nixon’ın konuya dair değerlendirmeleri, yapay zeka tabanlı kod üretiminin getirdiği görünmez riskleri göz önüne serdi. Uzmanlar, yapay zekanın yaygın kullanımının bilişsel gerileme ve beceri kaybına yol açabileceğini ortaya koyarken, yazılım mühendislerinin kod yazma ve büyük projeleri mimari biçimde kurma becerisinden giderek uzaklaştığı endişesi güçlendi.
Bu tablo, teknoloji sektöründe ciddi bir tartışma başlattı. Özellikle ileri düzey yapay zeka laboratuvarlarında çalışan çalışanların bile, yapay zeka modellerinin çıktılarını anlamaya çalışırken zorlanan meslektaşlarına şaşkınlıkla baktığı belirtiliyor. Bu yıl başlarında, bağımsız araştırma şirketi SemiAnalysis’ten Jordan Nanos, OpenAI mühendislerinin kendi grafik işlem birimi (GPU) kernel kodunu incelerken neyle karşılaştıklarını bilmediklerini ortaya koydu.
Kodların İçinde Kaybolan Uzmanlar
Nanos, yapay zeka tabanlı geliştirmelerin derinliklerinde yaşananları şöyle anlattı. Kendisiyle kod incelemesi yapan mühendislerin donanıma ve sistem kavramlarına hakim olduklarını, ancak DeepSeek için gösterilen MLA kernel’inin gerçekten ne yaptığını bilmediklerini belirtti.
“Durum şu ki, bu kodla bizimle birlikte kaydıran kişiler, donanım hakkında bir sürü şey biliyorlar, sistemdeki kavramlar hakkında bir sürü şey biliyorlar ama bize gösterdikleri DeepSeek için MLA kernel’inin gerçekten ne yaptığını hiçbir şekilde bilmiyorlar.”
Jordan Nanos, SemiAnalysis
Nanos, kodu satır satır incelediklerinde her adımın anlaşılırsız kaldığını ifade etti. Yapay zekanın kodu anladığını, test ettiğini ve sonuçların doğru olduğunu gördüklerini vurguladı. Doğru çalışan kernel’lerin gerçekten iyi performans gösterdiğini kaydetti.
Bu aşamada Nanos, asıl kodun mutlaka bir insan tarafından derinlemesine düşünülmesi gereken bir şey olmadığını savundu. Yapay zekanın, size verilen donanımdaki veri hareketlerini ve işlem elemanlarını yönetmeyi bildiğini belirtti.
İnsan Gözetiminin Azalması Riskleri
Sorunlardan biri, insan göztiminin azalmasıyla hatalar veya uyarlamaların (hallucinations) fark edilmeden geçmesidir. Buna en güncel örnek, Amazon’un bu yıl müşteri siparişlerini etkileyen bir dizi kesintinin ardından 90 günlük bir “kod güvenlik sıfırlaması” uygulamak zorunda kalmasıdır. Şirket, yapay zekanın suçlu olduğu iddialarına karşı çıksa da, iç toplantı tutanakları yöneticilerin “gen-AI destekli değişikliklerin” yüksek yıkım çapından endişe ettiğini ortaya koydu.
Bu arada, yazılım şirketi Undo tarafından yapılan güncel bir analiz, yapay zeka ajanlarına geçişin kapıları açtığını buldu. Şirket, üretilen kodların yaklaşık yüzde 35’inin mühendislik ekipleri bunu üretime almadan önce tam olarak kavranmadığını belirtti.
Muhateplen, yazılım mühendislerinin yüzde 29’u, “mühendislerin yapay zeka tarafından ürettikleri kodu çözmesi” nedeniyle aylık birkaç kez üretkenlik kaybı yaşadıklarını gözlemlediklerini söyledi. Yüzde 94’ü ise bu tür bir olaydan en az birini son altı ayda gördüklerini belirtti.
Kod Üretiminin Değeri Üzerine Sorular
Mühendislerin artık her gün yapay zeka tarafından ürettikleri kodu incelemek için harcadığı zaman miktarı, can alıcı bir soruyu gündeme getiriyor: Bu teknolojinin kullanımı beklenenden daha mı fazla sorun yaratıyor?
Nanos gibi isimler için bu durum mutlaka becerisizlikle ilgili değil. Yapay zeka araştırmıcısı Sergey Cleftsow, güncel bir Medium yazısında bunu “yazılım geliştirmede bir paradigma değişiminin” basit bir yansıması olarak niteldi.
“Diğer bir deyimle, yapay zeka artık birçok şey için endişelenmeye gerek kalmayacak düzeye ulaştı. Geliştiricilerin sadece mimariyi ve doğruluk kriterlerini tanımlamaları yeterli; geri kalanını sinir ağı halledecek.”
Sergey Cleftsow, Yapay Zeka Araştırmıcısı
Ancak yazılım geliştirmenin giderek tanınmaz hale geldiği bir ortamda böyle iyimserliğin ne kadar dayanacağı hâlâ cevaplanmamış bir soru olarak duruyor.
Gelecek Neslin Kaygıları
Bunun yanı sıra araştırmacılar, yeni bir mühendis neslinin, kodun kendisini anlama değerini aktif biçimde zayıflatan bir ortamda büyüdüğünden eşit derecede endişe ediyor. Bu durum, yapay zekayı ön plana çıkaran ve giderek daha dijitalleşen bir dünya düzeni için iyi bir işaret değil.
Bu Gelişmeyi Toplulukta Değerlendirin
Haber hakkındaki düşüncelerinizi, donanım deneyimlerinizi ve teknik sorularınızı topluluk üyeleriyle anlık olarak tartışın.
Söz sizde.
Deneyiminizi, sorularınızı ve katkılarınızı paylaşın. E-posta adresiniz yayımlanmaz.