Açık Kaynak Projelerinde Yapay Zeka Çöpü Sorunu: Geliştiriciler Boğuluyor

Yapay zeka uzun zamandır farklı formlarda var, ancak dil modellerinin (LLM’ler) yükselişiyle birlikte kapsamı hızla genişliyor. Bu araçlar, insan benzeri dili anlamak, özetlemek ve üretmek için büyük miktarda metin üzerinde eğitiliyor. LLM’ler, ChatGPT ve Claude gibi barındırılan araçları çalıştırırken, bazı modeller yerel olarak (uygun donanımla) çalıştırılabilecek indirilebilir ağırlıklarla da sunuluyor. Doğru kullanıldığında harikalar yaratıyorlar, ancak yazılım geliştirmede sorunlara yol açabiliyorlar.

Herkes bir geliştirici gibi

Ancak, gönderdikleri kodu açıklamaları gerekiyor

LLM’lerin bir sorunu, kapsamlı kod çerçeveleri oluşturabilmeleri. Bir sohbet robotundan, tam oturum açma ve kimlik doğrulama sistemi, ödeme ağ geçitleriyle entegrasyon ve hesap yönetimi içeren bir web sitesi oluşturmasını isteyebilirsiniz. Dakikalar içinde dağıtılabilecek gibi görünen bir uygulama üretebilir. Bu teknolojinin projelerdeki yaşamı iyileştiren şeyleri nasıl inşa etmelerini sağladığı gerçekten etkileyici. Yerel barındırma, bunun gerçekleştiği harika bir yerdir.

Tam olarak bunu çöp toplama programımızın takvimini oluşturmak için kullandım. Hangi kutunun yol kenarına konması gerektiğini hatırlamak yerine, yerel olarak barındırılan takvimin resmi sitede listelenenlerle eşleştiğinden emin olmak için yerel otoritenin web sitesinden veri çeken bir LLM’den bir gösterge paneli oluşturmasını istedim. Bu özellikle tatiller gibi programlanmış tarihlerde değişiklik gösterebilen durumlar için çok kullanışlı. Ancak burada durmadım, çünkü orijinal olarak Home Assistant için bir API oluşturmak istiyordum.

Yerel çözüm yeterince iyi çalıştı. Dağıtmadan önce kodda gördüğüm birkaç küçük sorun vardı ve bunlar hızlıca düzeltildi, ancak genel olarak oldukça sağlamdı. API iyi çalışıyor ve Home Assistant gösterge paneli kartları ve bildirimleri ekleyebildim. Şimdi, telefonumun evde olduğunu tespit ettiğimde bir hatırlatma alır ve hangi kutunun toplanacağını gösterir ve bu bildirim yalnızca telefonun evin içinde algılandığında gönderilir.

Kod projesinde LLM’nin ne kadar güvenilir olabileceğini görmek benim için oldukça şaşırtıcıydı. Teknolojinin var olduğunu biliyordum, ancak ilk kez ondan bir şey yapmasını istedim ve herhangi bir sorun olmadan gerçekleştirdi. Ancak, burada şeyler ters gidebilir. Bir geliştiricinin kod yazma konusunda bilgi sahibi olmadığı durumlarda durum farklıdır.

Home Assistant’ın arkasındaki Open Home Foundation, yapay zeka geliştirmede sorunlar yaşıyor, bu nedenle perde arkasındaki ekip kapsamlı bir AI politikası hazırladı. “Yazarken size yardımcı olması için AI araçlarını kullanmaktan memnuniyet duyarız. Ancak, araçların incelemeden içerik yayınlamasına izin vermeyin. Niyetinizi iletmek için gereken minimum yanıtları verin. İncelemeyen ve AI tarafından oluşturulduğuna inandığımız yorumları gizleyebiliriz.” Diğer geliştiricilerin de barındırılan projelerde benzer bir yaklaşım benimseyebileceğini görüyoruz.

Eğer yapay zeka kullanılacaksa, gönderilen kodun gönderen tarafından anlaşılması ve kontrol edilmesi çok önemlidir, çünkü bu kod kendi eserleriymiş gibi kabul edilecektir. Jellyfin, en popüler medya akışı paketlerinden biri, aynı zamanda AI gönderimleri ve iletişim konusunda da sorunlar yaşıyor. LLM’lerin resmi kullanım yönergelerine göre, depodaki geliştiriciler ve gönüllü topluluk üyeleri, yazarların niyetini ifade eden bir chatbotun sağladığı şeyin aksine kendi görüşlerini bekliyor.

“Bir LLM yanıtını kopyalayıp yapıştırmak 10 saniye sürerken, geliştiricinin bu yanıtı incelemek, sorunu araştırmak ve kodun geçerli olup olmadığını doğrulamak için çok daha fazla çaba göstermesi gerekiyor.” Bu, sektördeki diğer kişiler tarafından da paylaşılan bir deneyimdir. Bir LLM kodu üretebilir ve hatta potansiyel sorunları bile ortaya çıkarabilir, ancak bunun geçerli olup olmadığını ve sorunun devam edip etmediğini anlamak insana aittir. Birisi tek bir istemle bir LLM kullanır ve herhangi bir kontrol yapmadan dosya değişikliklerini gönderirse, bu durum bakımcılar için daha fazla iş anlamına gelir.

Bu sadece açık kaynakla sınırlı değil

Hatta Google gibi teknoloji devleri bile AI tarafından oluşturulan gönderilerde sorun yaşıyor. LLM tarafından oluşturulmuş kodun basitçe incelenip bir sonraki sürüm için dahil edileceğini düşünmek neredeyse naif.

Google’da geliştirici olarak işe almak, Microsoft veya başka bir teknoloji şirketi, bazı kimlik bilgilerine ve deneyime sahip olmanızı gerektirir. Değerli sistemlere erişiminiz olacaksa, bilginiz olmadan sizi terminalin başına oturtmazlar. Aynı şey açık kaynak için de geçerlidir; kod yazmak zorlu kısımdı. Bir kullanıcı olarak, bir yazılımda bir sorun gördüğünüzde bu kolaydır, ancak sorunu çözmek çok farklı bir konudur.

Şimdi herkes kod yazabiliyor ve kodun insan tarafından mı yoksa LLM tarafından oluşturulmuş mu olduğu her zaman açık olmayabilir. Projeye katkıda bulunanların sayısının ne kadar olduğunu görmek zordur, ancak bakımcılar meşru gönderileri sonsuz bir “AI çöpü” denizinde ararken hızla bunalabilir. Basit bir hata düzeltmesi, çalışması gereken tek satır değişikliği olan bir şeye dönüşebilirken, aynı zamanda çok daha karmaşık hale gelebilir. Bakımcı sadece kodu satır satır kontrol etmekle kalmaz, aynı zamanda değişikliklerin arkasındaki mantığı da anlamalıdır. Bir yapay zeka her zaman rasyonel olmayabilir; bu örnekte, ajanın ihtiyaç duyduğundan önemli ölçüde daha karmaşık bir çözüm oluşturduğunu gördük.

Bu, üstesinden gelinmesi gereken bir durum

Proje katkılarının yalnızca küçük bir kısmı inceleme yükünü üstleniyor. Tam donanımlı bir inceleme sürecine sahip bile olsa, bu çok fazla çaba gerektirir, ancak bu aynı zamanda tam zamanlı işleri ve diğer sorumlulukları olan birkaç kişiye yüklendiğinde, insanların en değer verdikleri yazılım üzerinde çalışmayı bırakmalarına neden olabilir.

Yapay zeka suçlu değil; bakımcıların inceleyeceği çok fazla kod var. Ancak, zaten var olan bir dengesizliği ortaya çıkardı. Kod üretmek giderek daha ucuz hale gelirken, anlamak, incelemek, test etmek ve sürdürmek hala insan zamanı ve uzmanlığı gerektirir.