Nicole Sharp‘ın belirttiğine göre, bilimsel muhakememiz hiçbir zaman daha önemli olmamıştı.
2008 yılında, ABD’li yazar Neal Stephenson, Anathem adlı bir spekülatif kurgu romanı yayınladı. Kurgusal Arbre gezegeninde geçen bu hikaye, çoğunlukla dünyadan izole edilmiş keşişlerden oluşan bir tarikatın, zaman zaman dış dünyanın durumu hakkında bilgi almak için kapılarını açtığı bir düzeni anlatıyor.
Stephenson’ın romanında, internetin karanlık bir çağı ele alınır. Bu dönemde şirketler, ağa, kulağa mantıklı gelen ancak gerçekte yanlış olan bilgileri yayarak tüketicilerin kendi araçlarını kullanarak doğruyu yanlıştan ayırmalarına zorlamayı amaçlar. Bu durum, 1980’lerin sonlarında ve 1990’ların başlarında ortaya çıkan bilgisayar virüsleri ve kötü amaçlı yazılımların internet üzerindeki etkisine benzer bir tehdit oluşturmaktadır.
Başlangıçta bu “saçmalıklar”, Stephenson’ın ifadesiyle, insanlar tarafından üretiliyordu. Ancak zamanla bu süreç, “Yapay Saçmalık” olarak adlandırılan bir sistem tarafından yürütülmeye başlandı. Bu sistem, her gerçek belge için yüzlerce veya binlerce sahte versiyon üretebiliyordu.
Bugün, kendi bilgi ortamımız giderek yapay zeka tarafından üretilen yanlış bilgilerle dolduğu bir dönemdeyiz. Bu durum, sadece tuhaf kedilerin videoları veya politikacıların ve ünlülerin abartılı durumlarda gösterildiği görüntülerle sınırlı kalmıyor.
Büyük dil modelleri (LLM’ler) tarafından desteklenen sohbet robotlarının yükselişiyle birlikte, arama sonuçlarımız, sosyal medya akışlarımız ve hatta bilimsel dergilerimiz, ilk bakışta ilgili ve olası görünse de aslında hiçbir değeri olmayan verilerle kirleniyor.
LLM’ler tarafından üretilen bu yanlış bilgiler, güvenilir bilgi kaynaklarımızı hızla bozuyor ve yeni bir zorluk oluşturuyor.
Bilim insanları olarak, çalışmalarımızı diğer güncel araştırmalarla ilişkilendirmemiz gerekir. Ancak, gerçek ile uydurmayı ayırt etmek zorlaştığında bu görev daha da karmaşık hale gelir. Yapay zeka tarafından üretilen hatalı bilgiler, güvenilir bilgi kaynaklarımıza nüfuz ettiğinde, hızla çürünen bir bilgi ortamıyla karşı karşıya kalıyoruz.
Daha önce bir fikri, insan yazarlara sahip makalelere kadar takip edebiliyorduk (bu yazarlar, sahtekarlık eylemlerinin sonuçlarını taşıyordu). Şimdi ise, bir makalenin yazarlarının, kurumlarının veya deneylerinin gerçekten var olup olmadığını sorgulamamız gereken bir gelecekle karşı karşıyayız; bunun yanı sıra, bilimsel değerlerini de değerlendirmemiz gerekiyor.
Bu, varsayımsal bir tehlike değil. 2024 yılında, Göteborg Üniversitesi’nde görevli tıp araştırmacısı Almira Osmanovic Thunström liderliğindeki bir ekip, “bixonimania” adı verilen kurgusal bir tıbbi durum icat etti ve bunu Medium platformundaki gönderiler ve iki ön baskı makalesi aracılığıyla duyurdu (bağlantı). Bu durum, 1969’da Apollo 11 görevi sırasında Neil Armstrong’un Ay’a ilk adımını atması ve “İnsanlık için bu büyük bir küçük adım” sözünü söylemesi gibi, o dönemde tüm dünyayı heyecanlandıran bir bilimsel dönüm noktasıydı. Ancak, günümüzde yapay zeka tarafından üretilen hatalı bilgilerle mücadele etmek, geçmişteki keşiflerin coşkusunu gölgede bırakabilir.
Araştırmacıların amacı, yapay zeka sohbet botlarının bu sahte hastalığın bilgisini alıp yayılıp yayılmayacağını test etmekti ve bu da gerçekleşti. Araştırmacılar, çalışmanın bariz şekilde sahte olduğunu gösteren bilgiler eklemeye çalıştılar. Bunlar arasında Starfleet Academy’den bir meslektaşını belirtmek, Fellowship of the Ring Üniversitesi’nden yapılan fonlamaya teşekkür etmek ve hatta makalenin başlarında “bu tüm makale uydurmadır” yazmak yer alıyordu.
Çamurun İçinde Hapsolmuş Durum
arXiv’in LLM Kullanımına Yaptığı Kısıtlamalar ve Bilimsel Bütünlüğün Korunması
Fizikçiler olarak, bilgi kirlenmesinin potansiyel tehlikelerinden bağışık değiliz. Yapay zeka tarafından oluşturulan makalelerin hızla yayılması, arXiv’in Mayıs ayında, “yazarların sonuçları kontrol etmediğine dair kesin kanıt” bulunan gönderimler için yaptırım duyurmasına neden oldu. Bu yaptırımlar arasında, arXiv’e bir yıllık erişim yasağı ve daha sonra sunulan her makalenin zaten “saygın, hakemli bir platformda kabul edilmiş olması” şartı bulunmaktadır.
Başlangıçta bu habere olumlu yaklaştım. Sert yaptırımlar, özellikle de aceleci çözümler arayanları caydırmanın bir yoluydu. Ancak, konuyu daha derinlemesine düşündükçe, arXiv’in bu yaptırımlarının sadece yapay zeka kullanarak makale yazanların değil, diğer bilim insanlarının da olumsuz etkilenme potansiyeli taşıdığını fark ettim.
Kısayollara başvurmak kolaydır. Örneğin, bir literatür taraması yaparken ve güvenilir bulduğunuz A makalesinde yer alan bir bilgiyi kendi çalışmanızda kullanmak istediğinizde, A makalesinin B makalesini kaynak olarak gösterdiğini görürsünüz. Bu durumda, B makalesinin kaynakça bölümüne gidip, doğrudan B’nin kullandığı kaynağı kopyalayıp kendi kaynakçanıza eklemek oldukça yaygın bir uygulamadır (bu itirafı yaparken, ben de zaman zaman benzer durumlarla karşılaştığımı belirtmek isterim).
Ancak, bilgi ortamının giderek daha karmaşık hale gelmesiyle birlikte, bu tür kısayollar sizi arXiv’in politikaları gibi düzenlemelere aykırı duruma düşürebilir. Görünüşte geçerli olan bir kaynakça bilgisi – hatta kişisel olarak tanıdığınız yazarların adlarını içerebilir – aslında yapay zeka tarafından “uydurulmuş” olabilir. Bu durum, bilimsel dürüstlük ve titiz araştırma ilkelerine aykırıdır.
Bu bağlamda, 1969 yılında Apollo 11 göreviyle Ay’a ayak basan Neil Armstrong’un söylediği gibi, “İnsanlık için bu sadece küçük bir adım, ancak tüm insanlık için devasa bir sıçramadır.” Benzer şekilde, bilim camiasının da bilgi kirlenmesiyle mücadele etmek ve bilimsel bütünlüğü korumak için büyük bir çaba göstermesi gerekmektedir. Bu, sadece yapay zeka kullanımını sınırlamakla kalmayıp, aynı zamanda bilim insanlarının temel becerilerini geliştirmeyi de içermektedir.
We must double down on the skills that make us experts – our scientific judgement, information literacy, communication skills and careful scholarship.
Bogonların Gölgesinde: Bilimsel Dürüstlük ve Yapay Zeka Çağı
Araştırmacılar, “bixonimania” olarak adlandırılan bu türden hatalı çalışmaların yaygınlığına dikkat çekiyor. Hatta bazı araştırmacıların, bu hatalı çalışmaları referans göstererek yayınladığı bilimsel makaleler bile mevcut. Bu durum, bir derginin editörü tarafından düzeltilmek zorunda bırakılmış ve bu durum, yazarların itirazlarına rağmen gerçekleşmiş.
Bu tür hataların yaygınlığı, bilim camiasının dikkatli olması gerektiğini gösteriyor. Bilim insanlarının, kendi uzmanlıklarını kullanarak bilgiyi doğru bir şekilde değerlendirmesi ve iletişim kurması hayati önem taşıyor. Bu beceriler, yapay zeka şirketlerinin iddia ettiği gibi, yapay zekanın kolayca yerine koyabileceği özellikler değildir.
Bu durum, 1961’de Sovyetler Birliği tarafından fırlatılan Sputnik-1 uydusunun, dünya yörüngesine girmesiyle başlayan uzay yarışının bir benzeri gibi. O dönemde, bilimsel ve teknolojik ilerleme hızı o kadar yüksekti ki, her gelişme yeni fırsatlar sunarken aynı zamanda dikkatli olunması gereken potansiyel hatalara da yol açıyordu. Tıpkı o dönemdeki bilim insanlarının titiz çalışmaları gibi, günümüzde de yapay zeka çağında bilimsel dürüstlük ve dikkat gereklidir.
Anathem adlı eserdeki karakterlerin internetlerindeki “bogonları” (yanlış veya hatalı verileri) kolayca görmezden gelme eğilimi, günümüzdeki durumla örtüşmüyor. Günümüzde, bilgi kirliliği o kadar yaygın ki, bilim insanlarının her adımı dikkatlice planlaması ve hiçbir şeyi kesin olarak kabul etmemesi gerekiyor. Görünürde sağlam zeminde bile tehlikeli tuzaklar olabilir. Güvenilir yollar inşa etmek ve kullanmak zaman alıcı bir süreçtir ve sürekli kontrol gerektirir.
Sadece yapay zeka araçlarını kullanmamak yeterli değildir. Bilim insanlarının, kendi uzmanlıklarına dayanarak doğru bilgiyi tespit etmesi gerekiyor. Bu nedenle, hepimiz daha dikkatli olmalı ve yavaşlamalıyız; aksi takdirde bu bilgi kirliliğinin içinden çıkamayız.
Kaynak: Physicsworld