Büyüğünüze derin sahte sesle dolandırılan kurucu, harekete geçti.

Tarini Padmanabhuni’nin büyüğüne gelen arama sırasında, yaşlı adam telefonun diğer ucundaki sesin kardeşinin sesi olduğuna inanıyordu. Konuşmacı, kardeşinin kaçırıldığı ve onu geri getirmenin tek yolunun fidye ödemek olduğu söylüyordu. Büyüken, fidyi ödedi ancak daha sonra kardeşinin tamamen farklı bir yerde olduğunu ve yaşananların hiçbirinden haberi olmadığını öğrendi. Ortaya çıkan sesin derin sahte (deepfake) olduğundan şüphelenmiyordu; bu, yapay zeka ile üretilmiş kardeşinin bir taklidiydi.

“Bende kalan paranın olmadığıydı,” Padmanabhuni söz konusu olay hakkında diyor. “Olan şey, onu ayırt etmenin hiçbir yolu olmamasındandı.”

Bu yaklaşık iki yıl önce yaşandı. Bugün, San Francisco merkezli kendi kurduğu DetectifAI şirketinin başkalarının aynı şekilde aldatılmamasını sağlamayı hedeflediğini söylüyor.

Bir büyüyen sorun ve buna uygun bir pazar

Bu büyük ve büyüyen bir sorun, üstüne buna uyan bir pazar. FBI‘a göre, Amerikalılar geçen yıl yapay zeka destekli dolandırıcılıklara 900 milyon doların yakınında kaybetti; bu da 2024’e göre %24’lük artış demek. 60 yaşından büyükler, 50-59 yaş arası olanların iki katı kaybetti.

Derin sahte ses tespiti alanında rekabet eksikliği yok: Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety ve Nuance (bunlardan bazıları da Microsoft’a ait) gibi şirketler var. Ancak Padmanabhuni’nin iddiasına göre bugünkü tespit ürünleri bulutta uzaktaki sunucular üzerinde çalıştığı için telefon üreticileri bunları doğrudan cihazlarına inşa edemiyor; bu da hedeflenen kişiye savunma açısından neredeyse hiçbir şey bırakmıyor.

Küçük modeller, cep telefonunun içinde

Bazı şirketlerin yaptığı gibi büyük bulut modellerini telefondan sığdırmak yerine DetectifAI, baştan itibaren cep telefonunun işletim sisteminde çalışabilecek kadar küçük AI modelleri tasarladığını söylüyor. Amaç, sesin çağrılar sırasında, sesli mesajlarda ve diğer ses kayıtlarında yapay zeka ile üretildiğine dair anlık bir hüküm vermek; ancak ses asla cihazdan çıkmadan.

DetectifAI ilk olarak telefon üreticilerine satıyor; yazılım araçlarını lisanslayarak tespitinin telefonun işletim sisteminin yerleşik bir özelliği olarak gelmesini sağlıyor. Onun benzetmesi, orijinal iPhone lansmanındaki AT&T’nin rolüydü: o dönemde operatörün özel anlaşması onu rakiplerinden ayırdı; ilk kez DetectifAI ile telefon üreten üretici, rekabetçilere göre bir avantaj kazanacak ve derin sahte tespiti kameranın çözünürlüğü gibi standart bir özellik haline gelecek, diyor.

Ürünün kalbi, DetectifAI’ın yazılım geliştirme kiti (SDK)’dır; bu, diğer şirketlerin kendi ürünlerine inşa edebileceği kod paketidir ve mevcut kanallar üzerinden lisanslanabilir. Padmanabhuni, ikincil bir gelir kaynağının teknolojiyi işletmelere ve dolandırıcılık önleme firmalarına lisanslayarak geleceğini söylüyor.

Zaten erken geliri var

Bu arada, startup’ın zaten erken gelirleri olduğu bilgisi geldi; Padmanabhuni’ye göre Hindistan’daki finans kurumları için ayda 100.000’den fazla çağrıyı işliyor. Bu çağrılar, borç tahsilatını yöneten ve kredi belgelerini takip eden sesli yapay zeka ajanları tarafından yapılıyor; her çağrıda derin sahte tespiti ve konuşmacı doğrulaması (arayanların kendilerini iddia ettikleri kişi olduklarını onaylaması) bulunuyor. Gizlilik sözleşmelerine atıfta bularak müşterileri isimlendirmekten kaçındı.

Padmanabhuni, 12 yaşında makine öğreniminde çalışmaya başladığını ve daha sonra Hindistan’daki Manipal Teknoloji Enstitüsü’nde siber-fiziksel sistemleri (yazılımı fiziksel makinelerle birleştiren teknoloji) incelediğini söylüyor; burada, kendisinin Hindistan’ın ilk sürücüsüz yarış arabası bölümü olarak tanımladığı şeyin Formula Student’te — uluslararası öğrenci mühendislik yarışında — en genç ekip lideri olduğunu belirtiyor.

Sorunlu sesli mesajları değerlendiren küçük bir beta testi

Startup için şimdiye kadar en ödüllendirici an sorulduğunda, kullanıcıların şüpheli sesli mesajları ilettiği ve bunların gerçek olup olmadığına dair bir değerlendirme aldıkları küçük bir WhatsApp beta testine işaret ediyor. Kendi yakınlarından biri dolandırılan bir tester, bunu satın alacağını tereddüt etmeden yapacağını söylemek için aradı. “Büyüğümde böyle bir şey yoktu,” diyor.

DetectifAI şimdiye kadar yatırımcıdan küçük bir tohum miktarı topladı: bunlar arasında eski TechCrunc editörü Josh Constine ve danışmanlık hizmeti firması KM Growth’ın ortaklarından Manohar Kamath bulunuyor. Kurum, TechCrunch’un editorial ekibi tarafından prestijli Startup Battlefield yarışında rekabet etmek için seçilen startup’lardan biri; bu yarış 13-15 Ekim’de San Francisco’nun merkezinde TechCrunch Disrupt sırasında gerçekleşecek.