Ortaya çıkan verilere göre bu sistemler yaklaşık %90 doğruluk oranına sahip. Ancak geri kalan %10’luk hata payı, Google gibi yılda trilyonlarca arama sorgusu işleyen bir platform için ciddi bir sorun anlamına geliyor.
Milyonlarca kullanıcı yanlış bilgiyle karşılaşabilir
Araştırmalar, her 10 aramadan birinde yanlış veya eksik bilgi üretilebildiğini ortaya koyuyor. Google’ın yıllık yaklaşık 5 trilyon arama işlediği düşünüldüğünde, bu durum kullanıcıların saatte on milyonlarca hatalı yanıtla karşılaşabileceği anlamına geliyor.
Bu veriler, yapay zekâ girişimi Oumi tarafından yapılan testlere dayanıyor. Yapılan incelemelerde Google’ın Gemini modellerinin doğruluk oranının zamanla arttığı görülse de, hata oranının hâlâ göz ardı edilemeyecek seviyede olduğu belirtiliyor.
Google’dan itiraz: “Gerçek kullanıcı davranışını yansıtmıyor”
Öte yandan Google, söz konusu testlere katılmıyor. Şirket, bu analizlerin gerçek kullanıcı davranışını tam olarak yansıtmadığını savunuyor. Hatta şirketin kendi iç testlerinde bile yapay zekâ sistemlerinin hatalı bilgi üretme oranının dikkat çekici seviyelerde olduğu ifade ediliyor.
Aynı sorguya farklı cevaplar gelebiliyor
Bir diğer dikkat çeken detay ise tutarlılık problemi. Yapay zekâ destekli arama sonuçlarında aynı sorgu tekrarlandığında farklı yanıtlar üretilebiliyor. Bu durum da kullanıcıların güvenilir bilgiye ulaşmasını zorlaştırabilecek önemli bir risk olarak görülüyor.