Kevin Bankston'un deneyimi
Yapay Zeka Yönetişimi Kıdemli Danışmanı Kevin Bankston, bu konuda sosyal medya platformu X'te paylaştığı bir gönderide, Gemini AI’nin izinsiz olarak özel bir vergi beyannamesini okuduğunu belirtti. Bankston, özelliği devre dışı bırakma girişimlerinde başarısız olduğunu ve Gemini’nin Google Drive’da çalışmaya devam ettiğini bildirdi. Ayrıca, Google’ın yapay zeka sohbet robotundan ayarları nasıl devre dışı bırakacağını sormasına rağmen, bu konuda net bir çözüm sunulmadığını ifade etti.
Google'ın politikaları
Google’ın daha önceki belgeleri, Google Workspace verilerinin üretken yapay zeka hizmetlerini eğitmek veya iyileştirmek ya da hedefli reklamlar için kullanılmayacağını belirtiyor. Ancak, bu olay kullanıcıların bu tür hizmetlere olan güvenini sarsabilir.
Kullanıcı kontrolü ve güvenlik
Bankston, Google Workspace Labs'e katılımının Gemini’nin davranışını etkilemiş olabileceğini öne sürüyor. Kullanıcılar, üretken yapay zeka özetlerine erişmek istemiyorsa, Google Drive’daki Gemini yan panelini kapatabilirler.
Google'ın yanıtı ve gelecekteki önlemler
Google, kullanıcı verilerini güvenli bir şekilde işlemeyi vaat etse de, bu tür olaylar izin ve kullanıcı kontrolünün ne kadar önemli olduğunu bir kez daha doğruluyor. Google'ın bu tür şikayetlere nasıl yanıt vereceği ve gelecekte bu tür sorunları önlemek için ne tür önlemler alacağı merakla bekleniyor.
Bu durum, yapay zeka sistemlerinin kullanıcı verileriyle nasıl etkileşime girdiği konusunda daha fazla şeffaflık ve kontrol ihtiyacını ortaya koyuyor. Kullanıcıların, verilerinin nasıl işlendiğini ve bu veriler üzerinde ne tür kontrollerin olduğunu bilmeleri önemlidir.
