Sektörün bilinen güvenlik araştırmacısı Johann Rehberger, ChatGPT için tehlikeli bir güvenlik açığı keşfettiğini açıkladı. Bu açık, saldırganların kullanıcının uzun vadeli hafıza ayarlarına ziyanlı talimatlar ve yanlış bilgiler yerleştirmesine imkan tanıyordu. Rehberger, bu bulguyu OpenAI’ye bildirdiğinde şirket, bu durumu bir güvenlik sorunu olarak nitelendirerek açılan talebi çabucak kapattı.
ChatGPT açığı düşünülenden önemli olabilir!
Rehberger, araştırmacıların sıklıkla yaptığı üzere, bu açığı daha da derinlemesine inceledi ve bir kavram ispatı (PoC) hazırladı. Bu PoC, güvenlik açığından yararlanarak kullanıcının tüm girdilerini kalıcı bir biçimde dışarıya sızdırabildiğini gösterdi. Bunun üzerine OpenAI mühendisleri durumu ciddiye aldı ve bu ayın başlarında kısmi bir düzeltme yayımladı.
OpenAI, Şubat ayında test etmeye başladığı uzun vadeli hafıza özelliğini Eylül ayında genişletti. Bu özellik, ChatGPT’nin kullanıcının evvelki konuşmalarını hatırlamasına ve her yeni sohbette bu bilgileri kullanmasına imkan tanıyordu. Böylelikle kullanıcının yaşı, inançları yahut öbür ferdî bilgileri her seferinde tekrar girmesine gerek kalmıyordu.
Ancak bu özellik, saldırganlar tarafından berbata kullanılabildiği keşfedildi. Rehberger, yapay zeka sistemlerinin güvenilmeyen içeriklerden (örneğin e-postalar, blog yazıları yahut belgeler) gelen talimatları takip etmesini sağlayan dolaylı prompt enjeksiyonu ismi verilen bir taarruz formülünü kullanarak ChatGPT’nin anılarına geçersiz bilgiler ekleyebileceğini keşfetti.
Bu sayede, ChatGPT’ye bir kullanıcının 102 yaşında olduğunu, Matrix’te yaşadığını ve dünyanın düz olduğunu ‘öğretmek’ mümkün olabiliyordu. Bu cins geçersiz bilgiler, Google Drive yahut Microsoft OneDrive üzere bulut servislerine evrak yüklenerek, hatta bir internet sitesi üzerinden imaj eklenerek yerleştirilebiliyordu.
OpenAI, bu açığı kapatmak için bir düzeltme yayımladı lakin uzmanlara nazaran hala yapay zekanın uzun vadeli hafızasına yanlış bilgiler eklenebilmesi mümkün. Bu sebeple, kullanıcıların yeni bir hafıza eklendiğini gösteren ikazlara dikkat etmesi ve hafıza ayarlarını sistemli olarak denetim etmesi öneriliyor.
Siz de hususla ilgili görüşlerinizi yorumlarda paylaşmayı ihmal etmeyin.
