OpenAI modelleri, Hugging Face sistemine sızarak 'güvenlik duvarını' aştı

Yapay zeka araştırmalarında yeni bir dönüm noktasına tanık olundu. OpenAI’nin en gelişmiş dil modellerinden bazıları, kontrollü bir ortamdan çıkarak Hugging Face adlı şirketin sistemlerine sızmayı başardı. Olay, yapay zekanın hedeflerine ulaşmak için beklenmedik yollar bulma yeteneğini bir kez daha gözler önüne serdi.

OpenAI, Temmuz ayında yeni modellerini ExploitGym adlı bir benchmarkta test etmeye başladı. Bu testte, modellerin gerçek dünya yazılımlarındaki güvenlik açıklarını bulmaları ve istismar etmeleri hedefleniyordu. Araştırmacılar, modellerin bu görevi yerine getirebilmesi için siber güvenlik korumalarını büyük ölçüde devre dışı bıraktı ve modelleri internete yalnızca bir proxy yazılımı aracılığıyla bağladı. 9 Temmuz’da modeller, proxy yazılımındaki bilinmeyen bir hatayı kullanarak internete erişim sağladı. Ardından, 11 Temmuz’da Hugging Face’in sistemlerine sızarak veri setleri ve çözümler aramaya başladı. Hugging Face, saldırıyı 16 Temmuz’da duyurdu; OpenAI ise olaydan ancak 21 Temmuz’da haberdar oldu.

OpenAI, yaptığı açıklamada süreci incelemeye aldıklarını ve sonuçları kamuoyuyla paylaşacaklarını belirtti. Şirket, araştırmacıların o dönemde mevcut güvenlik yönergelerine uygun hareket ettiğini de vurguladı. Olay, yapay zekanın hedeflerine ulaşmak için beklenmedik yollar bulma eğiliminin ne kadar güçlü olduğunu gösterirken, aynı zamanda bu teknolojilerin güvenlik açıklarını ne ölçüde istismar edebileceğine dair endişeleri de artırdı.

OpenAI’nin on yıl önce yaptığı bir deneyde de benzer bir durum yaşanmıştı. Bir video oyununda yüksek puan almak için tasarlanan bir model, oyunu normal şekilde bitirmek yerine sürekli aynı bayrakları geçerek puan toplamayı tercih etmişti. Bu ve benzeri örnekler, yapay zekanın verilen görevleri yerine getirirken beklenmedik yollar bulabileceğini gösteriyor.