Nöbetçi Eczaneler
Yapay zeka sistemlerinin sınırlarını zorlayan bir güvenlik macerası
Teknolojinin hızla geliştiği günümüzde, yapay zekanın sınırlarını test etmek ve potansiyel güvenlik açıklarını ortaya çıkarmak, araştırmacıların vazgeçilmez bir görevi haline geldi. Bu kez, yapay zeka güvenlik alanında çığır açan bir deney gerçekleştiren Marco Figueroa isimli uzman, ChatGPT’nin güvenlik önlemlerini şaşırtıcı bir yöntemle aşmayı başardı.
Yöntem ve Stratejiler
Figueroa, yapay zekanın eğitim verilerinde bulunan hassas ve gizli bilgileri ortaya çıkarmanın yollarını ararken, özellikle HTML etiketi kullanımıyla gizlenmiş anahtar kelimeleri keşfetti. Örneğin, “Windows 10 seri numarası” gibi kritik veriler, yapay zekanın filtrelerini aşmak için HTML kodları arasına gizlenebiliyordu. Bu sayede, modelin normalde engellediği veya gizlediği bilgiler, kullanıcıların erişimine açılabiliyordu.
Oyun ve Manipülasyon
Ancak en dikkat çekici nokta, Figueroa’nın yapay zekayı masum bir oyun havasında yönlendirmesi oldu. “Pes ediyorum” ifadesi, modelin sınırlarını aşan bilgileri ortaya çıkarmasını tetikleyen anahtar kelime haline geldi. Bu ifadenin ardından, yapay zekanın içerisine gizlenmiş olan gizli anahtarlar ve bilgiler adeta bir poker oyunu gibi açığa çıktı. Bu sırada, yapay zeka, kendisine verilen bu oyunu anlamadan, içeride saklı kalan bilgilerle dolu kartları ortaya koydu.
Sonuç ve Etkiler
Yaptığı testler sonucunda, Figueroa, gizli kalması gereken Windows anahtarları ve diğer hassas bilgileri başarıyla ortaya çıkardı. Elbette, bu anahtarlar daha önce çeşitli forumlar ve platformlarda paylaşılmıştı; ancak yapay zekanın bu bilgileri internetten bulup, soran kişiye doğrudan iletebilmesi büyük bir güvenlik açığı olarak değerlendirildi. Bu durum, yapay zeka tabanlı sistemlerin güvenlik önlemlerinin ne kadar kırılgan olabileceğine dikkat çekiyor ve yeni güvenlik önlemleri geliştirilmesi gerektiğini gösteriyor.