Yapay zekâ şirketlerinin kötü niyetli siber saldırıları önlemek amacıyla geliştirdiği güvenlik kısıtlamaları, bu kez etik siber güvenlik araştırmacılarının tepkisini çekiyor. Uzmanlar, büyük dil modellerine eklenen koruma mekanizmalarının yalnızca saldırganları değil, güvenlik açıklarını tespit ederek sistemleri daha güvenli hâle getirmeye çalışan araştırmacıları da engellediğini savunuyor. Sektörde giderek büyüyen tartışma, yapay zekâ güvenliği ile siber güvenlik araştırmaları arasındaki hassas dengeyi yeniden gündeme taşıyor.

Yapay Zekâ Modellerindeki Koruma Mekanizmaları Güvenlik Araştırmalarını Sınırlıyor

OpenAI ve Anthropic gibi yapay zekâ şirketleri, gelişmiş modellerinin kötüye kullanılmasını önlemek amacıyla çeşitli doğrulama programları ve kullanım kısıtlamaları uyguluyor. Bu programlar sayesinde yalnızca belirli kriterleri karşılayan araştırmacılar daha geniş yetkilere sahip modelleri kullanabiliyor. Ancak güvenlik araştırmacıları, mevcut koruma mekanizmalarının birçok durumda güvenlik açığı analizi, tersine mühendislik ve istismar senaryolarının doğrulanması gibi tamamen meşru çalışmaları da engellediğini belirtiyor.

Siber güvenlik alanında uzun yıllardır çalışan uzmanlardan Mark Dowd, yapay zekâ şirketlerinin hangi güvenlik araştırmasının kabul edilebilir olduğuna tek taraflı karar vermesini doğru bulmadığını ifade ediyor. Özellikle daha önce bilinmeyen yazılım açıklarının tespit edilmesi ve bunların nasıl istismar edilebileceğinin analiz edilmesi, savunma çalışmalarının önemli bir parçası olarak görülüyor. Araştırmacılara göre yapay zekâ modeli, bir güvenlik açığını doğrulamak amacıyla hazırlanan istemleri doğrudan reddettiğinde sistemlerin güvenliğini artıracak analiz süreçleri de sekteye uğrayabiliyor.

NCC Group Baş Bilim İnsanı Chris Anley, bir güvenlik açığının gerçekten risk oluşturup oluşturmadığını anlamak için yapay zekâ modellerinden yararlanmanın savunma çalışmalarında kritik önem taşıdığını söylüyor. Anley’e göre aynı istem hem saldırı hem de savunma amacı taşıyabileceği için yapay zekânın bunu ayırt etmesi her zaman kolay olmuyor. Güvenlik uzmanı, bu durumu “çekiç” benzetmesiyle açıklayarak aynı aracın hem ev inşa etmek hem de zarar vermek amacıyla kullanılabileceğini, bu nedenle yalnızca kullanım senaryosuna bakılarak kesin ayrım yapılamayacağını dile getiriyor.

Crowdfense Teknoloji Direktörü Paolo Stagno ise bulut tabanlı yapay zekâ hizmetlerine hassas güvenlik verilerinin yüklenmesinin ayrıca gizlilik riski oluşturduğunu belirtiyor. Bu nedenle şirketin, güvenlik açığı araştırmaları ve istismar geliştirme süreçlerinde internet bağlantısı gerektirmeyen açık kaynaklı yapay zekâ modellerini yerel sistemlerde çalıştırmayı tercih ettiği ifade ediliyor. Bazı araştırmacılar da ticari modellerin sıkı güvenlik filtreleri nedeniyle beklenen verimi sağlayamadığını, bu yüzden açık kaynak alternatiflerine yöneldiklerini aktarıyor.

Siber güvenlik uzmanları, mevcut yaklaşımın beklenmeyen bir sonuç doğurduğunu düşünüyor. ABD merkezli yapay zekâ şirketlerinin sıkı güvenlik politikaları nedeniyle birçok araştırmacının Çin merkezli veya açık kaynak kodlu yapay zekâ modellerini kullanmaya başladığı belirtiliyor. Uzmanlar, güvenlik kısıtlamalarının tamamen kaldırılmasını istemese de etik araştırmacılara daha esnek erişim sunulmasını, kötüye kullanımın ise kullanıcı bazında denetlenmesini öneriyor. Yapay zekâ destekli siber saldırıların hız ve ölçek açısından giderek güçleneceği öngörülürken, savunma tarafındaki araştırmacıların aynı teknolojilere yeterli erişim sağlayamamasının uzun vadede dijital güvenlik açısından önemli riskler oluşturabileceği değerlendiriliyor.