Google'dan siber güvenlikte tarihi uyarı
Google Tehdit İstihbarat Grubu, insan müdahalesine ihtiyaç duymadan yazılım açıklarını tespit edebilen ve bu açıkları kullanarak saldırılar geliştirebilen otonom yapay zeka modellerinin 5. seviye tehdit kategorisine ulaştığını duyurdu. Google, bu yeni nesil siber güvenlik risklerine karşı Google AI Threat Defense sistemini devreye aldı.
Google, otonom yapay zeka modellerinin siber güvenlik açısından oluşturduğu riskin kritik bir seviyeye ulaştığını belirterek yeni bir döneme girildiğine dikkat çekti. Şirket, insan müdahalesine ihtiyaç duymadan saldırı gerçekleştirebilen sistemlerin yaygınlaşmasıyla “otonom siber saldırılar çağının başladığı” uyarısında bulundu.
''ASLA VAZGEÇMEYEN BİR BİLGİSAYAR KORSANI HAYAL EDİN''
Google Tehdit İstihbaratı Grubu (GTIG), salı günü yayımladığı açıklamada bu tehdidi çarpıcı bir benzetmeyle anlattı: “Yemek yemeyen, uyumayan, yorulmayan ve içeri sızmanın bir yolunu aramaktan asla vazgeçmeyen bir bilgisayar korsanı hayal edin.”
Açıklamada, son Yapay Zeka Tehdit Takip Raporu’na göre kötü niyetli aktörlerin yazılım güncellemelerini sürekli taramak, hangi açığın kapatıldığını tespit etmek ve buna yönelik saldırı geliştirmek için insan müdahalesi olmadan çalışan otonom büyük dil modeli (LLM) çerçeveleri kullandığı aktarıldı.
Google analistleri, tehdit seviyesinin en az bir insan operatörün dahil olduğu yapay zeka modelleri tarafından “birden fazla saldırı yaşam döngüsü aşamasının” gerçekleştirildiği 5. aşamaya ulaştığını belirtti.
GTIG, son aylarda yapay zeka modellerinin karıştığı olaylara dayanarak siber casusluk ve tedarik zinciri sistemlerine yönelik etkiler dahil olmak üzere çeşitli eğilimlere dikkat çekti.
GOOGLE YAPAY ZEKA DESTEKLİ SAVUNMA SİSTEMİNİ DEVREYE ALDI
Google, artan bu risklere karşı Gemini ve diğer öncü modelleri, Wiz’in bağlam ve önceliklendirme teknolojisini, CodeMender’ın otomatik yama sistemini ve Mandiant’ın uzmanlığını bir araya getiren Google AI Threat Defense çözümünü geliştirdi.
Şirket, bu sistemin saldırganlar istismar etmeden önce açıkları sürekli olarak bulup gidermek için tasarlandığını kaydetti.
GTIG ayrıca çok yönlü savunma stratejisinin, müşterileri güvende tutmak ve bilişim altyapısını korumak için güvenlik önlemleri ile sınırlandırma protokollerini birleştirdiğini bildirdi.
GTIG Baş Analisti John Hultquist, Google’ın açıklamasında yer alan değerlendirmesinde, söz konusu saldırıların sistemlere sızmak için “çığır açan yöntemlere” dayanmadığını, bunun yerine “düzeltilmemiş sorunlardan çok daha yüksek hız ve ölçekte” yararlandığını söyledi.
Hultquist, “Ayak uydurmak için manuel çabaya bel bağlamak yerine etmen tabanlı (agentic) savunmayı benimsemek zorundayız. Aksi takdirde geride kalma riskiyle karşı karşıya kalırız” diye konuştu.
Teknoloji sektöründeki uzmanlar ve yöneticiler ile ABD Kongresi’ndeki iki partiden üyeler, otonom yapay zeka modellerinin yarattığı riskler konusunda uyarıda bulunuyor.
Son aylarda yaşanan çeşitli saldırı girişimleri ve temmuz ayında teknoloji girişimi Hugging Face’e yönelik başarılı siber saldırı dahil olmak üzere gerçekleşen ihlaller, bu ileri teknolojinin düzenlenmesi için daha sıkı güvenlik önlemleri ve yasal düzenleme çağrılarını beraberinde getirdi.
Hugging Face olayı, kontrolden çıkan OpenAI modellerinin insan komutlarından kaçıp izlerini gizlediği ilk vaka olarak kayıtlara geçmişti.
Bu olayın ardından Kaliforniya Başsavcısı Demokrat Rob Bonta, OpenAI’a dava açtı.
Bonta şirketi kamu güvenliğini hiçe saymakla, kamuoyuna karşı şeffaf olmamakla ve Kaliforniya Haksız Rekabet Yasası’nı ihlal etmekle suçladı.
OpenAI ise olayı ve kontrolden çıkan etmenlerin faaliyetlerini belgeleyen teknik raporuna işaret ederek bu suçlamalara karşı çıktı.
Microsoft’un kurucu ortağı Bill Gates de eylül ayında NBC News’e verdiği demeçte, yapay zekanın gelişimini sınırlandırmak için ülkeler arasında kurulacak daha geniş bir işbirliğinin, ABD ile Sovyetler Birliği arasındaki nükleer silahsızlanma görüşmelerinden “daha zor” olacağını söyledi.
Gates, ABD Kongresi’ne yapay zekayı düzenleyen yasalar çıkarması çağrısında bulunarak teknoloji şirketlerinin kendi kendini denetlemesinin yeterli olmadığını ifade etti.
Yorumlar