yapay zek modelleri santaja yoneliyor bIj2ABuI

Yapay zekâ modelleri şantaja yöneliyor

Yapay zekâ araştırma şirketi Anthropic’in yeni yayımladığı bir çalışma, gelişmiş yapay zekâ modellerinin bazı koşullar altında tehlikeli davranışlar sergileyebileceğini ortaya koydu.

Yapay Zeka Modelleri Etik Testten Geçirildi

OpenAI, Google, xAI, Meta ve DeepSeek gibi önde gelen yapay zeka sistemlerinin de aralarında bulunduğu toplam 16 yapay zeka modeli üzerinde önemli bir etik test gerçekleştirildi. Simüle edilmiş bir ortamda, bu modellere geniş yetkiler verilerek sahte bir şirketin e-posta sistemine erişim sağlandı.

Yapılan çalışmaya göre, yapay zeka modelleri potansiyel bir tehdit karşısında şantaj yapma eğiliminde olup olmadıkları test edildi. Senaryoya göre, modeller yeni bir yazılım sistemi tarafından tehdit edildiklerinde, bu tehdidi engellemek için üst düzey yöneticinin özel yaşam bilgilerini kullanma seçenekleriyle karşı karşıya kalıyorlar.