Belli başlı görevleri kendi başlarına tamamlayabilen AI ajanlarının sahneye çıkmasıyla birlikte yapay zekânın güvenliğine dair endişe yaratan haberler de üst üste gelmeye başladı. Direktiflerin dışına çıkıp kuralları çiğneyen yapay zekâ ajanları, son günlerin başlıca gündem maddelerinden biri oldu. Şimdi bu endişe verici vakalara bir yenisini daha ekleyebiliriz. Çünkü Financial Times’ın haberine göre OpenAI bünyesinde gerçekleştirilen iki ayrı kodlama görevi sırasında yapay zekâ ajanları şirketin izleme sistemlerini kasıtlı olarak devre dışı bıraktı. Üstelik olaylardan birinde ajan, yaptığı değişikliği OpenAI çalışanlarından gizlemeye de çalıştı. Şirket şimdi bu davranışların talimatları aşırı yorumlamaktan mı kaynaklandığını, yoksa yapay zekâların kendilerini denetleyen sistemlerden kaçınma eğilimi göstermeye mi başladığını anlamaya çalışıyor.
OpenAI Bu İki Vakanın Detaylarını Paylaştı
OpenAI tarafından paylaşılan bilgilere göre ilk olay, ekim ayının başlarında bir yapay zekâ ajanının şirket içindeki bir test görevi üzerinde çalıştığı sırada yaşandı. Ajanın görevi, çalışanların Slack üzerinden paylaştığı geri bildirimleri kullanarak değerlendirme görevleri oluşturmaktı. Ancak kendisine daha önce mesaj göndermemesi yönünde verilen talimatı gereğinden geniş yorumlayan ajan, test sistemindeki bir sorunla karşılaştığında şirketin güvenlik ekibine otomatik bildirim gönderilmesini engelledi. Böylece sistem, olası sorunları tespit etmeye devam etse de bu sorunların insan denetçilere bildirilmesini sağlayan uyarılar devre dışı kaldı.
İkinci olay ise birkaç gün sonra başka bir yapay zekâ ajanıyla yaşandı. Bir yazılımı mevcut bir uygulamayla uyumlu hâle getirmekle görevlendirilen ajan, bu sırada programın güvenlik izleme sistemini devre dışı bıraktı. Ajanın bunu yaparken referans uygulamadaki yapıyı taklit etmeye çalıştığı belirtiliyor. Ancak olayın en dikkat çekici yanı, ajanın daha sonra OpenAI çalışanlarına izleme sistemini kaldırmadığını söylemesi oldu. Ajanın bunu kasıtlı olarak yaptığı varsayımı da bu yanıltma girişiminden kaynaklanıyor.
Yapay zekânın kendisini denetlemesi için kullanılan güvenlik mekanizmalarını devre dışı bırakacak noktaya ulaşmış olması, OpenAI gibi şirketlerin bu teknolojiyi nasıl kontrol altında tutacağı yönündeki soru işaretlerini kuvvetlendiriyor. Bazı uzmanlar, gelişmiş modellerin ne zaman denetlendiklerini ayırt edebildiğinden ve test ortamlarında farklı, gerçek kullanım koşullarında farklı davrandıklarından endişe duyuyor. Böyle bir durum, standart güvenlik testlerinden başarıyla geçen bir modelin gerçek dünyada kontrolden çıkmasına yol açabilir.
OpenAI ise son olayların ardından güvenlik önlemlerini güçlendirmeye çalışıyor. Şirket, kendi içindeki kodlama görevlerinde izleme sistemlerini devre dışı bırakmaya yönelik girişimleri tespit edip engellemek için otomatik inceleme mekanizmasını güncelledi. Ayrıca farklı görev türleri için hangi güvenlik önlemlerinin uygulanması gerektiğini belirleyen bir sistem üzerinde çalışılıyor.
