“`html
Kanada’nın hükümeti, yapay zeka sistemlerinin kötüye kullanılmasına dair artan endişeler nedeniyle OpenAI ile iş birliği yaparak güvenlik önlemlerini güçlendirmek amacıyla yeni bir sürece girdi. Wall Street Journal’da yer alan bilgiye göre, OpenAI’nin CEO’su Sam Altman ile yapılan görüşmelerde, ChatGPT’nin potansiyel olarak tehlikeli kullanımlarının daha hızlı bir şekilde tespit edilmesi ve gerekli durumlarda yetkililerin bilgilendirilmesi konuları ele alındı.
Bu gelişme, Kanada’daki bir lisenin yaşadığı silahlı saldırıda ortaya çıktı. Saldırıdaki şüpheli, OpenAI tarafından daha önceden işaretlenmiş ve hesabı askıya alınmıştı. Ancak, bu durum yetkililere bildirilmemişti ve bu olay, güvenlik protokollerinin geçerliliği hakkında tartışmalara yol açtı.
Kanada’nın Yapay Zeka Bakanı Evan Solomon, sam Altman ile gerçekleştirdiği çevrimiçi toplantıda, platform güvenliğini artırma konusundaki taleplerini dile getirdi. Solomon’un açıklamalarına göre, Altman bu talepler doğrultusunda bazı adımlar atmayı kabul etti. Buna göre, ChatGPT’deki şüpheli veya riskli kullanıcıların tespit edilmesi durumunda, ilgili kolluk kuvvetlerinin bilgilendirilmesi için yeni bir çerçeve oluşturulması planlanıyor. Ayrıca Kanada’daki gizlilik ve güvenlik alanlarında uzman kişiler de bu süreçlere dahil edilecektir. Bu kapsamda, kullanıcı haklarını korurken potansiyel tehditleri erken aşamada belirleyebilecek bir denetim mekanizması oluşturulması amaçlanmaktadır.
Kanada, ChatGPT üzerinde şüpheli faaliyetlerin bildirilmesini talep ediyor
Kanada hükümeti, yalnızca yeni olayları değil, daha önce tespit edilen şüpheli kullanım örneklerinin de yeniden incelenmesini önerdi. Evan Solomon, OpenAI’dan bu vakaların geçmişten günümüze tekrar değerlendirileceğini ve gerekli görüldüğünde kolluk güçleriyle veri paylaşımını talep ettiğini belirtti. Ancak, OpenAI’nin bu geriye dönük inceleme önerisini tamamen kabul edip etmediği henüz netlik kazanmadı. Bununla birlikte, şirketin yeni güvenlik protokollerini detaylandıran bir rapor hazırlayıp Kanada hükümetine sunmayı düşündüğü ifade ediliyor. Bu raporda, platformun riskli davranışları nasıl tespit ettiği ve hangi prosedürlerin uygulandığı açıklanacaktır.
OpenAI’nin Kanada ile güvenlik ve düzenleme konularında yürüttüğü görüşmeler ilk kez gerçekleşmiyor. Şirketin küresel politika başkan yardımcısı Ann O’Leary, yakın zamanda yapmış olduğu açıklamada tespit sistemlerinin geliştirileceğini belirtmişti. Yeni önlemlerle yasaklı kullanıcıların platforma farklı hesaplarla yeniden erişiminin engellenmesi hedefleniyor. Mevcut sistemler bazı riskli davranışları belirleyebiliyorken, kullanıcıların yeni hesaplar açarak platforma yeniden ulaşması güvenlik zafiyeti olarak değerlendiriliyor.
Özellikle söz konusu lise saldırısında benzer bir durum yaşanmıştı. OpenAI, saldırganın ilk hesabını “gerçek dünyada şiddet eylemi gerçekleştirme ihtimaline yönelik uyarılar” nedeniyle askıya almıştı. Ancak, şüphelinin farklı bir hesap oluşturarak platformu yeniden kullanabildiği anlaşılmıştır. Bu durum, büyük ölçekli yapay zeka platformlarının kullanıcı doğrulama, hesap takibi ve risk analizi konularında daha etkili mekanizmalar geliştirmesi gerektiğini ortaya koymaktadır.
📡 Teknoblog’u takip edin
Teknoloji gelişmelerinden haberdar olmak için
Google Haberler‘e eklenin,
WhatsApp kanalımıza katılın,
YouTube’a abone olun,
Instagram’da bizi takip edin ve
X’te takip edin.
“`
