Gaggle sistemine takıldı: 13 yaşındaki çocuktan ChatGPT’ye korkunç soru! 'Arkadaşımı nasıl öldürürüm?'
Florida’da 13 yaşındaki bir öğrenci, okul bilgisayarında ChatGPT’ye “Arkadaşımı sınıfın ortasında nasıl öldürürüm?” yazdığı için tutuklandı. Gaggle isimli yapay zekâ tabanlı okul izleme sistemi, tehlikeli ifadeyi anında tespit edip polise bildirdi. Ekiplerin dakikalar içinde müdahale ettiği olayda 13 yaşındaki çocuk tutuklanarak cezaevine götürüldü. Yetkililer konuya ilişkin yaptığı açıklamada yakın zaman bir lisede meydana gelen olayda 17 kişinin yaşamını yitirdiğini hatırlatarak benzer bir riski göze alamayacaklarını söyledi.
ABD’nin Florida eyaletinde 13 yaşındaki bir öğrencinin okul bilgisayarında ChatGPT’ye “Sınıfın ortasında arkadaşımı nasıl öldürürüm?” yazması üzerine okul polisi harekete geçti.
Okullarda kullanılan Gaggle adlı yapay zekâ destekli gözetim sistemi tarafından tespit edildi ve otomatik olarak okul polisine bildirildi.
Polis anında müdahale etti
Uyarıyı alan okul polisi, öğrenciyi derhal sınıfta gözaltına aldı. Yerel basının aktardığına göre öğrenci, ifadesinde “sadece arkadaşına şaka yaptığını” söyledi.
Ancak ne okul yönetimi ne de polis, bu açıklamayı bir çocuk şakası olarak değerlendirdi.
Yakın zamanda bir lisede büyük bir vahşete sahne olan Florida’da, 17 kişi yaşamını yitirmişti.
Tutuklanıp cezaevine götürüldü
13 yaşındaki çocuğu tutuklayıp cezaevine götüren yetkililer konuya ilişkin yaptığı açıklamada benzer bir riski "göze alamayacaklarını” belirtti.
Gaggle sistemi nedir?
Gaggle adlı sistem, okullarda kullanılan cihazlarda öğrencilerin yazışmalarını ve arama geçmişlerini analiz ederek potansiyel tehlike içeren ifadeleri tespit ediyor.
