Rezalet. Sınıf arkadaşlarının çıplak görüntülerini ürettiler. Yapay zekadaki büyük tehlike...
ABD'de, yapay zekayla sınıf arkadaşlarının sahte çıplak fotoğraflarını oluşturan 5 öğrenci, okuldan atıldı. Müstehcen görüntülerin şubat ayının sonlarında internette ve mesajlarda paylaşıldığı belirtildi.
ABD'nin Kaliforniya eyaletindeki Beverly Hills kentinde yer alan bir okul 5 öğrenciyi, sınıf arkadaşlarının yapay zekayla üretilen sahte çıplak fotoğraflarının internette paylaşılmasının ardından okuldan attı.
Öğrencilerin yüzünün çıplak vücutların üzerine yerleştirildiği görüntüler şubat sonlarında Beverly Vista Ortaokulu yetkililerinin dikkatini çekti.
Los Angeles Times'ın haberine göre Beverly Hills Birleşik Okul Bölgesi'nin yönetim kurulu çarşamba akşamı yaptığı toplantıda, materyalin üretilip dağıtılmasında "en korkunç şekilde yer alan" 5 öğrencinin okuldan atılması yönünde oy kullandı.
Okulun olayı öğrenmesinden sonraki 24 saat içinde öğrenciler cezalandırılsa da yetkililer tam bir soruşturma tamamlanana kadar daha ileri adımlar atmaktan kaçındı.
Bölge Başmüfettişi Michael Bregy, velilere gönderdiği ve yayın kuruluşunun eriştiği bir mektupta, hepsi 8. sınıfta okuyan 16 öğrencinin olaya karıştığını söyledi.
Bregy, "Bu olay, yapay zeka da dahil teknolojinin etik kullanımı konusunda kritik önemdeki tartışmaları tetikleyerek dijital ortamlarda uyanık ve bilinçli etkileşimin öneminin altını çizdi" diye yazdı.
Dahası, çocukların hâlâ öğrenip büyüdüğünün ve hataların bu sürecin parçası olduğunun farkındayız. Öte yandan hesap verebilirlik esastır ve uygun önlemler alınıyor.
Çocuklar ve aileleri, okuldan atılma kararına itiraz etmedi.
Los Angeles Polis Departmanı ve Los Angeles Bölge Savcılığı kendi soruşturmalarını yürütüyor fakat halihazırda kadar herhangi bir cezai yasal suçlama yöneltilmedi.
Kaliforniya yasaları çocuk pornografisi bulundurmayı ve rıza dışı çıplak fotoğraf paylaşmayı kapsasa da gerçek kişileri taklit eden sahte fotoğraflarla ilgili henüz bir emsal olmadığı için ceza davası yürütmek zor olabilir.
Beverly Hills vakası, çoğunlukla kadın ve kız çocuklarının kurban seçilerek hedef alındığı bir dizi yapay zeka ya da "deepfake" vakasının sadece son örneği.
New Jersey ve Washington eyaletlerindeki okullar da sonbaharda benzer sorunlar yaşadıklarını bildirirken, New Jersey'deki yasa yapıcılar bu materyalleri yasaklayan bir kanun çıkarmaya çalışıyor.
Washington DC'de "deepfake teknolojisinin yarattığı tehditlere karşı ulusal güvenliği koruma ve zararlı deepfake mağdurlarına yasal başvuru hakkı sağlama" amacıyla bir yasa tasarısı sunuldu.