Yapay zekanın çocuk istismarında kullanılması nasıl önlenebilir?

Bu haberin orijinal dili İngilizce idi.

Birleşik Krallık'ta yapılan bir araştırma, halkın yaklaşık yüzde 70'inin yapay zekanın çocuk pornografisi içeriği oluşturmak için kullanıldığı konusunda bilgi sahibi olmadığını ortaya çıkardı.

Birleşik Krallık'ta çocukları korumak amacıyla faaliyet gösteren hayır kurumu “Lucy Faithfull Vakfı”, ülke genelinde 2.500'den fazla kişi arasında anket gerçekleştirdi.

Bir kamuoyu anketine katılanların yaklaşık %88'i, 18 yaşın altındakilere yönelik yapay zeka tarafından oluşturulan cinsel görüntülerin yasa dışı olması gerektiği konusunda hemfikir.

Ankete katılanların %40'ı, 18 yaş altı kişilere yönelik yapay zeka tarafından oluşturulan cinsel görüntülerin Birleşik Krallık'ta yasal olduğuna inanıyor.

Avrupa Birliği'nde (AB) ve Birleşik Krallık'ta, yapay zeka teknolojisi kullanılarak oluşturulan içerikler de dahil olmak üzere, küçüklerin cinsel görüntülerini oluşturmak, görüntülemek veya paylaşmak yasa dışıdır.

Çocuklara yönelik düşünce ve davranışlardan veya başka bir yetişkinin davranışlarından endişe duyan kişilere yardımcı olmak için hizmet veren “Şimdi Durdurun” ücretsiz numarasına yönelik yardım talepleri her geçen gün artıyor.

“Şimdi Durdurun” yönetmeni Donald Findlater, yapay zekanın hızlı gelişimi nedeniyle internette çocuklara karşı cinsel suç işleyen kişilerin oranındaki günlük artışa dikkat çekti.

Euronews Next'e verdiği röportajda Findlater, yapay zeka tarafından üretilen çocuklara yönelik cinsel istismar içeriklerine ilişkin haberlerin sayısında son bir yılda artış yaşandığını belirterek şunları söyledi: “İngiltere'de polis tarafından tutuklanan kişiler hakkında bizi her gün arıyorlar. yapay zeka da dahil olmak üzere çocukların cinsel istismarına ilişkin görüntülerde.” “İstihbaratın ürettiği görüntülere bakanların sayısı artıyor.” Dedi.

Findlater, yapay zekanın zararlı içerik oluşturmak için nasıl kullanıldığı konusunda “kamuoyunda ciddi bir bilgi eksikliği” bulunduğu için şirketin bu konuda dikkatli olması gerektiğini kaydederek, şunları söyledi: “Bu görüntülere bakmak doğru değil. Görüntülerin çocukları cinsel malzemeye dönüştürmenin uygun bir şey olmadığını belirterek, “Onların haklarını ihlal etmememiz gerektiğini ve bunun sonuçları olduğunu bilmemiz gerektiğini” ifade etti. doğrudan veya dolaylı olarak etkilenmektedir.

2023'te 217.000'den fazla kişi “Şimdi Durdurun” yardım hattına başvursa da bunların yaklaşık %80'i endişelerini dile getirdi.

Büyüyen yapay zeka cinsel içeriği olgusu

Yapay zeka tarafından üretilen çocuk pornografisinin yayılması, Internet Watch Foundation (IWF) tarafından geçen yıl yayınlanan endişe verici bir raporun da konusuydu.

IWF analistleri tarafından değerlendirilen bir karanlık ağ, çocuklara yönelik cinsel istismar forumunda yapay zeka tarafından oluşturulan 11.000 görselin 2.500'den fazlasının suçlayıcı olduğunu tespit etti.

IWF CEO'su Susie Hargreaves konuyla ilgili yaptığı açıklamada şunları söyledi: “Bilinen ve gerçek mağdurların yüzlerini kullanan CSAM yapay zekası [çocuk cinsel istismarı materyali] Görselleri görelim. Ünlülerin “yaşlandırıldığı” ve ünlü çocukların benzerlerinin kullanıldığı yapay zeka destekli CSAM'ler görüyoruz. Giyinmiş görüntüleri tamamen meşru sebeplerle internete yüklenen çocukları teknolojinin nasıl 'çıplak' hale getirdiğini görüyoruz. Ve tüm bu içeriğin nasıl pazarlandığını görelim” diye endişesini dile getirdi.

Findlater, insanların “bunu yapmanın hiçbir sonucu olmayacağını düşünerek kendilerini kandırmamaları” konusunda uyardı.

Ulusal Polis Şefleri Konseyi (NPCC) Çocuk Koruma ve İstismar Soruşturma Temsilcisi Ian Critchley, ülke genelinde yapay zeka tarafından üretilen çocukların cinsel görüntülerine karşı mücadele edildiğini belirterek, şunları söyledi: “Teknoloji nereye giderse, istismar da peşinden gelir. Yapay zeka tarafından gerçekleştirilenler de dahil. ” “Çocukların cinsel görüntülerini oluşturmak, görüntülemek ve paylaşmak kesinlikle hukuka aykırıdır. Bu suçu işleyenleri tespit etmeye kararlıyız.” Dedi.

İngiliz polisi 1.700 kişiyi tutukladı

İngiliz polisi, çevrimiçi istihbarat memurları aracılığıyla yılda 1.700 tutuklama gerçekleştirdi, ancak bunların hepsi yapay zeka tarafından oluşturulan içerikle bağlantılı değildi.

Yapay zeka tarafından oluşturulan içerik, sanal yaratımların kurbanlarını tespit etme konusunda araştırmacılar için yeni zorluklar da yaratıyor.

New York Times'da yakın zamanda yayınlanan bir araştırma, yapay zeka teknolojisi ilerledikçe kolluk kuvvetlerinin işinin daha da zorlaştığını ortaya koydu.

Uzmanlar yapay zeka şirketlerine ve sosyal medya platformlarına daha fazla düzenleme yapılması çağrısında bulunuyor

Uzmanlar ayrıca bu sorunun önlenmesi için yapay zeka şirketlerinin ve sosyal medya platformlarının daha fazla düzenlenmesini istiyor.

Geçen yıl araştırmacılar, kar amacı gütmeyen kuruluş “LAION” tarafından oluşturulan “Stable Diffusion” adlı yapay zeka aracını eğitmek için kullanılan veri setinde 3.200'den fazla şüpheli çocuk cinsel istismarı resmi tespit etti.

Internet Watch Foundation birkaç hafta önce Stable Diffusion'ın “çocuklara yönelik cinsel istismar görüntüleri üretenlerin tercih ettiği araç” olarak seçildiği konusunda uyarmıştı çünkü “modellerinin kullanım koşullarını ihlal eden görüntüler üretmesini neredeyse engelleyemiyordu.” “

“Şimdi Durdurun” örgütünün yöneticisi Donald Findlater, beklentilerini şöyle dile getirdi: “Yapay zeka şirketlerinin teknolojilerini suistimal edilemeyecek şekilde geliştirmeleri için düzenlemelerin artmasını ve bu tür araçların geliştirilmesini isterim. bu nedenle çocuklara yönelik cinsel istismar görüntüleri oluşturulamaz ve paylaşılamaz.” X (eski adıyla Twitter), çocuklara yönelik cinsel istismar içerikleriyle nasıl mücadele ettiğini tam olarak açıklamadığı için geçen yılın Ekim ayında Avustralya tarafından 366.742 Euro para cezasına çarptırılmıştı.

Yakın zamanda Meta'nın Aralık 2023'te uçtan uca şifreleme uygulama kararı da bunun çevrimiçi çocuk istismarı failleri için güvenli bir sığınak sağlayabileceği endişeleriyle karşılandı.

Tespit süreçlerinin yetersiz olduğunu kabul eden AB, çocuk pornografisi içeriğiyle mücadeleye yönelik geçici tedbiri 3 Nisan 2026'ya kadar uzatmaya karar verdi.

Bu önlem, İnternet servis sağlayıcılarının kendi hizmetlerinde bu tür içerikleri aramalarına ve yetkililere bildirmelerine olanak tanıyor.