İstanbul Fatih’te bu hafta Ayşenur Halil ve İkbal Uzuner adlı iki genç kadını vahşi biçimde öldürdükten sonra intihar eden 19 yaşındaki Semih Çelik'in gündeme oturan cinayet fiilinin ardından sosyal medya kullanıcıları bir ifşa seferberliği başlattı.

X platformunda, başta Çelik olmak üzere kadın cinayeti faillerini öven "incel" hesaplarının ifşa edilmesiyle başlayan süreç, Telegram'da örgütlenen ve kadınlara yönelik şiddet söylemlerinde bulunan grupların ve Discord'da kadınları ve reşit olmayan genç kızları şantaj amaçlı hedef alan bir ağın açığa çıkarılmasına uzandı.

Telegram'da ve Discord'da açıldığı anlaşılan birden fazla grupta kadın cinayeti faillerinin övüldüğü, kadına yönelik şiddetin ve kendine zarar verme eylemlerinin teşvik edildiği göze çarparken, sokakta yürüyen kadınların etek altı fotoğraflarının paylaşıldığı ve özel bilgileri paylaşma şantajıyla reşit olmayan genç kızların istenmeyen davranışlara zorlandığı görüntüler infial yarattı.

Özellikle de Discord'da kaydedildiği ve bir kız çocuğunun bir grup tarafından tehdit edilerek kendisine zarar vermeye zorlandığı iddia edilen bir video, X kullanıcıları arasında ciddi bir endişeye ve paniğe neden oldu.

Ancak İçişleri Bakanı Ali Yerlikaya, Pazar günü X üzerinden yaptığı açıklamada, söz konusu videonun kurgu ürünü olduğu ve videoyu kaydedenlerin ifadelerinin alındığını duyurdu. Yerlikaya, "Bu tür paylaşım yapanları tek tek yakalayacağız!" ifadelerini kullandı.

Öte yandan bazı hesaplar Discord ve Telegram gibi uygulamalarının çocuk istismarına son derece açık olduğunu ve bu yüzden yasaklanması gerektiğini savunuyor.

Telegram'ın kurucusu ve İcra Kurulu Başkanı (CEO) Pavel Durov'un kısa bir süre önce Fransa'da, platformda çocuklara yönelik cinsel istismar görüntüleri, uyuşturucu kaçakçılığı ve dolandırıcılık işlemleriyle ilgili suçlara ilişkin soruşturmanın bir parçası olarak gözaltına alınmış olması da söz konusu uygulamalara dair endişeleri ve soru işaretlerini besliyor.

Discord ve Telegram'da neler oluyor?

Bu iki iletişim ve paylaşım uygulaması, dünya genelinde aşırı sağ hareketlerin ve kadın düşmanı toplulukların şiddet eylemlerine ilişkin haberlerde sıklıkla adından söz ettiriyor.

Söz konusu toplulukların sıklıkla Telegram ve Discord'daki propaganda gruplarına üye oldukları, saldırıların övüldüğü ve hatta yer yer planlandığı kanallarda örgütlendikleri biliniyor.

Platformlar aynı zamanda bizzat suç mahalli görevi de görebiliyor. Telegram'da ve Discord'da daha önce intikam pornosu, şantaj ve dolandırıcılık amacıyla kullanılan pek çok kanal açığa çıkarılmıştı.

Bu da akla şu soruyu getiriyor: Online şiddet ve taciz eylemleri söz konusu olduğunda neden Telegram ve Discord'un adı bu denli sık geçiyor?

Discord'la beraber anılan bir kavram: Sextortion

Discord aslında video oyunu tutkunlarının topluluk ve iletişim kurmasını sağlamasıyla biliniyor. Ancak şirket, bugün çeşitli teknoloji gruplarından yayıncılara ve şirketlere kadar topluluk odaklı çalışılan birçok sektöre platform sunar hale geldi.

Discord 2015'te piyasaya sürülmüş ve oyuncular için hızla bir merkez üssü haline gelmişti. COVID-19 pandemisi boyunca kripto ticareti, YouTube dedikoduları ve K-pop gibi çeşitli konulara adanmış toplulukların oluşturulduğu platform giderek anaakımlaştı.

Platformun 300 milyonluk kullanıcı kitlesi halen çoğunlukla beraber oyun oynayan insanlardan oluşuyor ama derinliklerinde gamalı haçları takas eden, ırkçı meme'ler üreten veya "sextortion" faaliyetlerinde bulunan gruplar da var.

İngilizcede seks (sex) ve gasp (extortion) kelimelerinin birleşiminden oluşan sextortion kavramı, cinsel içerikli görüntüleri paylaşma tehdidiyle insanların daha fazla cinsel veya maddi sömürüye maruz bırakılması anlamına geliyor. Bu durumda istismarcılar mağdurları, talep ettikleri şeyi alamazlarsa ellerindeki içeriği çevrimiçi olarak yayınlamak veya kişinin aile ve arkadaşlarına göndermekle tehdit ediyor.

Sextortion mağdurları verilerini ve hassas bilgilerini paylaşmaları için çeşitli şekillerde manipüle edilebiliyor. Örneğin failler kendilerini başka biri gibi tanıtıp kişiyle sahte bir duygusal ilişki kurma yoluna gidebiliyor. Bu şekilde mağdurun özel bilgi veya görüntülerine erişim sağlayabildikleri gibi daha teknolojik yöntemler de kullanabiliyorlar.

Örneğin, fail, hedef aldığı kişiyi belirli Discord sunucusuna yönlendirebiliyor ve kullanıcının karşısına sahte bir hesap doğrulama linki veya QR kodu çıkabiliyor. Sunucuya erişmek için doğrulama yaptığına inanan kullanıcı bu kodu okuttuğunda kötü amaçlı yazılımlarla bilgisayarındaki verilere erişim sağlanabiliyor.

Sonunda bu gibi yöntemlerle elde edilen hassas görüntüler, şantaj amaçlı kullanılmaya başlıyor.

Neden Discord?

Uzmanlar, Discord'un genç kullanıcı tabanı, doğrudan bir merkezden yönetilmeyen dağınık yapısı ve metin tabanlı, sesli veya görüntülü görüşmelere olanak tanımasının yanı sıra son zamanlarda popülerliğinin de artmasının, onu çocuk istismarcıları için özellikle çekici bir yer haline getirdiğini düşünüyor.

Discord toplulukları aslında işyerleri için geliştirilen iletişim uygulaması Slack'e benziyor. Platformun tıpkı Slack gibi ücretsiz sunulan topluluk sunucuları var. Özel veya herkese açık olabilen bu sunucular sadece iki kişiye veya binlerce kullanıcıya ev sahipliği yapabilir. Buralarda bireyler hem mesajlaşabiliyor hem de canlı toplantılar veya yayınlar düzenleyebiliyor.

Bu sunucuların kendi yöneticilerinin ve kurallarının olması da X, Facebook ve diğer uygulamaların aksine kullanıcıya daha büyük bir ekosistem içinde kendi sosyal medyacıklarını kurma imkanı sağlıyor. Bu nispeten merkeziyetsiz yapı, sansüre karşı önemli bir direnç sağlayıp topluluk yönetimini kolaylaştırırken, aynı zamanda kötü niyetli aktörlerin de kendi sistemlerini kurmalarına ve gizlenmelerine olanak tanıyabiliyor.

Nitekim söz konusu Discord gruplarına davet linki olmadan girilemiyor ve kullanıcılar gerçek adlarını kullanmak zorunda kalmıyor. Bu da belli bir miktar gizlilik sağladığı için illegal faaliyet ve örgütlenmeler açısından işlevli olabiliyor. 

Kötü şöhretli 764 grubu

Türk kullanıcıların haftasonu boyunca ifşa etmeye çalıştığı Discord şantajcılarının belirli sunucularda öbeklendiği ve kullanıcı adlarının başına "901" kodunu ekleyerek birbirlerine ulaştıkları iddia edilmişti.

Bu durum akla, Discord başta olmak üzere Telegram, Minecraft, Instagram ve SoundCloud gibi bir dizi uygulamada faaliyet göstermiş kötü şöhretli bir Amerikalı ağı akla getirdi.

Mart ayında FBI soruşturmasına konu olan bu ağ da 764 kodunu kullanıyor ve birbirlerini bu kod üzerinden tanıyordu. ABD'li savcılar, 764 üyelerinin faaliyet gösterdiği birincil araçlar olarak Telegram ve Discord'u göstermişti. 764 üyesi Kalana Limkin'e açılan ceza davasında, grubun bu platformları "aşırı kanlı içerikler ve çocuk istismarı materyalleri paylaşarak savunmasız toplulukları duyarsızlaştırmak için" kullandığı ifade edilmişti.

764 kodlu hesaplar, kullanıcıların grafik görseller paylaştığı Instagram'da da yaygındı (Görsel: Ali Winston / Instagram)Cleared

Bir Discord sözcüsü, FBI ve diğer kolluk kuvvetleriyle yakın çalıştıklarını ve yalnızca 2023'te 764'e bağlı 130 grubu ve 34.000 hesabı engellediklerini bildirmişti.

Grup bu kodu, kurucuları olarak görülen Bradley Cadenhead adlı gencin Dallas'ta yaşadığı Stephenville semtinin posta kodundan hareketle almıştı.

Hem gruba dahil edilen hem de istismar edilen genç bir kadın olan Anna, WIRED'a yaptığı açıklamada, "Asıl amaçları sizi travmatize etmek," dedi: "Size acı çektirmek istiyorlar. Ve kendi canınıza kıymanızı istiyorlar. Gerçekten çok sadist insanlar."

NBC News muhabirlerinin geçen yıl yürüttüğü bir araştırmada ise yetişkinlerin Discord üzerinden sextortion faaliyeti yürüttükleri gerekçesiyle kovuşturulduğu 4 suç şebekesi de dahil olmak üzere 165 vaka tespit edilmişti. Kovuşturmaların en az 91'i suçunu kabul etmişken, diğer birçok dava devam ediyor.

Kanada Çocuk Koruma Merkezi'nin ihbar hattı müdürü Stephen Sauer ise, "Gördüklerimiz buzdağının sadece görünen kısmı," diyor.

İçerik moderasyonu zayıf kalıyor

Aslında hem Discord'un hem de Telegram'ın hizmet şartları tehdit, şiddet, taciz ve yasadışı unsurlar içeren gönderileri yasaklıyor. Ancak şirketler sunucuları ve grupları aktif biçimde izlemek yerine genellikle kullanıcıdan gelecek ihbarlara bel bağlıyor. Bu durum da söz konusu içeriklerin uzun süreler boyunca platformlarda kalmasına yol açıyor.

Aynı zamanda bu grupların ayyuka çıktıklarında isimlerini değiştirmesi ve kendilerini şikayet eden kullanıcıları gruplarından atarak faaliyetlerini sürdürmesi de mümkün oluyor.

Öte yandan teknolojinin gelişmesiyle sektörde kullanıcı mahremiyeti ve topluluk ruhuna zarar vermeden etkili bir moderasyon yapabilme umutları da arttı.

Discord'un güven ve emniyetten sorumlu başkan yardımcısı John Redgrave, platformun çocuk güvenliğine yönelik yaklaşımının, Discord'un 2021'de yapay zeka moderasyon şirketi Sentropy'yi satın almasından bu yana önemli ölçüde iyileştiğine inandığını savunuyor.

Şirket, şeffaflık raporlarında bu satın alımın "kötü içerikleri tespit etme ve kaldırma yeteneğini genişletmesine olanak tanıyacağını" ifade etmişti.

Devasa Telegram grupları

Telegram'ın 700 milyonluk küresel bir kullanıcı tabanı var ve özellikle 2019-2020 aralığında COVID-19 kısıtlamalarına yönelik protestoların örgütlendiği ana araç haline geldi ve güvenli bir sohbet platformu olarak ün kazandı.

Bu ün, büyük ölçüde grup sohbeti işlevinden kaynaklanıyor. Bir Telegram grubunun 200.000 kadar üyeye ev sahipliği yapabilmesiyle bu uygulamadaki gruplar devasa büyüklüklere ulaşabiliyor.

"Kanallar" özelliği de ayrıca grup organizatörlerine güncelleme yayınlamaları için alan sağlıyor. Bu kanallarda haber paylaşımları, makaleler ve daha birçok gönderinin binlerce kullanıcıya ulaşması mümkün. Bu, platformu geniş kitlelere yönelik propaganda için de kullanışlı hale getiriyor. 

Kullanıcılar aynı zamanda Telegram'daki mesajlaşmalarının gizlilik ayarlarını değiştirebiliyor. Örneğin takma isimler kullanabiliyor, telefon numaralarını gizli tutabiliyor ve mesajlarını uçtan uca şifreli hale getirebiliyor.

Ayrıca, Telegram’ın sunucularının dünyanın farklı yerlerinde dağınık olması, belirli bir devletin veya kuruluşun yaptırımlarını zorlaştırıyor. 

Tüm bu özellikler, Discord'la benzer biçimde sansür mekanizmalarına karşı kullanıcıya direnç ve mahremiyet sağlarken, aynı zamanda online taciz ve aşırılıkçı hareketlerin örgütlenmesi için de zemin sunmuş oluyor.

Telegram'da intikam pornosu 'salgını'

Telegram özellikle de intikam pornoları ve uygulamada sık kullanılan yapay zeka botları sayesinde sahte cinsel görüntüler üretebilen ağlara en sık rastlanan platformlardan biri haline geldi.

Bu yılın ağustos ayında yerel gazete Hankyoreh'in, Güney Kore Telegram'ındaki en az 220.000 kişilik bir grubun deepfake araçlarıyla müstehcen görüntüler ürettiğini ortaya çıkarmasıyla platform uluslararası manşetlere yerleşmişti.

Hankyoreh muhabirleri, X üzerinden buldukları bir bağlantı aracılığıyla eriştikleri Telegram grubunda bir yapay zeka botu keşfetmişti. Bu bot, kanala yüklenen fotoğrafları otomatikman çıplak görsellere dönüştürüyor ve üstelik bu üretimden kullanıcı başına para kazanılıyordu.

Bu hadisenin ardından Güney Kore hükümeti alarma geçmiş ve Telegram'a işbirliği çağrısında bulunmuştu.

Çok kısa bir süre önce ABD ve Sırbistan'da da benzer Telegram grupları açığa çıktı. Ancak bu son olaylar, Telegram'ın adının karıştığı ilk cinsel suç olayları değildi.

Önceki yıllarda buradaki kanallarda örgütlendiği belirlenen bir cinsel şantaj şebekesinin ortaya çıkarılmasıyla Telegram'ın itibarı epey sarsılmıştı. Çetenin lideri Koreli Cho Ju-bin, 2020'de 40 yıl hapis cezasına çarptırılmıştı. 

Nth room" olarak adlandırılan çevrimiçi cinsel şantaj çetesinin lideri Cho Ju-bin. Çetenin bilinen 103 mağduru varAP Photo

Telegram içerik denetimi politikasına ilişkin tutumunu nasıl değiştirdi?

Telegram'da bu tür suç olaylarını engellemekle ilgili çaba ve tartışmalar, çoğunlukla platformun hükümetlerin istediği verileri sağlaması talebine odaklanıyor.

Telegram CEO'su Durov, Fransa'da gözaltına alınıp bırakılmasının ardından, 24 Eylül'de platformun gizlilik politikasında bu yönde kesin değişikliklere gidildiğini duyurdu.

Yeni değişiklikler uyarınca Telegram, hükümetlerden gelen geçerli yasal taleplere yanıt olarak artık telefon numaraları ve IP adresleri de dahil olmak üzere kullanıcı verilerini yetkililere verme kararı aldı.

Aynı zamanda kullanıcılara konum olarak yakınlardaki diğer kullanıcıların gösterildiği "yakınımdakileri göster" özelliği de kaldırıldı.

Bunun yanı sıra, Durov da tıpkı Discord gibi, içerik moderasyonunda yapay zekadan yararlanma kararı aldı. İş insanı, platform moderatörlerinin platformun arama özelliğindeki "sorunlu içerikleri" belirlemek ve kaldırmak için artık yapay zekayı kullanacağını belirtiyor.

Durov'un tutumundaki bu değişiklik bazı kullanıcıların tepkisini çekse de diğer yorumcular, hükümetlerin suç örgütleriyle mücadele edebilmesi için bu tarz bir politika değişikliğinin gerekli olduğunu savunuyor.