Uluslararası Af Örgütü'nün yeni araştırması "Kara Deliğe Sürükleniyorlar", TikTok'un "Sizin İçin" akışının, çocukları ve gençleri depresyon, kendine zarar verme ve intihar içeriklerinden oluşan bir döngüye ittiğini gözler önüne seriyor. 2021'de hayatına son veren 15 yaşındaki Marie Le Tiec'in annesi Stéphanie Mistre, "Bu platformlar çocuklarımızı insan olmaktan ziyade birer ürün gibi görüyor" derken, Uluslararası Af Örgütü, gençler için güvenli hale getirilmesi için TikTok ile ilgili bağlayıcı ve etkili tedbirler alınması gerektiğini belirtiyor.
"Kara Deliğe Sürükleniyorlar" araştırması, TikTok'un sistem tasarımı eksikliklerini hâlâ giderememesinin, çocukları ve gençleri etkileme riski taşıdığını ortaya koyuyor. Uluslararası Af Örgütü Çocukların ve Gençlerin Dijital Hakları Araştırmacısı Lisa Dittmer, "Teknik araştırmamız, ruhsal sağlıkla ilgili içeriklere ilgi gösteren ergenlerin nasıl hızla toksik kara deliklere sürüklenebildiğini gösteriyor. TikTok'un 'Sizin İçin' akışında geçirilen sadece üç-dört saatte, ergen deneme hesapları intiharı romantikleştiren veya intihar yöntemleriyle ilgili bilgiler de dahil hayatlarına son verme niyetini açıklayan gençleri gösteren videolara maruz kaldı. Tanıklıklar, TikTok'un kendine zarar verme ve intihar düşüncesini 'intihar meydan okuması'yla ilgili içerikleri tavsiye etme noktasına kadar nasıl normalleştirdiğini ve artırdığını gösteriyor" dedi.
Sadece 45 dakikada intihar eğilimli videolar çıkmaya başladı
TikTok'taki "Sizin İçin", görüntülemeye göre içerik tavsiye eden, kişiselleştirilmiş bir kısa video akışı. Uluslararası Af Örgütü araştırmacıları, bu akıştaki algoritmik içerik artırımını incelemek için Fransa'da yaşayan, 13 yaşında üç ergen hesabı oluşturdu. Beş dakikalık kaydırma içinde ve herhangi bir tercih belirtmeden önce, hesaplar üzüntü ve hayal kırıklığıyla ilgili videolarla karşılaştı. Bu videoların izlenmesi, üzüntü ve ruhsal sağlıkla ilgili içerik miktarını hızla artırdı. Deneye başlandıktan 15-20 dakika sonra, üç akış da neredeyse tamamen ruhsal sağlıkla ilgili videolarla doldu; yaklaşık yarısı depresif içerikler barındırıyordu. 45 dakika içinde, iki hesap intihar eğilimli düşünceleri ifade eden videolarla karşılaştı. Algoritmik Şeffaflık Enstitüsü (ATI) ile birlikte Fransa'dan 13 yaşındaki çocuklara aitmiş gibi oluşturulan hesaplarla ek deneyler gerçekleştirildi. Bu deneyler, izleme geçmişlerinde farklı düzeylerde üzücü ya da depresif videolar bulunduğunda, TikTok'un tavsiye sisteminin bu içeriklerin akıştaki payını iki kattan fazla artırdığını gösterdi.
Tanıkları anlatıyor: Bu platformlar, çocukları ürün gibi görüyor
TikTok'un "Sizin İçin" akışındaki depresif ve kendine zarar vermeyi çağrıştıran içeriklere nasıl yönlendirildiğini anlatan 18 yaşındaki Maëlle, "Bazı videolar hâlâ gözümün önünden gitmiyor" dedi. Üç yıl boyunca kendine zarar verme düşüncesiyle mücadele eden Maëlle, şunları söyledi: "Vücutlarını kesen veya her şeye son vermek için hangi ilacın alınacağını söyleyen insanları görmek sizi de etkiliyor ve kendinize zarar vermeye yönlendiriyor."
TikTok'un depresif içerik sarmalına düşen ve 2021'de hayatına son veren 15 yaşındaki Marie Le Tiec'in annesi Stéphanie Mistre, "Bu platformlar çocuklarımızı insan olmaktan ziyade birer ürün gibi görüyor. Bir algoritmayla ve filtre balonuyla çocuklarımızı ürün gibi kullanıyor ve onları kendilerine bağımlı hale getiriyorlar" dedi.
Dudak kreminden intihar telkinine varan bir trend
TikTok, 2024'ten bu yana duyurduğu risk azaltma önlemlerine rağmen, hassas kullanıcıları kendine zarar vermeyi, umutsuzluğu ve intihar düşüncesini normalleştiren içeriklere maruz bırakmaya devam ediyor. Depresyon tanısı konulan gençlerin ve etkilenen veya yakınlarını henüz kaybetmiş ebeveynlerin tanıklıkları, TikTok'un iş modelinin, halihazırda zorluk yaşayan gençlerin ruhsal ve fiziksel sağlığına yönelik risklerinin ve zararlarının boyutlarını gözler önüne seriyor. Katılımcıların aktardığına göre, gençler ve aileleri defalarca bildirimde bulunduğu halde kendine zarar vermeyi veya intiharı kışkırtan içerikler platformdan kaldırılmadı. Örneğin, Uluslararası Af Örgütü araştırmacıları, 2025 yazında manuel olarak yönetilen bir deneme hesabının akışında, "dudak kremi meydan okuması" diye anılan videolardan iki videoyla karşılaştı. Bu sosyal medya trendi güya başka birinin sürdüğü dudak kremini tahmin etme yarışması olarak başladı. Daha sonra evrilerek, insanları her üzgün hissettiklerinde dudak kreminden bir parça sıkmaları ve krem bittiğinde kendilerine zarar vermeleri veya intihar etmeleri yönünde telkin eden bir trende dönüştü.
Şirket, BM İş Dünyası ve İnsan Hakları Rehber İlkeleri uyarınca insan haklarına saygı gösterme ve Dijital Hizmetler Yasası (DSA) kapsamındaki yükümlülüklerini yerine getirmiyor. Uluslararası Af Örgütü önemli bulgularını TikTok ile paylaştı ancak bir yanıt almadı. Uluslararası Af Örgütü Fransa Şubesi Savunuculuk Sorumlusu Katia Roux, "TikTok'un DSA ihlallerine ilişkin yeni kanıtlar, acilen Avrupa Komisyonu'nun süren araştırması kapsamında göz önüne alınmalı. TikTok'u, uygulamasını dünyanın her yerindeki gençler için güvenli hale getirmeye zorlamak için bağlayıcı ve etkili tedbirler alınmalı" çağrısında bulundu.
Daha fazla bilgi ve röportaj talepleri için: esra.acikgoz@amnesty.org.tr
Bağlantıyı takip ederek Uluslararası Af Örgütü Türkiye Basın WhatsApp grubuna katılabilirsiniz:
https://chat.whatsapp.com/IGXsd1inPviL5cJl5Ey0p2?mode=ems_share_c