OpenAI, Çin bağlantılı hesapların ChatGPT’yi Uygurları izleme ve sosyal medya takibi projelerinde kullanmaya çalıştığını tespit ettiğini ve erişimlerini engellediğini duyurdu.

OpenAI, Çin hükümeti ajanları tarafından Uygurlar ve diğer “yüksek riskli” kişilerin seyahat hareketlerini izleyen bir araç için chatbotunun kullanıldığını bildirdi. Şirket raporunda, Çin’in sosyal medya hesaplarını “aşırıcı söylemler” için taramak amacıyla ChatGPT’yi kullandığını belirtti.

OpenAI, Çin bağlantılı bazı hesapların ChatGPT’yi sosyal medya takibi için kullandığını tespit ettiğini ve bu hesapları askıya aldığını açıkladı. Şirket, bu hesapların ChatGPT’ye VPN üzerinden eriştiğini ve devlet destekli müşteri adına çalıştıklarını belirtti. Engellenen hesapların, sosyal medya dinleme aracı geliştirme sürecinde yapay zekâ modellerinden faydalandığı iddia edildi.

OpenAI’nin paylaştığı bilgilere göre askıya alınan hesaplar, ChatGPT’yi kullanarak sosyal medya platformlarını izlemeye yönelik bir gözlem aracı tasarlıyordu. Bu aracın, X, Facebook, Instagram, Reddit, TikTok ve YouTube gibi platformlarda paylaşılan içerikleri analiz ederek, etnik köken, din veya politika temelli gönderileri tespit etmek için kullanıldığı öne sürüldü.

OpenAI, bu araçların doğrudan sosyal medya izleme amacıyla kendi modellerini kullanmadığını vurguladı. Şirket, söz konusu hesapların gerçekten Çin hükümetiyle bağlantılı olup olmadığını bağımsız olarak doğrulayamadığını da ekledi.

OpenAI ayrıca “Yüksek Riskli Uygur İlişkili Giriş Uyarı Modeli” adlı bir proje taslağı hazırlayan bir hesabı da engelledi. Bu sistemin, Uygur halkının hareketlerini izlemeyi, polis kayıtlarıyla eşleştirmeyi ve seyahat faaliyetleriyle ilgili erken uyarılar oluşturmayı hedeflediği belirtildi. Son yıllarda birçok insan hakları örgütü Çin hükümetini Uygur Müslümanlarının temel haklarını ihlal etmekle suçlamıştı. Bu nedenle projenin içeriği uluslararası kamuoyunda tepkilere neden oldu.

KÖTÜ AMAÇLI YAZILIM GELİŞTİRMEK İSTİYOR
OpenAI’nin yayımladığı tehdit raporunda, Çin, Rusya ve Korece konuşan grupların ChatGPT’yi kötü amaçlı yazılım geliştirmek için kullanmaya çalıştığı da yer aldı. Rapora göre bu gruplar, uzaktan erişim truva atları, kimlik bilgisi hırsızları ve tespit sistemlerinden kaçmayı amaçlayan araçlar geliştirme girişiminde bulundu.

OpenAI, Kamboçya, Myanmar ve Nijerya merkezli dolandırıcılık ağlarını da engellediğini açıkladı. Şirket, modellerinin kötü niyetli taleplere yanıt vermediğini ve yeni saldırı yöntemleri geliştirilmesine katkı sağlamadığını ifade etti.

OpenAI, Şubat 2024’ten bu yana yayımladığı tehdit raporlarının ardından 40’tan fazla kötü amaçlı ağı devre dışı bıraktığını bildirdi. Şirket, bu ağların tamamının şirket politikalarını ihlal ettiğini ve kullanıcı güvenliğini riske attığını belirtti. OpenAI, benzer girişimleri tespit etmek için küresel güvenlik ekipleriyle iş birliği yürüttüğünü, bu sürecin düzenli olarak sürdüğünü duyurdu.

‘Çin’in Washington DC Büyükelçiliği sözcüsü Liu Pengyu, OpenAI raporunun “temelsiz” olduğunu söyledi. CNN’e verdiği demeçte, “Çin’e yönelik temelsiz saldırılara ve iftiralara karşı çıkıyoruz” dedi.

“Çin, kendine özgü ulusal özelliklere sahip bir yapay zeka yönetim sistemini hızla kuruyor. Bu yaklaşım, inovasyon, güvenlik ve kapsayıcılığı öne çıkararak, gelişme ve güvenlik arasında bir denge kurmayı vurguluyor. Hükümet, algoritmik hizmetler, üretken yapay zeka ve veri güvenliği ile ilgili önemli politika planları ve etik kurallar ile yasa ve yönetmelikler getirmiştir” diye ekledi.