OpenAI, yapay zeka (AI) destekli bir gözetleme aracı geliştirdiğinden şüphelenilen ChatGPT aracını kullanan bir dizi hesabı yasakladığını açıkladı.
İhlal Tespit Edilen ChatGPT Hesapları Kapatıldı
Sosyal medya dinleme aracının muhtemelen Çin'den geldiği ve Meta'nın Llama modellerinden biri tarafından desteklendiği söyleniyor. Söz konusu hesaplar, yapay zeka şirketinin modellerini kullanarak ayrıntılı açıklamalar üretiyor ve Batı'daki Çin karşıtı protestolar hakkında gerçek zamanlı veri ve raporlar toplayıp bunları Çinli yetkililerle paylaşabilen bir araç için belgeleri analiz ediyor.
Araştırmacılar "ağların gözetim araçlarını tanıtma ve inceleme konusundaki davranışları" nedeniyle Peer Review (Akran Değerlendirmesi) kod adını aldığını belirterek, aracın X, Facebook, YouTube, Instagram, Telegram ve Reddit gibi platformlardaki gönderileri ve yorumları toplayıp analiz etmek üzere tasarlandığını söyledi.
ChatGPT üzerinde geliştirilmeye çalışılan bu modelin, ABD, Avustralya, Kamboçya ve ABD gibi ülkelerdeki hükümet yetkilileri ve politikacılar hakkında kamuya açık bilgileri ortaya çıkarmak için bir araştırma aracı olarak kullanmasının yanı sıra, ChatGPT erişimini İngilizce belgelerin ekran görüntülerini okumak, çevirmek ve analiz etmek için de kullandığı tespit edildi.
 |
Dolandırıcılık, siber saldırı, bölgesel savaş ve ilişkilerde gerilimi tetikleyecek bot paylaşımlar, date uygulamaları için tuzaklar, aldatıcı sponsor reklamlar gibi aklınıza gelebilecek her türden hileyi içeren bu modül, neyse ki OpenAI şirketi tarafından çok geç olmadan fark edildi.
Bu gelişme, yapay zeka araçlarının kötü niyetli kişiler tarafından siber destekli dezenformasyon kampanyalarını ve diğer kötü amaçlı operasyonları kolaylaştırmak için giderek daha fazla kullanılmasıyla birlikte ortaya çıkıyor.
Sonuç olarak da şirket, binlerce yasaklı ChatGPT hesabını yasaklayarak sorunun önüne geçti.
