OpenAI, öğrencilerin ChatGPT kullanarak yazdıkları ödevleri tespit edebilecek bir araç geliştiriyor, ancak bu aracın piyasaya sürülüp sürülmeyeceği konusunda kararsız.
OpenAI, metin işaretleme yönteminin teknik olarak umut verici olduğunu, ancak “kötü niyetli aktörler tarafından aşılma olasılığı ve ana dili İngilizce olmayan gruplar üzerinde orantısız bir etki yaratma potansiyeli” gibi önemli risklerin değerlendirilmesi gerektiğini belirtti.
Önceki Girişimler ve Zorluklar
Bu yöntem, AI tarafından üretilen metni tespit etme konusunda önceki girişimlerden farklı bir yaklaşım sunuyor. Önceki tespit araçları büyük ölçüde etkisiz kalmış ve OpenAI, geçen yıl düşük doğruluk oranı nedeniyle kendi AI metin dedektörünü kapatmıştı.
Görünmez İşaretleme ile Metin Takibi
Metin işaretleme yöntemi, ChatGPT tarafından yazılan metinleri tespit etmeye odaklanacak ve diğer şirketlerin modellerinden üretilen yazıları kapsamayacak. Bu yöntem, ChatGPT’nin kelimeleri seçme şeklinde küçük değişiklikler yaparak, yazıda daha sonra ayrı bir araçla tespit edilebilecek görünmez bir işaret bırakmayı amaçlıyor.
Güncellenen Araştırma ve Potansiyel Zorluklar
OpenAI, AI tarafından oluşturulan içeriği tespit etme konusundaki araştırmaları hakkında yayımladığı blog yazısında, metin işaretlemenin “yüksek doğruluk sağladığını ve yerel düzeydeki değişikliklere karşı bile etkili olduğunu” ancak “çevrimiçi çeviri sistemleri kullanma, başka bir jeneratif modelle yeniden yazma veya modelden her kelimenin arasına özel bir karakter ekleyip ardından bu karakteri silme gibi küresel düzeydeki manipülasyonlara karşı daha az dayanıklı olduğunu” belirtti.
Sonuç olarak, OpenAI bu yöntemin “kötü niyetli aktörler tarafından aşılmasının kolay” olduğunu yazdı. Ayrıca, metin işaretlemenin, ana dili İngilizce olmayan konuşmacılar için AI’yı yararlı bir yazma aracı olarak kullanmanın damgalanmasına neden olabileceği ifade edildi.
