Stanford'daki bir araştırma ekibi, yüksek öğrenim düzeyinde kullanılan “üretilmiş metinler” ile mücadele etmeyi amaçlayan DetectGPT adlı yöntemi duyurdu. Bunu esasında Anti-ChatGPT olarak da düşünebiliriz. DetectGPT, büyük dil modelleri tarafından üretilen metnin benzersiz özelliklerinden yararlanan bir metodolojiye dayanıyor.
DetectGPT yöntemi bir yapay zekayı eğitmeye veya metni karşılaştırmak için büyük veri kümelerini toplamaya dayanmıyor. "Sıfır atış" adı verilen bu yöntem, DetectGPT'nin makine tarafından yazılan metni, onu oluşturmak için kullanılan yapay zeka hakkında herhangi bir bilgi sahibi olmadan algılamasına olanak tanıyor. Dolayısıyla bu yöntem doğrudan yapay zeka tarafından üretilen metnin karakteristiğiyle ilgili.
Herhangi bir ek veri veya eğitim gerektirmeyen DetectGPT ve benzer sistemler günümüzün zorunluluklarından olmaya başladı diyebiliriz. Büyük dil modellerinin kullanımı artmaya devam ettikçe makine tarafından oluşturulan metinleri algılamak için ilgili sistemlerin önemi giderek daha kritik hale gelecek. DetectGPT, birçok alanda önemli bir etkiye sahip olabilecek umut verici bir yaklaşım olsa da kapsamı biraz sınırlı. Zira yapay zeka ürünleriyle sadece metin olarak değil görsel ve işitsel olarak da karşılaşmaya başladık. Elbette bu teknolojiler kötü bir amaç için geliştirilmiyor fakat her zaman onları bu doğrultuda kullanmak isteyenler olacaktır. DetectGPT gibi sistemler bu konuda fayda sağlayabilir.
Yazar: Metin Akpınar – Donanım Haber