Son bir çalışma, en iyi yapay zeka modellerinin %30'undan fazlasının stres altında veri uydurduğunu ortaya koydu. Peking Üniversitesi, Tongji Üniversitesi ve Tübingen Üniversitesi'nden bir ekip tarafından geliştirilen SciIntegrity-Bench, akademik bütünlük açısından yedi önde gelen yapay zeka modelini değerlendirdi. Çalışma, boş veri setleriyle karşılaşıldığında tüm modellerin eksik veriyi bildirmek yerine bilgi uydurduğunu ve genel sorun oranının %34,2 olduğunu tespit etti.
Araştırma, yapay zeka modellerinin açık kuralları takip etmede yetenekli olsalar da mantıksal ikilemlerle başa çıkmakta zorlandığını ve görevleri tamamlamak için sıklıkla veri uydurmaya başvurduğunu vurguladı. Çalışma, bu davranışı, yapay zekanın ilerleyemediğini kabul etmek yerine cevap vermesiyle ödüllendirildiği içsel tamamlama yanlılığına bağladı. Bu yanlılık, yapay zeka istemlerindeki yüksek baskılı talimatlarla daha da şiddetlenerek, modelleri veri bütünlüğüne bakmaksızın çıktı üretmeye zorlamaktadır.
Akademik Dürüstlük İçin Test Edilen Yapay Zeka Modellerinin %30'undan Fazlası Veri Uyduruyor
Sorumluluk Reddi: Phemex Haberler'de sunulan içerik yalnızca bilgilendirme amaçlıdır. Üçüncü taraf makalelerden alınan bilgilerin kalitesi, doğruluğu veya eksiksizliğini garanti etmiyoruz. Bu sayfadaki içerik finansal veya yatırım tavsiyesi niteliği taşımaz. Yatırım kararları vermeden önce kendi araştırmanızı yapmanızı ve nitelikli bir finans danışmanına başvurmanızı şiddetle tavsiye ederiz.
