LLM geliştiricileri anlamsal aşınma ve sıkıştırılmış niyet sorununu nasıl ele alıyor?

İnsanlar büyük dil modellerinden (LLM) daha fazla akıl yürütme işi üstlenmelerini istedikçe, tekrarlanan yorumlama ve özetleme kültürel ve durumsal bağlamı silebiliyor. TechRadar yazarı Stefan Ionescu, anlamın bu kademeli kaybını “anlamsal aşınma” olarak tanımlıyor. Ortaya çıkan metin açık ve tutarlı kalabilir, ancak artık ilk niyeti yansıtmayabilir; makale bunu, modelin yanlış bilgiler uydurduğu halüsinasyondan ayırıyor.

Örneklerden biri, bazı kültürlerde yemekle ilgili gerçek bir soru yerine nazik bir selamlama olarak kullanılabilen “Yemek yedin mi?” ifadesi. Bir diğer örnekte, bir ajan finansal tablodaki “net kâr”ı “faaliyet kârı” ile karıştırıyor. Bu yorum birkaç ajandan geçerse sonraki analizler de hatayı sürdürebilir.

Ionescu, analitik optimizasyon ile kullanıcının anlamını koruma arasındaki gerilimi “niyet sıkıştırma paradoksu” olarak adlandırıyor. Geliştiriciler belirteç maliyetlerini düşürmek için istemleri sık sık kısaltıyor, ancak aşırı sıkıştırma güvenilmez yanıt riskini artırabiliyor. Makaleye göre modeller bunu telafi etmek için daha uzun ve daha dolaylı yanıtlar verebiliyor.

Makalenin aktardığı yaklaşımlar arasında hakemli dergiler, uzman tartışmaları ve kapsamlı makaleler gibi seçilmiş materyallerle ince ayar yapmak; kriptografik veya istatistiksel filigranlar eklemek (Google'ın SynthID sistemi örnek veriliyor) ve yalnızca 2023 öncesi verileri içeren eğitim hatları kurmak bulunuyor. Makale bunları bağlamı koruma ve yapay zekâ tarafından üretilmiş eğitim verilerine bağımlılığı sınırlama stratejileri olarak sunuyor.