Combining Persona and Argument in Dialogue

Abstract

The increasing popularity of personalized dialogue systems has gained momentum as people's desire for human-like interaction grows. This thesis aims to increase persona-consistent responses in personalized dialogue systems. A data augmentation method was used to enhance the persona consistency of dialogue systems. This technique utilized Large Language Models' few-shot learning capabilities to add counterfactual sentences to the dialogue. GPT 3.5 and Llama 2 models were used to generate counterfactual sentences using the few-shot prompting method. The augmentation method was applied to every dialogue in the PersonaChat dataset that did not originally contain a counterfactual sentence. Evaluation using the state-of-the-art personalized dialogue generation study showed that the persona-consistency results of the dataset augmented with the GPT 3.5 model showed better performance when assessed using metrics.İnsanların, insan benzeri konuşmalara ilgisinin artmasından dolayı son zamanlarda kişiselleştirilmiş diyalog sistemlerine olan ilgi artmaktadır. Bu sistemlerde kişilik bilgilerinin diyalog sistemlerine entegre olmasıyla beraber daha kişisel cevaplar sunulmaktadır. Bu tezde, kişiselleştirilmiş diyalog sistemlerindeki cevapların kişilik tutarlılığının artması amaçlanmıştır ve bu amaca yönelik veri büyütme yöntemi uygulanmıştır. İlgili yöntem ile karşı olgusal cümle içermeyen her diyaloğa karşı olgusal cümleler eklenmiş ve bu süreçte Büyük Dil Modellerinin (LLMs) az vuruşlu öğrenme yeteneklerinden yaralanılmıştır. Az vuruşlu öğrenme yöntemi ile karşı olgusal cümleler üretmek için GPT 3.5 ve Llama 2 modelleri seçilmiş olup, PersonaChat veri setinde karşı olgusal cümle içermeyen diyalogların her biri için veri artırma yöntemi uygulanmıştır. Metrikler ile yapılan değerlendirme sonucunda GPT 3.5 modeliyle zenginleştirilen veri setinin kişilik-tutarlılık sonuçlarının daha iyi olduğu gözlemlenmiştir.