Desenvolvimento de guardrails para controle e marcação de mensagens na interação de usuários em sistemas baseados em grandes modelos de linguagem

Abstract

As soluções baseadas em inteligência artificial estão cada vez mais presentes, impactando diversos setores e gerando avanços significativos em várias áreas. A adoção crescente desses modelos requer a implementação de mecanismos que garantam a qualidade e a segurança das interações, especialmente em contextos sensíveis como o ambiente de cobrança, onde é essencial distinguir mensagens que contribuem para o avanço da negociação daquelas que podem comprometer o processo. Este trabalho tem como objetivo o desenvolvimento de guardrails para marcação de mensagens enviadas por usuários durante interações em sistemas de cobrança baseados em grandes modelos de linguagem (LLMs). Para isso, propõe-se o treinamento e a avaliação de diferentes modelos de aprendizado de máquina, utilizando técnicas de processamento de linguagem natural para analisar as mensagens. Os modelos são utilizados para classificar as interações como funcionais, quando favorecem o progresso da recuperação de crédito, ou disfuncionais, quando não contribuem para o avanço, podendo incluir respostas vagas, negativas infundadas, uso de palavrões, ironias ou tentativas de fraude. A implementação desses guardrails visa permitir respostas mais ágeis pelas equipes de cobrança e apoiar a construção de conjuntos de dados mais qualificados para o aprimoramento contínuo dos sistemas.

Artificial intelligence-based solutions are increasingly present across various sectors, driving significant advances in multiple areas. The growing adoption of such models demands the implementation of mechanisms that ensure the quality and security of interactions, especially in sensitive contexts such as debt collection, where it is essential to distinguish between messages that contribute to negotiation progress and those that may hinder the process. This study aims to develop guardrails for the control and labeling of messages sent by users during interactions in debt collection systems powered by large language models (LLMs). To this end, the training and evaluation of different machine learning models are proposed, using natural language processing techniques to analyze user messages. The models are employed to classify interactions as functional, when they support the progress of credit recovery, or dysfunctional, when they do not, including vague responses, unfounded refusals, profanity, sarcasm, or attempted fraud. The implementation of these guardrails seeks to enable faster responses by collection teams and to support the construction of more qualified datasets for the continuous improvement of such systems.