Python: RAGnarok! Criando um FAQ usando LLMs open-source

Esta oficina prática é voltada para desenvolvedores e cientistas de dados que desejam explorar o uso de modelos de linguagem natural open source para criar sistemas de FAQ inteligentes. A abordagem principal será a implementação de Retrieval-Augmented Generation (RAG), uma técnica que combina a recuperação de informações relevantes com a geração de respostas utilizando LLMs.

Os participantes irão aprender a configurar um ambiente Python para RAG, utilizando o ChromaDB para armazenar e consultar embeddings. Serão utilizados modelos disponíveis no Hugging Face Hub, com integração via Ollama para garantir a eficiência na geração de embeddings e interação de chat. Além disso, a oficina abordará a integração do sistema com o Telegram, criando um bot capaz de responder a perguntas frequentes de maneira eficiente e personalizada.

Ao final, os participantes terão desenvolvido um protótipo funcional de um sistema de FAQ, pronto para ser adaptado e expandido para outras aplicações.

Nesta oficina, iremos nos aprofundar na construção de um sistema de FAQ (Frequently Asked Questions) inteligente, utilizando a técnica de Retrieval-Augmented Generation (RAG) com modelos de linguagem natural de código aberto. O objetivo é capacitar os participantes a criar um sistema que não apenas recupere informações relevantes de uma base de conhecimento, mas que também seja capaz de gerar respostas naturais e contextualmente apropriadas, simulando uma conversa real.

A motivação é desmistificar o uso de RAGs e mostrar como utilizar o poder das LLMs sem precisar gastar fortunas com cloud :D