Sistema Integral de Creación de Chatbots
Proyecto Académico
Este proyecto fue desarrollado como parte de un trabajo de título en la Universidad Tecnológica Metropolitana (UTEM). Fue realizado por Cristobal Ramirez y Victor Toro, bajo la guía experta del Dr. Oscar Magna. Representa un avance significativo en la investigación aplicada de inteligencia artificial, enfocándose en soluciones prácticas y efectivas para la creación de chatbots personalizados.
El trabajo incluyó un análisis detallado de tecnologías modernas y la implementación de soluciones innovadoras, convirtiéndose en un valioso aporte tanto para el ámbito académico como para el sector industrial.
Introducción
Este sistema fue desarrollado con un enfoque híbrido que combina modelos de lenguaje grandes (LLM) con sistemas de generación aumentada por recuperación (RAG) y técnicas avanzadas de ChatScript. Utilizando el stack de desarrollo especificado por Alloxentric, que incluye Vue.js, FastAPI, MongoDB y Weaviate, se diseñó un sistema integral que facilita la creación de bots altamente personalizados. Este sistema es capaz de adaptarse a múltiples entornos y satisfacer las demandas específicas de Alloxentric, optimizando la interacción entre usuarios y tecnología mediante respuestas precisas y contextualmente relevantes.
Servicio de LLM
El sistema LLM se implementó utilizando GroqCloud, una solución avanzada para inferencia que ofrece modelos preentrenados listos para su uso. Estos modelos fueron integrados cuidadosamente para garantizar una experiencia fluida y respuestas de alta calidad. Además, se adaptaron plantillas de bots en ChatScript previamente desarrolladas por el equipo de Alloxentric. Estas modificaciones permiten ajustar cada bot al contexto específico y a las necesidades únicas del usuario final, manteniendo una configuración flexible pero estandarizada.
Sistema RAG
Para poblar el sistema RAG, se emplearon archivos de ChatScript proporcionados por Alloxentric. Estos pasaron por un meticuloso proceso de ETL (Extract, Transform, Load), en el cual los datos fueron enriquecidos con metadatos que facilitan su recuperación y análisis. Esto asegura que el sistema no solo recupere los archivos relevantes, sino que también proporcione un contexto adicional que enriquece la interpretación de la información.
Este enfoque innovador permite responder de manera eficiente a consultas relacionadas con los archivos seleccionados, preservando la estructura original y garantizando la seguridad de los datos sensibles. El uso de bases de datos vectoriales, como Weaviate, optimiza aún más la recuperación de información en el sistema.
Tecnologías Utilizadas
Frontend
Desarrollado con Vue.js y Vuetify para crear interfaces modernas, intuitivas y altamente responsivas.
Backend
Construido sobre FastAPI, una herramienta robusta que permite manejar APIs de manera eficiente, con soporte para procesamiento en tiempo real.
Base de Datos
MongoDB para el almacenamiento escalable de datos y Weaviate para la gestión eficiente de datos vectoriales relacionados con la recuperación de información.
Procesamiento
Integración con GroqCloud y modelos avanzados de LLM que garantizan respuestas contextuales y relevantes.
Demo del Sistema
En esta demo, se está creando un bot para un canal web con interacción inicial automática (Onbound), configurado en inglés. El prompt utilizado describe un bot diseñado para promocionar el nuevo juego de Valve, Deadlock, que actualmente se encuentra en beta cerrada a través de Steam. El bot debe ser capaz de:
- Proporcionar información sobre el Discord del juego.
- Mostrar estadísticas de los jugadores.
- Indicar cómo obtener acceso a la beta cerrada.
Todo esto se realiza utilizando el modelo Llama 3.3 70B-Versatile, proporcionado por GroqCloud API.