- Depuis: Août 2023
- Jusqu'à: maintenant
- Visitez le site Web
VueAI.tools est un projet que j'ai construit pour le fun. C'est un outil d'assistant AI spécifiquement conçu pour VueJS. Le site web propose un chatbot AI classique une implémentation RAG personnalisée avec LlamaIndex. Il comprend également un générateur de composants en pseudo-code JSON pour améliorer la fiabilité de l'assistant :
Le site web combine de nombreux outils et connaissances que j'ai acquis au fil des ans dans une application hébergée sur une instance VPS unique. L'application est codée en TypeScript et fonctionne avec Nuxt via Docker. Elle comprend un modèle d'IA RAG personnalisé, une base de données, l'authentification, des déploiements automatisés, des self-hosted analytics...
Toutes les fonctionnalités sont self-hosted sauf pour le paiement, le fournisseur d'email et l'API d'inférence IA :
- Modèle d'IA RAG (Retrieval Augmented Generation) construit avec LlamaIndex utilisant une base de données vectorielle Qdrant développée avec Python, que le modèle d'IA interroge afin de baser ses réponses sur un context plus précis.
- Authentification avec Lucia. Lucia est une bibliothèque de bas niveau qui abstrait la complexité de la gestion des sessions. L'authentification est entièrement gérée sur le VPS & la base de données locale.
- Base de données SQLite pour la portabilité et pour "garder les choses simples".
- ORM TypeScript avec Drizzle ORM. Drizzle nous permet de définir la structure de la base de données dans un schema et de pousser les modifications avec des migrations. Il comprend également son propre type-safe wrapper pour les requêtes SQL.
- Bibliothèque UI PrimeVue.
L'outil est servi dans des conteneurs Docker et déployé via GitHub Actions :
- Une action GitHub construit l'application Nuxt dans un conteneur exécutant Node.js.
- Le dossier construit est copié sur le VPS et nous redémarrons le conteneur Node de l'application.
- Le service est ensuite servi par un reverse-proxy Caddy également exécuté dans Docker.
- Un environnement de staging fonctionne de la même manière lorsque nous poussons sur la branche "stage".
- Le VPS exécute également Umami pour les self-hosted analytics (alternative respectueuse de la vie privée à Google Analytics).
En ce qui concerne les seules fonctionnalités qui ne sont pas self-hosted :
- L'inférence IA est exécutée par l'API DeepSeek afin de réduire les coûts. Avec suffisamment de trafic, j'aimerais passer à une solution "self-hosted" mais la location de GPU suffisamment puissants est trop coûteuse pour le moment.
- Le paiement est fourni par Lemon Squeezy, une alternative à Stripe qui gère également les déclarations fiscales. La page de paiement est servie via une fenêtre popup sur la page. Les abonnements sont enregistrés dans la base de données via un webhook.
- Les emails sont envoyés via SendGrid.