Ik wil een chatbot bouwen die antwoorden geeft op onze eigen handleidingen en supportartikelen. Twijfel tussen een kant-en-klare oplossing en zelf bouwen met embeddings in een vectordatabase. Wie draait dit al in productie en hoe houden jullie de antwoorden betrouwbaar zonder dat het ding gaat hallucineren? Kosten per gesprek zijn voor mij ook belangrijk.
2 reactieslive
- D
Wij draaien pgvector in Supabase met een eigen retrieval-laag. Belangrijkste les: investeer in goede chunking en bronvermelding, dan zakt het hallucineren enorm.
- W
Voor een MVP koppel ik het vaak in n8n met een retrieval-node, dan kun je snel testen voordat je zelf gaat bouwen.