Loading..

ব্লগ

রিসেট

২৩ আগস্ট, ২০২৬ ০৭:৩৬ অপরাহ্ণ

Ollama-তে RAG কীভাবে কাজ করে?
Ollama-এর নিজস্ব মডেলগুলো সাধারণত চ্যাট করা বা কোড লেখার কাজ করে। কিন্তু আপনি যখন Ollama-এর সাথে LangChain, LlamaIndex বা ChromaDB-এর মতো টুল যুক্ত করেন, তখন একটি পূর্ণাঙ্গ RAG সিস্টেম তৈরি হয়।
এই সিস্টেমে Ollama মূলত দুটি ভূমিকা পালন করে:
Embedding Model: আপনার আপলোড করা ফাইল বা ডকুমেন্টগুলোকে ছোট ছোট টুকরো করে কম্পিউটারের বোঝার উপযোগী সংখ্যায় (Vectors) রূপান্তর করতে Ollama-এর nomic-embed-text বা bge-reranker এর মতো মডেল ব্যবহার করা হয়। 
LLM (Generation): এরপর আপনার প্রশ্ন এবং ফাইলের প্রাসঙ্গিক অংশগুলো মিলিয়ে চূড়ান্ত এবং গোছানো উত্তর তৈরি করতে Llama 3 বা Qwen এর মতো মূল চ্যাট মডেলগুলো ব্যবহার করা হয়।
মন্তব্য করুন

ব্লগ