Ollama: নিজের কম্পিউটারে AI মডেল চালানোর সেটআপ গাইড (বাংলায়)
ডাটা বাইরে যায় না, API বিলও নেই। Ollama দিয়ে ওপেন-সোর্স AI মডেল চালান নিজের কম্পিউটারে, আর n8n থেকেও ব্যবহার করুন।
ChatGPT বা Claude-এ যা লেখেন, তা যায় অন্য কোম্পানির সার্ভারে। ক্লায়েন্টের গোপন ডাটা, হিসাবের ফাইল বা নিজের নোট নিয়ে কাজ করলে সেটা অনেক সময় চলে না। Ollama দিয়ে ওপেন-সোর্স AI মডেল আপনার নিজের কম্পিউটারে চলে: ডাটা বাইরে যায় না, API খরচও নেই।
সত্যি কথাটা আগে
লোকাল মডেল ChatGPT-র সবচেয়ে ভালো মডেলের মতো চালাক না, আর কম্পিউটার যত দুর্বল, উত্তর তত ধীর। সারাংশ করা, ইমেইলের খসড়া, প্রোডাক্টের ক্যাটাগরি ঠিক করা, ছোট প্রশ্নোত্তর, এমন কাজে ভালো চলে।
ধাপ ১: ইনস্টল করুন
Windows-এ PowerShell খুলে:
irm https://ollama.com/install.ps1 | iex
macOS বা Linux-এ:
curl -fsSL https://ollama.com/install.sh | sh
চাইলে ollama.com/download থেকে সাধারণ ইনস্টলারও নামাতে পারেন।
ধাপ ২: প্রথম মডেল চালান
ollama run gemma4
প্রথমবার মডেলটা ডাউনলোড হবে, তারপর টার্মিনালেই চ্যাট শুরু। বের হতে লিখুন /bye।
অন্য মডেল কোথায় পাবেন
ollama.com/library-তে সব মডেলের তালিকা আছে, প্রতিটার পাশে সাইজ লেখা। ল্যাপটপে ছোট মডেল দিয়ে শুরু করুন। বড় মডেল নামালেই ভালো উত্তর আসবে, এমন না। আগে দেখুন আপনার মেশিন সেটা টানতে পারছে কিনা।
n8n বা নিজের অ্যাপ থেকে ব্যবহার
Ollama চালু থাকলে একটা লোকাল API পাওয়া যায়: http://localhost:11434
curl http://localhost:11434/api/chat -d '{"model": "gemma4", "messages": [{"role": "user", "content": "এক লাইনে বলো n8n কী"}], "stream": false}'
n8n-এ Ollama Chat Model নোড আছে। Base URL হিসেবে এই ঠিকানাটা দিলেই AI Agent নোড আপনার লোকাল মডেল দিয়ে চলবে। n8n Docker-এ চললে localhost-এর জায়গায় দিতে হয় http://host.docker.internal:11434।
কোথায় সবচেয়ে কাজে লাগে
- ক্লায়েন্টের এমন ডাটা নিয়ে কাজ, যা বাইরে পাঠানো যাবে না
- হাজারটা ছোট কাজ, যেখানে API বিল বাড়তে থাকে, যেমন এক হাজার প্রোডাক্টের বর্ণনা ক্যাটাগরি করা
- ইন্টারনেট দুর্বল থাকলেও কাজ চলে
পরের ধাপ: টার্মিনালের বদলে ChatGPT-র মতো চ্যাট পেজ চাইলে আমাদের Open WebUI গাইডটা দেখুন।
সোর্স আর পুরো ডকুমেন্টেশন: github.com/ollama/ollama
আমরা চালু করে দিতে পারি ১৪ দিনে.
ফ্রি ৩০ মিনিটের কল বুক করুন, আপনার ব্যবসার জন্য কী করা যায় দেখিয়ে দেব।