আসসালামু আলাইকুম। আশা করি সবাই ভালো আছেন। আমিও ভালো আছি।
আপনি যখন কোনো অনলাইন এ আই কে আপনার ব্যক্তিগত PDF, অফিসের ডকুমেন্ট, ব্যক্তিগত নোট বা অন্য কোনো গুরুত্বপূর্ণ ফাইল দেন, তখন সেই ডেটা আপনার নিজের কম্পিউটারের বাইরে চলে যায়। কোন সার্ভিস কীভাবে আপনার ডেটা সংরক্ষণ বা ব্যবহার করে, সেটা তাদের Privacy Policy ও Settings-এর ওপর নির্ভর করে। আরেকটা সমস্যা হলো ইন্টারনেটের উপর নির্ভরতা। ইন্টারনেট নেই, সার্ভিসে সমস্যা হচ্ছে, কিংবা আপনার Free Plan-এর limit শেষ- তখন AI ব্যবহার করাও কঠিন হয়ে পড়ে। তবে সমাধান আছে।
বর্তমানে এমন অনেক AI Model আছে যেগুলো নিজের কম্পিউটারেই চালানো যায়। অর্থাৎ সবকিছুর জন্য Internet বা কোনো Online AI Service-এর ওপর নির্ভর করতে হবে না। চিন্তা করে দেখেন, আপনার একটা Pendrive আছে। সেখানে প্রয়োজনীয় AI Model, Software এবং আপনার নিজের Documents রাখা আছে।
কম্পিউটারে Pendrive লাগালেন → AI চালু করলেন → প্রশ্ন করলেন।
ব্যস! আপনার নিজের Personal AI Assistant।
এই পোস্টে আমরা আলোচনা করবো কিভাবে আপনি অফলাইনেই আপনার পেনড্রাইভের মাধ্যমে এ আই ব্যবহার করতে পারবেন। মানে আপনার পেনড্রাইভ-ই হয়ে উঠবে আপনার পারসোনাল এ আই! তো চলুন, কথা না বাড়িয়ে শুরু করা যাক।
এর জন্য আপনার দরকার পড়বে ন্যূনতম ৪ জিবি সাইজের একটা পেন্ড্রাইভ। আর এটা শুধু উইন্ডোজ অপারেটিং সিস্টেমের জন্য প্রযোজ্য। যদি পেনড্রাইভের স্টোরেজ আরো বেশি আর আপনার পিসির জিপিইউ, প্রোসেসর আরো উন্নত হয় তাহলে আরো এফিশিয়েন্ট মডেল ইউস করতে পারবেন। আমি এখানে সবচেয়ে লাইটওয়েট ভার্শন টা ইনস্টল করে দেখাবো, যা প্রায় সবার পিসিতেই চলবে।
Step 1
প্রথমে আপনার পেনড্রাইভ পিসিতে ইনপুট দিয়ে নিন। এরপর পেন্ড্রাইভ টা ফরম্যাট করুন। ফরম্যাট করার সময় আপনার পেনড্রাইভের File System অবশ্যই exFAT সিলেক্ট করে নিবেন।
Step 2
এই লিংকে ক্লিক করে পেন্ড্রাইভের মধ্যে ফাইল টা ডাউনলোড করে নিনঃ Download File অথবা চাইলে ডাউনলোড করার পরে পেন্ড্রাইভে ফাইল টা কপি করে নিতে পারেন।
Step 3
ডাউনলোড হওয়ার পরে ফাইল টা রিনেম করে নিন।
জাস্ট ফাইল নামের পরে .exe দিয়ে এপ্লিকেশন ফাইল বানিয়ে নিন।
Step 4
এবার আবার ব্রাউজারে ব্যাক করে নিচের লিংকে চলে যানঃ Click Here
এখান থেকে মার্ক করা 2.79 GB সাইজের qwen2.5-coder-3b-instruct-q6_k.gguf Personal AI মডেল/ফাইল টা পেনড্রাইভে ডাউনলোড করে নিন। অথবা চাইলে ডাউনলোড করার পর পেনড্রাইভে কপি করে নিতে পারেন।
Step 5
এবার পেনড্রাইভে গিয়ে নোটপ্যাড ওপেন করুন।
এরপর নিচের মতো করে একটা ফাইল তৈরি হবে।
এটা ওপেন করুন। এরপর নোটপ্যাডে লিখুনঃ
.\llamafile-0.10.5.exe --server --model qwen2.5-coder-3b-instruct-q6_k.gguf
হুবহু এটা লিখে File থেকে Save As এ গিয়ে ফাইল টা All Files দিয়ে start.bat লিখে সেইভ করুন।
Step 6
আপনার পেনড্রাইভে মোটামুটি নিচের মতো একটা ইন্টারফেস হবেঃ
আপনি চাইলে এই ফাইল গুলো অন্য কোনো ফোল্ডারেও সেইভ করে রাখতে পারেন। এবার start ফাইলে টা ওপেন করুন।
Step 7
এবার cmd তে দেখবেন যে llama server টি এসে পড়েছে। এবার ব্রাউজারে গিয়ে উপরে লাল মার্ক করা এড্রেস টি কপি করে পেস্ট করে দিন। অথবা ctrl চেপে cmd এর ওই এড্রেসে ক্লিক করলে অটো ব্রাউজারে চালু হয়ে যাবে।
Final
ব্রাউজারে দেখুন আপনার Personal AI সার্ভার রেডি। 🔥 চলুন কিছু একটা কমান্ড দিয়ে দেখি।
দেখুন আমি অফলাইনে তাও কত সুন্দর এবং ফাস্ট ভাবে আমার পারসোনাল এ আই কোড লিখে দিলো! এভাবে চাইলে আপনি আপনার এ আই ব্যবহার করতে পারবেন। মনে রাখবেন, টারমিনাল/cmd অফ করলে আর এ আই আর কাজ করবেনা। টারমিনাল সবসময় ওপেন রাখবেন।
এছাড়া আপনি চাইলে settings এ গিয়ে আপনার এ আই কে আরো পার্সোনালাইজ করে নিতে পারবেন।
অন্য AI মডেল ব্যবহার করতে চাইলে
যদি আরো উন্নত অফলাইন মডেল এর দরকার হয়, তাহলে চাইলেই এই লিংকে গিয়ে মডেল ডাউনলোড করে নিতে পারবেন। তবে সেক্ষেত্রে আপনার start.bat ফাইল টা নোটপ্যাডে ওপেন করে সামান্য পরিবর্তন করে নিতে হবে। start.bat ফাইল টা নোটপ্যাডে ওপেন করে নিন। এরপরঃ
এখানে এই ফাইলের নামের জায়গায় আপনার ডাউনলোড করা .gguf ফাইল এর নাম হুবহু কপি পেস্ট করে দিন। এরপর সেইভ করে নিন। এরপর আপনি সেইম প্রোসেসে start.bat ফাইল ওপেন করে রান করতে পারবেন। তো আজকে এই পর্যন্তই। সবাই ভালো থাকবেন, সুস্থ থাকবেন। আল্লাহ হাফেজ।