কখনো কি ChatGPT-কে কোনো প্রশ্ন করেছেন, আর সেটি আপনাকে অত্যন্ত আত্মবিশ্বাসের সঙ্গে একটি উত্তর দিয়েছে? কিন্তু পরে যাচাই করে দেখেছেন, উত্তরটির কোনো বাস্তব ভিত্তি নেই!

হয়তো AI আপনাকে একটি বইয়ের নাম বলেছে, যেটি বাস্তবে নেই। কোনো গবেষণাপত্রের রেফারেন্স দিয়েছে, অথচ সেই গবেষণাপত্র কখনো প্রকাশিতই হয়নি। এমনকি কোনো সফটওয়্যারের এমন একটি ফিচারের কথা বলেছে, যেটি ওই সফটওয়্যারে কখনো ছিল না।

সবচেয়ে অবাক করার বিষয় হলো, AI অনেক সময় ভুল তথ্য দেওয়ার সময়ও এমনভাবে উত্তর দেয়, যেন সে শতভাগ নিশ্চিত!

প্রযুক্তির ভাষায় এই ঘটনাকে বলা হয় AI Hallucination।

বর্তমানে ChatGPT, Gemini, Claude, DeepSeek-সহ বিভিন্ন Large Language Model (LLM)-এর ক্ষেত্রে এটি একটি গুরুত্বপূর্ণ সমস্যা। কিন্তু কেন এমন হয়? AI কি ইচ্ছা করে মিথ্যা বলে, নাকি এর পেছনে রয়েছে অন্য কোনো প্রযুক্তিগত কারণ?

চলুন, বিষয়টি সহজ ভাষায় বিস্তারিত বুঝে নেওয়া যাক।

১. AI Hallucination কী?

AI Hallucination হলো এমন একটি ঘটনা, যেখানে কৃত্রিম বুদ্ধিমত্তা এমন তথ্য, উত্তর বা ব্যাখ্যা তৈরি করে, যা শুনতে বিশ্বাসযোগ্য মনে হলেও বাস্তবে ভুল, ভিত্তিহীন, বানানো অথবা দেওয়া তথ্যের সঙ্গে অসংগতিপূর্ণ।

সহজ উদাহরণ:

ধরুন, আপনি AI-কে জিজ্ঞেস করলেন—

“বাংলাদেশের এমন একটি বিশ্ববিদ্যালয়ের নাম বলো, যেখানে ২০২৫ সালে AI Engineering বিষয়ে নতুন একটি বিভাগ চালু হয়েছে।”

যদি AI সঠিক তথ্য না জেনেও একটি বিশ্ববিদ্যালয়ের নাম, বিভাগের নাম, প্রতিষ্ঠার তারিখ এবং ওয়েবসাইটের ঠিকানা তৈরি করে দেয়, তাহলে সেটি Hallucination-এর উদাহরণ হতে পারে।

এমনকি AI কোনো ভুয়া তথ্যের সঙ্গে বাস্তব কিছু তথ্যও মিশিয়ে দিতে পারে। ফলে পুরো উত্তরটি যাচাই না করলে ভুলটি ধরতে কঠিন হয়।

গুরুত্বপূর্ণ: AI Hallucination মানে AI মানুষের মতো চোখে কিছু দেখা বা কল্পনা করা নয়। এটি মূলত AI-এর তৈরি ভুল বা ভিত্তিহীন তথ্যের একটি নাম।

২. AI কেন আত্মবিশ্বাসের সঙ্গে ভুল তথ্য দেয়?

এটাই সবচেয়ে গুরুত্বপূর্ণ প্রশ্ন।

এর উত্তর বুঝতে হলে প্রথমে জানতে হবে, ChatGPT-এর মতো AI কীভাবে উত্তর তৈরি করে।

১. AI মূলত পরবর্তী শব্দ অনুমান করে

বেশিরভাগ আধুনিক Large Language Model বিপুল পরিমাণ টেক্সট থেকে ভাষার ধরন, শব্দের সম্পর্ক এবং বিভিন্ন তথ্যের প্যাটার্ন শেখে।

এরপর কোনো প্রশ্ন পেলে এটি ধাপে ধাপে পরবর্তী সম্ভাব্য শব্দ বা Token তৈরি করে উত্তর সাজায়।

উদাহরণ:

আপনি লিখলেন, “বাংলাদেশের রাজধানী হলো—”

AI শেখা ভাষার প্যাটার্ন অনুযায়ী পরবর্তী শব্দ হিসেবে “ঢাকা” তৈরি করতে পারে।

কিন্তু কোনো অজানা প্রশ্নের ক্ষেত্রে সঠিক উত্তর সম্পর্কে পর্যাপ্ত তথ্য না থাকলেও এটি সম্ভাব্য শব্দের ধারাবাহিকতা তৈরি করতে পারে।

এখানেই ভুল তথ্য তৈরির সুযোগ তৈরি হয়।

অর্থাৎ, AI-এর ভাষাগত দক্ষতা থাকা মানেই প্রতিটি তথ্যের সত্যতা যাচাই করার ক্ষমতা থাকা নয়।

২. প্রশিক্ষণের তথ্য অসম্পূর্ণ বা ভুল হতে পারে

AI বিভিন্ন উৎসের বিপুল পরিমাণ তথ্য থেকে প্রশিক্ষণ নেয়। এসব তথ্যের মধ্যে থাকতে পারে—

  • সঠিক তথ্য।

  • ভুল তথ্য।

  • পুরোনো তথ্য।

  • পরস্পরবিরোধী তথ্য।

  • অসম্পূর্ণ ব্যাখ্যা।

  • অনুমাননির্ভর বক্তব্য।

AI সবসময় এসব তথ্যের সত্যতা মানুষের মতো বুঝতে পারে না।

ফলে প্রশিক্ষণের তথ্যের সীমাবদ্ধতা বা অসংগতির কারণে ভুল উত্তর তৈরি হতে পারে।

৩. AI অনেক সময় “আমি জানি না” বলতে পারে না

মানুষ কোনো প্রশ্নের উত্তর না জানলে বলতে পারে, “আমি জানি না।”

কিন্তু AI মডেলগুলোকে সাধারণত ব্যবহারকারীর প্রশ্নের উপযোগী উত্তর তৈরি করতে প্রশিক্ষণ দেওয়া হয়।

কিছু প্রশিক্ষণ ও মূল্যায়ন পদ্ধতিতে সঠিক উত্তর দেওয়ার ওপর বেশি গুরুত্ব দেওয়া হলে অনিশ্চিত অবস্থায় অনুমান করে উত্তর দেওয়ার প্রবণতা তৈরি হতে পারে।

OpenAI-এর ২০২৫ সালের একটি গবেষণায় ব্যাখ্যা করা হয়েছে, প্রচলিত মূল্যায়ন পদ্ধতিতে অনেক সময় অনুমান করে উত্তর দেওয়ার পুরস্কার থাকে, কিন্তু অনিশ্চয়তা প্রকাশের যথেষ্ট মূল্যায়ন হয় না। ফলে মডেলগুলো কখনো “জানি না” বলার পরিবর্তে সম্ভাব্য উত্তর তৈরি করে।

৪. প্রশ্ন অস্পষ্ট হলে AI ভুল বুঝতে পারে

আপনি যদি কোনো বিষয় সম্পর্কে অসম্পূর্ণ বা অস্পষ্ট প্রশ্ন করেন, তাহলে AI নিজের মতো করে প্রশ্নের অর্থ অনুমান করতে পারে।

যেমন:

“সবচেয়ে ভালো AI কোনটি?”

এখানে আপনি কী বোঝাতে চেয়েছেন?

  • ছবি তৈরির AI?

  • লেখালেখির AI?

  • প্রোগ্রামিংয়ের AI?

  • গবেষণার AI?

  • AI Agent?

  • নাকি সাধারণ কথোপকথনের AI?

প্রশ্নের উদ্দেশ্য পরিষ্কার না হলে উত্তরও আপনার প্রত্যাশার বাইরে চলে যেতে পারে।

৫. পুরোনো তথ্য ও বর্তমান বাস্তবতার পার্থক্য

AI-এর প্রশিক্ষণের তথ্য সবসময় সর্বশেষ সময় পর্যন্ত আপডেট থাকে না।

ধরুন, কোনো সফটওয়্যারের ২০২৪ সালের সংস্করণে একটি ফিচার ছিল না, কিন্তু ২০২৬ সালে নতুন আপডেটে সেটি যুক্ত হয়েছে।

অন্যদিকে, কোনো ফিচার আগে থাকলেও পরবর্তী সংস্করণে সেটি পরিবর্তন বা বন্ধ হয়ে যেতে পারে।

AI যদি পুরোনো তথ্যের ওপর নির্ভর করে উত্তর দেয়, তাহলে বর্তমান বাস্তবতার সঙ্গে তার পার্থক্য তৈরি হতে পারে।

৬. বাস্তব তথ্যের পরিবর্তে সম্ভাব্য তথ্য তৈরি করা

কখনো AI কোনো ব্যক্তি, প্রতিষ্ঠান, বই, গবেষণা বা ওয়েবসাইট সম্পর্কে পর্যাপ্ত তথ্য পায় না।

তখন পরিচিত নাম ও তথ্যের প্যাটার্ন মিলিয়ে এমন কিছু তৈরি করতে পারে, যা দেখতে বাস্তব মনে হয়।

উদাহরণ:

আপনি কোনো নির্দিষ্ট গবেষণাপত্রের লিংক চাইলেন। AI একটি সুন্দর শিরোনাম, লেখকের নাম, প্রকাশের সাল এবং Journal-এর নাম দিয়ে রেফারেন্স তৈরি করল।

কিন্তু লিংকটি খুলে দেখা গেল, গবেষণাপত্রটির কোনো অস্তিত্ব নেই।

এটিও AI Hallucination-এর একটি পরিচিত উদাহরণ।

৩. AI Hallucination-এর কয়েকটি বাস্তব উদাহরণ

AI Hallucination বিভিন্নভাবে প্রকাশ পেতে পারে।

উদাহরণ ১: ভুয়া ওয়েবসাইট

AI এমন একটি ওয়েবসাইটের ঠিকানা দিতে পারে, যেটি দেখতে বাস্তব মনে হলেও আসলে অস্তিত্বহীন।

উদাহরণ ২: বানানো গবেষণাপত্র

কোনো গবেষণার প্রমাণ চাইলে AI এমন গবেষণাপত্রের নাম ও লেখকের তথ্য দিতে পারে, যা বাস্তবে প্রকাশিত হয়নি।

উদাহরণ ৩: ভুল সফটওয়্যার ফিচার

কোনো অ্যাপের এমন একটি সেটিংস বা ফিচার সম্পর্কে নির্দেশনা দিতে পারে, যা ওই অ্যাপে নেই।

উদাহরণ ৪: ভুল ইতিহাস

কোনো ঐতিহাসিক ঘটনার সাল, ব্যক্তি বা ঘটনার বিবরণ ভুলভাবে উপস্থাপন করতে পারে।

উদাহরণ ৫: ভুল গণনা বা বিশ্লেষণ

জটিল গণিত, পরিসংখ্যান কিংবা যুক্তিভিত্তিক প্রশ্নে আত্মবিশ্বাসের সঙ্গে ভুল ফলাফল দিতে পারে।

উদাহরণ ৬: দেওয়া ডকুমেন্টের বাইরে তথ্য তৈরি

আপনি AI-কে একটি PDF দিলেন এবং সেখান থেকে সারসংক্ষেপ চাইলেন। কিন্তু AI কখনো কখনো ডকুমেন্টে নেই এমন তথ্যও নিজের মতো করে যুক্ত করতে পারে।

তাই শুধু সুন্দরভাবে উত্তর দেওয়া হয়েছে বলেই সেটিকে সত্য ধরে নেওয়া উচিত নয়।

৪. AI Hallucination কেন বিপজ্জনক?

সাধারণ কথোপকথনে AI-এর ভুল উত্তর খুব বড় সমস্যা নাও হতে পারে। কিন্তু গুরুত্বপূর্ণ ক্ষেত্রে এর প্রভাব মারাত্মক হতে পারে।

📚 শিক্ষাক্ষেত্রে

শিক্ষার্থীরা ভুল তথ্য দিয়ে অ্যাসাইনমেন্ট, গবেষণাপত্র বা প্রজেক্ট তৈরি করতে পারে।

🏥 চিকিৎসাক্ষেত্রে

AI-এর ভুল স্বাস্থ্যসংক্রান্ত তথ্য অনুসরণ করলে কেউ ভুল সিদ্ধান্ত নিতে পারে।

⚖️ আইনগত কাজে

ভুয়া আইন, ভুল ধারা বা অস্তিত্বহীন আদালতের রায়ের রেফারেন্স ব্যবহার করলে গুরুতর সমস্যা হতে পারে।

💼 ব্যবসায়

ভুল বাজার বিশ্লেষণ, বিক্রির তথ্য বা আর্থিক হিসাবের ওপর নির্ভর করে ব্যবসায়িক ক্ষতি হতে পারে।

💻 প্রযুক্তিগত কাজে

ভুল কোড, অস্তিত্বহীন লাইব্রেরি বা ভুল সফটওয়্যার নির্দেশনার কারণে সময় ও অর্থ নষ্ট হতে পারে।

এ কারণেই AI-এর উত্তর ব্যবহার করার আগে যাচাই করা অত্যন্ত গুরুত্বপূর্ণ।

৫. AI Hallucination থেকে বাঁচার ১০টি কার্যকর উপায়

AI-এর ভুল তথ্য সম্পূর্ণ বন্ধ করা এখনো সম্ভব হয়নি। তবে কিছু অভ্যাস অনুসরণ করলে ভুল তথ্যের ঝুঁকি অনেকটাই কমানো যায়।

১. গুরুত্বপূর্ণ তথ্যের উৎস চাইুন

AI-কে বলুন, তথ্যের সঙ্গে নির্ভরযোগ্য ওয়েবসাইট, গবেষণাপত্র বা সরকারি সূত্র দিতে।

২. লিংক নিজে খুলে যাচাই করুন

AI কোনো ওয়েবসাইট বা গবেষণাপত্রের লিংক দিলে সেটি বাস্তবে আছে কি না পরীক্ষা করুন।

৩. বর্তমান তথ্যের জন্য Web Search ব্যবহার করুন

সফটওয়্যার, অ্যাপ, মূল্য, আইন, চাকরি কিংবা সাম্প্রতিক ঘটনার ক্ষেত্রে বর্তমান তথ্য অনুসন্ধান করুন।

৪. একাধিক নির্ভরযোগ্য উৎসের সঙ্গে মিলিয়ে দেখুন

শুধু একটি AI-এর উত্তরের ওপর নির্ভর না করে সরকারি ওয়েবসাইট, প্রতিষ্ঠানের অফিসিয়াল ডকুমেন্টেশন এবং বিশ্বস্ত সংবাদমাধ্যমের সঙ্গে তুলনা করুন।

৫. অস্পষ্ট প্রশ্ন করবেন না

আপনার প্রশ্নে প্রয়োজনীয় প্রেক্ষাপট, সময়সীমা ও উদ্দেশ্য পরিষ্কারভাবে উল্লেখ করুন।

৬. AI-কে অনিশ্চয়তা প্রকাশ করতে বলুন

AI-কে নির্দেশ দিন, কোনো তথ্য নিশ্চিত না হলে যেন অনুমান করে উত্তর না দেয়।

৭. গুরুত্বপূর্ণ ডকুমেন্টের তথ্য যাচাই করুন

PDF, Word বা অন্য কোনো ফাইল থেকে তথ্য নিলে মূল ডকুমেন্টের সঙ্গে AI-এর উত্তর মিলিয়ে দেখুন।

৮. অপ্রয়োজনীয় আত্মবিশ্বাসকে সত্যের প্রমাণ মনে করবেন না

AI যত সুন্দরভাবে বা আত্মবিশ্বাসের সঙ্গে উত্তর দিক না কেন, সেটি সত্যতার নিশ্চয়তা নয়।

৯. গণনা ও পরিসংখ্যান যাচাই করুন

জটিল হিসাবের ক্ষেত্রে Calculator, Spreadsheet বা নির্ভরযোগ্য গণনার টুল ব্যবহার করুন।

১০. গুরুত্বপূর্ণ সিদ্ধান্তে বিশেষজ্ঞের পরামর্শ নিন

চিকিৎসা, আইন, বিনিয়োগ বা নিরাপত্তার মতো বিষয়ে শুধু AI-এর উত্তর অনুসরণ করবেন না।

৬. AI-কে ভুল তথ্য দেওয়া থেকে বিরত রাখতে কার্যকর Prompt

আপনি চাইলে ChatGPT, Gemini, Claude কিংবা অন্য AI Chatbot-এ নিচের Prompt ব্যবহার করতে পারেন।

এটি AI-কে সতর্কভাবে উত্তর দিতে উৎসাহিত করবে। তবে মনে রাখবেন, কোনো Prompt-ই Hallucination সম্পূর্ণ বন্ধ করার নিশ্চয়তা দিতে পারে না।

Prompt:

“আমার প্রশ্নের উত্তর দেওয়ার সময় তথ্যের সত্যতা ও নির্ভুলতাকে সর্বোচ্চ গুরুত্ব দেবে।

১. কোনো তথ্য নিশ্চিত না হলে অনুমান করে উত্তর দেবে না।

২. তথ্যের অভাব থাকলে স্পষ্টভাবে জানাবে যে বিষয়টি নিশ্চিত করা যাচ্ছে না।

৩. গুরুত্বপূর্ণ তথ্যের ক্ষেত্রে নির্ভরযোগ্য ও যাচাইযোগ্য উৎস উল্লেখ করবে।

৪. কোনো ওয়েবসাইট, গবেষণাপত্র, বই, সফটওয়্যার ফিচার বা পরিসংখ্যানের অস্তিত্ব সম্পর্কে নিশ্চিত না হলে সেগুলো তৈরি করে বলবে না।

৫. পুরোনো তথ্য ও বর্তমান তথ্যের মধ্যে পার্থক্য থাকলে তা উল্লেখ করবে।

৬. তথ্য, অনুমান ও ব্যক্তিগত বিশ্লেষণ আলাদা করে উপস্থাপন করবে।

৭. উত্তর দেওয়ার আগে নিজের বক্তব্যের মধ্যে কোনো অসংগতি আছে কি না পরীক্ষা করবে।

আমার কাছে সুন্দর উত্তর দেওয়ার চেয়ে সঠিক উত্তর দেওয়া বেশি গুরুত্বপূর্ণ।”

৭. AI Hallucination কি কখনো পুরোপুরি বন্ধ করা সম্ভব?

বর্তমানে AI গবেষকরা Hallucination কমানোর জন্য বিভিন্ন পদ্ধতি নিয়ে কাজ করছেন।

এর মধ্যে কয়েকটি গুরুত্বপূর্ণ প্রযুক্তি হলো—

RAG (Retrieval-Augmented Generation):

এই পদ্ধতিতে AI উত্তর তৈরির আগে নির্দিষ্ট ডকুমেন্ট বা বাইরের তথ্যভান্ডার থেকে প্রাসঙ্গিক তথ্য সংগ্রহ করতে পারে। ফলে শুধু প্রশিক্ষণের পুরোনো তথ্যের ওপর নির্ভর করার প্রয়োজন কমে।

Web Search Integration:

AI প্রয়োজন অনুযায়ী ইন্টারনেট থেকে বর্তমান তথ্য খুঁজে উত্তর তৈরি করতে পারে।

Fact-checking & Verification:

AI-এর তৈরি তথ্য অন্য উৎসের সঙ্গে মিলিয়ে যাচাই করার ব্যবস্থা তৈরি করা যায়।

Human-in-the-loop:

গুরুত্বপূর্ণ সিদ্ধান্ত বা কাজের আগে মানুষের অনুমোদন ও যাচাই যুক্ত করা হয়।

Uncertainty Estimation:

AI কখনো কোনো প্রশ্নের উত্তর সম্পর্কে কতটা অনিশ্চিত, তা অনুমান করার বিভিন্ন গবেষণাপদ্ধতি রয়েছে।

তবে এসব প্রযুক্তি ব্যবহার করলেও ভুলের সম্ভাবনা পুরোপুরি দূর হয় না। RAG ব্যবহার করলেও AI ভুল ডকুমেন্ট নির্বাচন করতে পারে, আবার Web Search করেও ভুল উৎস থেকে তথ্য নিতে পারে।

শেষের কিছু কথা

AI আমাদের কাজের গতি বাড়াচ্ছে, গবেষণাকে সহজ করছে এবং প্রতিদিন নতুন নতুন সম্ভাবনা তৈরি করছে। কিন্তু AI যত উন্নতই হোক, তার প্রতিটি উত্তরকে নির্ভুল ধরে নেওয়া ঠিক নয়।

মনে রাখতে হবে, AI একটি শক্তিশালী সহায়ক প্রযুক্তি—সত্য যাচাইয়ের চূড়ান্ত কর্তৃপক্ষ নয়।

তাই AI ব্যবহার করার পাশাপাশি তথ্য যাচাই করার অভ্যাস গড়ে তুলুন। বিশেষ করে প্রযুক্তি, চিকিৎসা, আইন, শিক্ষা ও অর্থনৈতিক সিদ্ধান্তের ক্ষেত্রে নির্ভরযোগ্য উৎসের গুরুত্ব কখনোই উপেক্ষা করবেন না।