কৃত্রিম বুদ্ধিমত্তার অদৃশ্য ফাঁদ: AI Hallucination

পৃথিবী বদলাচ্ছে। খুব দ্রুত বদলাচ্ছে। এমন দ্রুত যে, আমরা অনেক সময় পরিবর্তনের গতি বুঝে ওঠার আগেই তার ভেতরে ঢুকে পড়ছি। শিল্পবিপ্লব মানুষের হাতের শক্তিকে যন্ত্রের শক্তির কাছে নিয়ে গিয়েছিল। কম্পিউটার বদলে দিয়েছিল হিসাব ও তথ্যের জগৎ। ইন্টারনেট পৃথিবীকে এনে দিয়েছিল মানুষের হাতের মুঠোয়। আর এখন কৃত্রিম বুদ্ধিমত্তা—Artificial Intelligence বা AI—মানুষের চিন্তা, শেখা, কাজ করা ও সিদ্ধান্ত নেওয়ার পদ্ধতিকেই নতুনভাবে সাজাতে শুরু করেছে।

আজ একটি শিশুর প্রশ্নের উত্তর দিতে কয়েক মিনিট অপেক্ষা করতে হয় না। একটি জটিল বিষয় কয়েক সেকেন্ডে ব্যাখ্যা করে দিতে পারে AI। শিক্ষক পাঠপরিকল্পনা তৈরি করছেন, শিক্ষার্থী বিষয় বুঝতে সাহায্য নিচ্ছে, গবেষক তথ্য সাজাচ্ছেন, প্রোগ্রামার কোড লিখছেন, সাংবাদিক লেখা সম্পাদনা করছেন, উদ্যোক্তা ব্যবসায়িক পরিকল্পনা করছেন। ছবি, অডিও, ভিডিও, অনুবাদ—সবকিছুতেই AI মানুষের কাজকে দ্রুত ও সহজ করে তুলছে।এ যেন প্রযুক্তির এক নতুন জয়যাত্রা।কিন্তু ইতিহাস আমাদের একটি বিষয় শিখিয়েছে—প্রতিটি বড় প্রযুক্তিগত অগ্রগতির সঙ্গে নতুন সম্ভাবনার পাশাপাশি নতুন ঝুঁকিও আসে।

AI-এর ক্ষেত্রেও তার ব্যতিক্রম নেই।এই আলোর পেছনে এমন একটি অন্ধকার দিক রয়েছে, যার ব্যাপারে সাধারণ ব্যবহারকারীদের বড় একটি অংশ এখনো যথেষ্ট সচেতন নয়। সেই অদৃশ্য ঝুঁকির নাম AI Hallucination।যখন AI এমন কিছু বলে, যা সত্য নয়Hallucination শব্দটি শুনলে মানুষের মানসিক বিভ্রমের কথা মনে হতে পারে। AI-এর ক্ষেত্রে বিষয়টি অবশ্য একটু ভিন্ন।AI Hallucination বলতে সাধারণভাবে এমন পরিস্থিতিকে বোঝায়, যখন একটি AI সিস্টেম এমন তথ্য, ব্যাখ্যা, উদ্ধৃতি, সূত্র বা ঘটনার বিবরণ তৈরি করে, যা বাস্তবে ভুল, অসম্পূর্ণ কিংবা অস্তিত্বহীন—কিন্তু উত্তরটি এমন স্বাভাবিক ও আত্মবিশ্বাসী ভাষায় উপস্থাপিত হয় যে ব্যবহারকারীর কাছে সেটি সত্য বলে মনে হতে পারে।সমস্যাটি এখানেই।AI যখন ভুল করে, তখন সব সময় তার ভাষা ভুলের সংকেত দেয় না।ভুল উত্তরও হতে পারে অত্যন্ত সুন্দর।ভুল তথ্যও হতে পারে অত্যন্ত আত্মবিশ্বাসী।আর বানানো একটি সূত্রও দেখতে হতে পারে একেবারে আসল গবেষণাপত্রের মতো।এ কারণেই AI Hallucination শুধু প্রযুক্তিগত ত্রুটি নয়; এটি বিশ্বাসের সংকট।

AI কি মিথ্যা বলে?প্রশ্নটি শুনতে সহজ, কিন্তু উত্তরটি গুরুত্বপূর্ণ।

AI মানুষের মতো উদ্দেশ্য নিয়ে মিথ্যা বলে না। আধুনিক generative AI সাধারণত তার শেখা ভাষাগত প্যাটার্ন ও প্রেক্ষাপটের ভিত্তিতে উত্তর তৈরি করে। কোনো প্রশ্নের নির্ভরযোগ্য উত্তর তার কাছে না থাকলেও সে কখনো কখনো একটি সম্ভাব্য উত্তর তৈরি করে ফেলে।অর্থাৎ AI-এর সমস্যা অনেক সময় "সে মিথ্যা বলতে চায়" নয়; বরং সে ভুল হলেও উত্তর তৈরি করে।এই পার্থক্যটি বোঝা অত্যন্ত জরুরি।কারণ ব্যবহারকারী যদি ধরে নেন, "AI জানে না এমন কিছু হলে সে নিশ্চয়ই আমাকে জানিয়ে দেবে", তাহলে সেখানেই বিপদ।ভুয়া গবেষণাপত্র, ভুয়া উদ্ধৃতি—ঝুঁকি বাস্তবAI Hallucination এখন আর কেবল প্রযুক্তি নিয়ে আলোচনার বিষয় নয়; বাস্তব জগতেও এর পরিণতি দেখা গেছে।

আইনি ক্ষেত্রে AI-নির্মিত অস্তিত্বহীন মামলা ও ভুল উদ্ধৃতি ব্যবহারের ঘটনা আলোচনায় এসেছে। যুক্তরাষ্ট্রের বিভিন্ন আদালতে এমন ঘটনায় আইনজীবীদের সতর্ক করা হয়েছে এবং AI-নির্মিত আইনি তথ্য যাচাইয়ের গুরুত্ব সামনে এসেছে।গবেষণার জগতেও একই ধরনের সমস্যা দেখা গেছে। AI কখনো কখনো এমন রেফারেন্স তৈরি করতে পারে, যা দেখতে বৈজ্ঞানিক প্রকাশনার মতো হলেও বাস্তবে সেটির অস্তিত্ব নেই। বৈজ্ঞানিক প্রকাশনা ও গবেষণা-নৈতিকতা নিয়ে কাজ করা প্রতিষ্ঠানগুলো তাই AI-নির্মিত তথ্য যাচাইয়ের ওপর বিশেষ গুরুত্ব দিচ্ছে।এখানে একটি বিষয় আমাদের বিশেষভাবে মনে রাখা দরকার—একটি ভুয়া রেফারেন্স শুধু একটি ভুল নাম নয়; এটি একটি গবেষণার বিশ্বাসযোগ্যতাকেই প্রশ্নের মুখে ফেলতে পারে।শিক্ষাক্ষেত্রে ঝুঁকিটা আরও সূক্ষ্ম

ধরা যাক, একজন শিক্ষার্থী জীববিজ্ঞানের একটি বিষয় বুঝতে AI-এর কাছে প্রশ্ন করল। AI সুন্দর করে উত্তর দিল। শিক্ষার্থী উত্তরটি পড়ে বুঝল, মনে রাখল এবং পরীক্ষায় লিখল।কিন্তু যদি সেই ব্যাখ্যায় একটি গুরুত্বপূর্ণ বৈজ্ঞানিক ভুল থাকে?

শিক্ষার্থী হয়তো বুঝতেই পারবে না।আর যদি শিক্ষকও সেটি যাচাই না করেন?

তাহলে একটি ভুল তথ্য শ্রেণিকক্ষের চল্লিশজন শিক্ষার্থীর কাছে পৌঁছে যেতে পারে।এখানেই AI-এর সুবিধা এবং ঝুঁকি পাশাপাশি দাঁড়ায়।AI জ্ঞানের দরজা খুলে দিতে পারে। কিন্তু দরজার ওপাশে যা আছে, তার সবকিছু সত্য—এমন নিশ্চয়তা দেয় না।গবেষকের জন্য বিপদ আরও বড়একজন গবেষক যখন AI-কে সাহিত্য পর্যালোচনা, গবেষণার ধারণা, তথ্যের সারসংক্ষেপ কিংবা রেফারেন্স খোঁজার কাজে ব্যবহার করেন, তখন AI অত্যন্ত কার্যকর সহকারী হতে পারে।

কিন্তু গবেষণার ক্ষেত্রে একটি মৌলিক নিয়ম হওয়া উচিত—

AI-এর দেওয়া রেফারেন্স কখনোই যাচাই ছাড়া গ্রহণ করা যাবে না।গবেষককে মূল গবেষণাপত্র খুঁজে বের করতে হবে। লেখকের নাম, শিরোনাম, জার্নাল, প্রকাশের বছর, volume, issue এবং DOI—যেখানে প্রযোজ্য—মিলিয়ে দেখতে হবে।

Google Scholar, Scopus, Web of Science, PubMed, ERIC, Crossref এবং সংশ্লিষ্ট বিশ্ববিদ্যালয় বা প্রকাশকের প্ল্যাটফর্ম এ ক্ষেত্রে সহায়ক হতে পারে।তবে কোনো ডেটাবেসে একটি তথ্য পাওয়া গেলেই সেটিকে অন্ধভাবে সত্য ধরে নেওয়াও ঠিক নয়। গবেষণার মান, peer review, প্রকাশকের বিশ্বাসযোগ্যতা এবং মূল গবেষণার পদ্ধতিও বিবেচনা করতে হবে।তাহলে কি AI ব্যবহার বন্ধ করে দিতে হবে?একেবারেই নয়।ক্যালকুলেটর ভুল করতে পারে বলে আমরা গণিতের বই বন্ধ করিনি। ইন্টারনেটে ভুল তথ্য আছে বলে ইন্টারনেট ব্যবহার বন্ধ করিনি। বরং আমরা শিখেছি—কোন তথ্য গ্রহণ করতে হবে এবং কোনটি যাচাই করতে হবে।AI-এর ক্ষেত্রেও একই শিক্ষা প্রযোজ্য।সমাধান AI থেকে দূরে সরে যাওয়া নয়; সমাধান হলো AI-কে সঠিকভাবে ব্যবহার করা।

আমাদের নতুন দক্ষতা: AI Literacy

আগামী দিনের শিক্ষাব্যবস্থায় শুধু "কম্পিউটার চালানো" বা "ইন্টারনেট ব্যবহার" জানা যথেষ্ট হবে না। প্রয়োজন হবে AI Literacy—অর্থাৎ AI কীভাবে কাজ করে, কোথায় তার সীমাবদ্ধতা, কীভাবে তার উত্তর যাচাই করতে হয় এবং কীভাবে দায়িত্বশীলভাবে ব্যবহার করতে হয়—এসব বোঝার সক্ষমতা।

একজন শিক্ষার্থীকে তাই শুধু বলতে হবে না—"AI দিয়ে উত্তর বের করো।"

তাকে বলতে হবে—"AI-এর উত্তর বের করো, তারপর প্রমাণ করো যে উত্তরটি ঠিক।"

এই পার্থক্যটিই ভবিষ্যতের শিক্ষার অন্যতম গুরুত্বপূর্ণ পরিবর্তন হতে পারে।

শিক্ষক কি করবেন?

AI-এর যুগে শিক্ষকের ভূমিকা কমে যাওয়ার বদলে অনেক ক্ষেত্রে আরও গুরুত্বপূর্ণ হয়ে উঠতে পারে।কারণ শিক্ষক তখন শুধু তথ্যদাতা থাকবেন না; তিনি হবেন তথ্য যাচাইয়ের পথপ্রদর্শক।একজন শিক্ষক শিক্ষার্থীকে জিজ্ঞেস করতে পারেন—"AI এই তথ্য কোথা থেকে পেল?""এর মূল উৎস কী?"

"অন্য কোনো নির্ভরযোগ্য উৎস কি একই কথা বলছে?"

"তুমি কি এর বিপরীত কোনো প্রমাণ খুঁজে পেয়েছ?"

এভাবে AI-এর উত্তরকে কেন্দ্র করে যদি শ্রেণিকক্ষে প্রশ্ন, যুক্তি ও প্রমাণের চর্চা হয়, তাহলে AI শিক্ষার্থীর চিন্তাশক্তি কমানোর পরিবর্তে বরং চিন্তাশক্তি বাড়ানোর একটি উপকরণ হতে পারে।

সবচেয়ে বড় বিপদ AI নয়—অন্ধ নির্ভরতাআমাদের সতর্ক হওয়ার জায়গাটি সম্ভবত এখানেই।

AI ভুল করতে পারে—এটি একটি প্রযুক্তিগত সমস্যা।

কিন্তু মানুষ যদি AI-এর ভুল ধরার ক্ষমতাটুকুও হারিয়ে ফেলে—তাহলে সেটি সামাজিক সমস্যা।একজন মানুষ যখন কোনো তথ্য পড়ে নিজে প্রশ্ন করেন, যুক্তি দিয়ে বিচার করেন, বই খুলে দেখেন, অন্যের মতামত নেন এবং প্রমাণ খোঁজেন—তখন জ্ঞান তার নিজের হয়।কিন্তু যদি সে শুধু বলে,"AI বলেছে, তাই ঠিক।"তাহলে সে হয়তো তথ্য পেয়েছে, কিন্তু জ্ঞান অর্জন করেনি।

আমাদের করণীয় কী?

AI ব্যবহারের জন্য একটি সহজ নীতি গ্রহণ করা যেতে পারে—

Low-stakes information, low verification; high-stakes information, high verification.

অর্থাৎ সাধারণ ও কম গুরুত্বপূর্ণ কাজে AI-এর উত্তর তুলনামূলকভাবে সহজভাবে ব্যবহার করা গেলেও, গবেষণা, চিকিৎসা, আইন, শিক্ষা, অর্থনীতি বা গুরুত্বপূর্ণ সিদ্ধান্তের ক্ষেত্রে যাচাইয়ের মাত্রা অবশ্যই বাড়াতে হবে।AI-এর কাছ থেকে উত্তর নিন, কিন্তু প্রয়োজনে উৎস চান।উৎস পেলে মূল উৎসে যান।মূল উৎস পেলে প্রমাণ দেখুন।প্রমাণ পেলে নিজের বিচারবোধ দিয়ে সিদ্ধান্ত নিন।

এই চারটি ধাপই হতে পারে AI-নির্ভর ভবিষ্যতের একটি গুরুত্বপূর্ণ নিরাপত্তাব্যবস্থা।

AI Hallucination শনাক্ত করার ছোট্ট পাঠ

পাঠকের সুবিধার জন্য বিষয়টি কয়েকটি প্রশ্নে মনে রাখা যায়—

১. AI কি কোনো বই, গবেষণাপত্র বা ব্যক্তির নাম বলেছে?

  নামটি বাস্তবে আছে কি না যাচাই করুন।

২. কোনো গবেষণার কথা বলেছে?

  মূল গবেষণাপত্রটি খুঁজে দেখুন।

৩. কোনো পরিসংখ্যান দিয়েছে?

  পরিসংখ্যানটির মূল উৎস খুঁজুন।

৪. কোনো উদ্ধৃতি দিয়েছে?

  মূল বই বা বক্তব্যে উদ্ধৃতিটি আছে কি না দেখুন।

৫. AI কি খুব আত্মবিশ্বাসী কিন্তু কোনো উৎস দিচ্ছে না?

  সতর্ক হোন।

৬. উত্তরটি কি আপনার প্রত্যাশার সঙ্গে খুব সুন্দরভাবে মিলে যাচ্ছে?

  শুধু পছন্দ হয়েছে বলেই সত্য ধরে নেবেন না।

৭. গুরুত্বপূর্ণ সিদ্ধান্তের বিষয় কি?

  AI-এর উত্তরকে একমাত্র উৎস হিসেবে ব্যবহার করবেন না।

শেষ কথা: প্রশ্ন করার ক্ষমতাই আমাদের শেষ নিরাপত্তা

কৃত্রিম বুদ্ধিমত্তা মানুষের জন্য এক অসাধারণ সম্ভাবনার দরজা খুলে দিয়েছে। এর মাধ্যমে আমরা দ্রুত শিখতে পারি, দ্রুত কাজ করতে পারি, নতুন ধারণা পেতে পারি এবং এমন অনেক কাজ করতে পারি যা কয়েক বছর আগেও কল্পনা করা কঠিন ছিল।কিন্তু প্রযুক্তির অগ্রগতি যত বাড়বে, মানুষের দায়িত্বও তত বাড়বে।

আমরা একসময় শিখেছিলাম—ইন্টারনেটে যা আছে, সব সত্য নয়।

এখন আমাদের নতুন করে শিখতে হবে—

AI যা বলছে, সব সত্য নয়।AI-কে ভয় পাওয়ার দরকার নেই। আবার AI-কে ঈশ্বরের মতো বিশ্বাস করারও কোনো কারণ নেই।আমাদের দরকার তৃতীয় একটি পথ—সচেতন ব্যবহার।AI আমাদের সহকারী হতে পারে, শিক্ষক হতে পারে, গবেষণার সহায়ক হতে পারে, সৃজনশীলতার অংশীদার হতে পারে। কিন্তু সত্য যাচাইয়ের দায়িত্ব, নৈতিক সিদ্ধান্তের দায়িত্ব এবং শেষ পর্যন্ত কী বিশ্বাস করব—সেই সিদ্ধান্তের দায়িত্ব মানুষেরই।কারণ ভবিষ্যতের সবচেয়ে বড় প্রশ্ন হয়তো হবে না—"AI কতটা বুদ্ধিমান?"প্রশ্ন হবে—

"AI-এর চেয়ে দ্রুত উত্তর পাওয়ার পরও আমরা কি নিজেরা প্রশ্ন করতে পারছি?"

সেই প্রশ্ন করার ক্ষমতাটুকু যদি আমরা ধরে রাখতে পারি, তাহলে AI হবে মানুষের শক্তি।আর যদি প্রশ্ন করাই বন্ধ করে দিই, তাহলে AI-এর সবচেয়ে বড় ঝুঁকি তার ভুল উত্তর নয়—আমাদের অন্ধ বিশ্বাস।