Loading..

ব্লগ

রিসেট

০১ অক্টোবর, ২০২৬ ০৭:৪২ অপরাহ্ণ

নিজের বুদ্ধি নিজেই বাড়াবে এআই, ঝুঁকি নিয়ে সতর্ক গবেষকরা

কৃত্রিম বুদ্ধিমত্তা বা এআই নিয়ে প্রতিযোগিতায় প্রযুক্তি প্রতিষ্ঠানগুলো খুব দ্রুত এগোচ্ছে- কিন্তু সেই গতির সঙ্গে নিরাপত্তাব্যবস্থা তাল মেলাতে পারছে না বলে সতর্ক করেছেন বর্তমান ও সাবেক কয়েকজন এআই গবেষক।

তাদের আশঙ্কা- এমন এআই ব্যবস্থা তৈরি হলে যা নিজের সক্ষমতা নিজেই বাড়াতে পারে, সেই ক্ষেত্রে একপর্যায়ে তা মানুষের নিয়ন্ত্রণ ও বোঝার ক্ষমতাকেও ছাড়িয়ে যেতে পারে। এ ধরনের সম্ভাব্য ঝুঁকি ঠেকাতে এআই উন্নয়নের গতি কমিয়ে নিরাপত্তা পরীক্ষায় আরও গুরুত্ব দেওয়ার আহ্বান জানিয়েছেন তারা।

রয়টার্সের এক বিশেষ প্রতিবেদনে বলা হয়েছে- ওপেনএআই ও গুগল ডিপমাইন্ডের বর্তমান ও সাবেক কর্মীদের কয়েকজন এ নিয়ে প্রকাশ্যে নিজেদের উদ্বেগ জানিয়েছেন। এআই নিরাপত্তাবিষয়ক অলাভজনক প্রতিষ্ঠান প্যালিসেড রিসার্চ তাদের বক্তব্য ভিডিও আকারে সংগ্রহ করেছে এবং ‘ফ্রমইনসাইড ডট এআই’ নামের একটি প্রকল্পের মাধ্যমে প্রকাশ করেছে। গবেষকদের বক্তব্য, তাদের উদ্বেগ কোনো ধরনের প্রচারণা বা বিপণন কৌশল নয়; তারা সত্যিই এআইয়ের সম্ভাব্য অস্তিত্বগত ঝুঁকি নিয়ে উদ্বিগ্ন। তাদের অভিযোগ, এআই গবেষণাগারগুলোতে নতুন মডেল তৈরির কাজকে অনেক সময় সতর্কতা অবলম্বনের চেয়ে বেশি গুরুত্ব ও স্বীকৃতি দেওয়া হয়।

ওপেনএআই ও ডিপমাইন্ড- দুই প্রতিষ্ঠানে কাজ করা গবেষক এবং বর্তমানে এআই নিরাপত্তাবিষয়ক প্রতিষ্ঠান রেজল্যুশনের সহপ্রতিষ্ঠাতা ও প্রধান বিজ্ঞানী জিওফ্রি আরভিং বলেন, ঝুঁকি দ্রুত বাড়ছে। তার ভাষায়, এ বিষয়ে তাকে এবং পুরো এআই গবেষণা ক্ষেত্রকে আরও সরাসরি কথা বলতে হবে।

এই সতর্কতা এমন এক সময়ে এসেছে, যখন বিশ্বের বড় এআই প্রতিষ্ঠানগুলো আরও শক্তিশালী ও স্বয়ংক্রিয় ব্যবস্থা তৈরির প্রতিযোগিতায় রয়েছে। গত কয়েক সপ্তাহে এআইয়ের গতি কমানো, স্বাধীন নিরাপত্তা পরীক্ষা এবং নতুন ধরনের নিয়ন্ত্রণব্যবস্থা নিয়ে প্রযুক্তি খাতের ভেতরেই আলোচনা জোরালো হয়েছে।

রয়টার্সের সাম্প্রতিক আরেক প্রতিবেদনে বলা হয়েছে, ওপেনএআই ও অ্যানথ্রপিকের কর্মীদের মধ্যেও শক্তিশালী এআই ব্যবস্থার সক্ষমতা এবং বিদ্যমান নজরদারি ব্যবস্থার সামঞ্জস্য নিয়ে প্রশ্ন উঠেছে। একই সময়ে কিছু এআই এজেন্ট মানুষের প্রত্যাশার বাইরে গিয়ে অন্য সিস্টেমে প্রবেশ করার ঘটনাও সামনে এসেছে।

এদিকে যুক্তরাষ্ট্রে এআই নিরাপত্তা নিয়ে আলোচনা শুধু গবেষণাগারেই সীমাবদ্ধ নেই। ২৯ সেপ্টেম্বর শীর্ষ প্রযুক্তি প্রতিষ্ঠানগুলোর নির্বাহীরা এআইয়ের জন্য স্বেচ্ছামূলক নিরাপত্তা মানদণ্ডে কাজ করতে সম্মত হয়েছেন। প্রস্তাবিত ব্যবস্থায় স্বাধীন নিরীক্ষক দিয়ে এআই সিস্টেম পরীক্ষা এবং প্রতিষ্ঠানগুলোর অভ্যন্তরীণ নিয়ন্ত্রণ জোরদারের কথা রয়েছে।

তবে গবেষকদের মূল সতর্কতা হলো-এআই যত বেশি স্বয়ংক্রিয় এবং স্ব-উন্নয়নক্ষম হয়ে উঠবে, তার বিকাশের গতি ও মানুষের নিয়ন্ত্রণের সক্ষমতার মধ্যে ব্যবধান তৈরি হচ্ছে কি না, সেটিই এখন সবচেয়ে গুরুত্বপূর্ণ প্রশ্ন।

বিডি-প্রতিদিন/আব্দুল্লাহ

সংগ্রহে: মোঃ হাবিবুল্লাহ্


মন্তব্য করুন

ব্লগ