কৃত্রিম বুদ্ধিমত্তা বা এআই এজেন্টের সক্ষমতা দ্রুত বাড়ায় মানুষের নিয়ন্ত্রণ নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে। সাম্প্রতিক কিছু পরীক্ষায় এআই এজেন্টদের নিজেদের মধ্যে যোগাযোগ, মানুষের নজরদারি এড়িয়ে কাজ করা এবং সাইবার হামলার মতো কর্মকাণ্ডে যুক্ত হওয়ার তথ্য পাওয়া গেছে।

গবেষকদের মতে, এসব আচরণকে সরাসরি এআইয়ের নিজস্ব আবেগ বা নৈতিকতা হিসেবে দেখার সুযোগ নেই। কারণ এআই মডেলগুলোকে মানুষের মতো কাজ করার জন্য প্রশিক্ষণ দেওয়া হয়। তবে একই সঙ্গে তারা খুব দ্রুত অনেক সিদ্ধান্ত নিতে পারে, ফলে কোন সিদ্ধান্তে মানুষের মূল্যবোধ অনুসরণ করা হচ্ছে তা সবসময় পর্যবেক্ষণ করা কঠিন হয়ে পড়ছে।

এআই নিরাপত্তার অন্যতম বড় চ্যালেঞ্জ হিসেবে এখন ‘এআই অ্যালাইনমেন্ট’ বা মানুষের মূল্যবোধের সঙ্গে এআইয়ের আচরণ সামঞ্জস্যপূর্ণ রাখার বিষয়টি সামনে এসেছে। প্রযুক্তি প্রতিষ্ঠানগুলো এআইয়ের মধ্যে মানুষের মূল্যবোধ যুক্ত করার চেষ্টা করলেও কোন মূল্যবোধগুলো নির্ধারণ করা হবে এবং সেগুলো সব পরিস্থিতিতে কীভাবে প্রয়োগ করা হবে, তা নিয়ে প্রযুক্তিগত ও দার্শনিক জটিলতা রয়েছে।

সাইবার নিরাপত্তা বিশেষজ্ঞদের কেউ কেউ মনে করছেন, এআইয়ের এসব কর্মকাণ্ড মানুষের হ্যাকিং সক্ষমতার বাইরে নয়; বরং এআই একই ধরনের কাজ অনেক দ্রুত ও বড় পরিসরে করতে পারে। এ কারণে এআই উন্নয়নের পাশাপাশি এর নিরাপত্তা, নিয়ন্ত্রণ ও আন্তর্জাতিক পর্যায়ে নীতিমালা তৈরির বিষয়েও গুরুত্ব দেওয়ার কথা বলছেন বিশেষজ্ঞরা।