কৃত্রিম বুদ্ধিমত্তা (এআই) এখন আর শুধু ই-মেইল লেখা, সাধারণ প্রশ্নের উত্তর দেওয়া কিংবা ছবি তৈরির মতো প্রাথমিক কাজে সীমাবদ্ধ নেই। স্বয়ংক্রিয় এআই এজেন্টের মাধ্যমে এটি এখন প্রতিষ্ঠানের সংবেদনশীল তথ্য বিশ্লেষণ, সফটওয়্যার পরিচালনা এবং মানুষের সরাসরি হস্তক্ষেপ ছাড়াই জটিল কাজ সম্পাদন করছে। তবে এআইয়ের এই দ্রুত বর্ধনশীল সক্ষমতার সঙ্গে সঙ্গে বেড়েছে এর ওপর অন্ধভাবে নির্ভর করার ঝুঁকিও। এ বিষয়ে বিশ্বজুড়ে প্রযুক্তি প্রতিষ্ঠান ও ব্যবহারকারীদের সতর্ক করেছেন মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা (সিইও) সত্য নাদেলা।
তার মতে, এআইকে কখনোই অন্ধভাবে বিশ্বাস করা উচিত নয়, কারণ এটি প্রতিষ্ঠানের ভেতরে বড় ধরনের ঝুঁকি বা নিরাপত্তার কারণ হয়ে উঠতে পারে। এআইকে কাজে লাগানোর পাশাপাশি এর কার্যক্রম নিয়ন্ত্রণে কার্যকর সুরক্ষাব্যবস্থা গড়ে তোলাও জরুরি বলে মনে করেন তিনি।
সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে (সাবেক টুইটার) নাদেলা জানান, এআই মডেলকে নিরাপদ মনে করা হলেও তার ওপর পুরোপুরি নির্ভর করা উচিত নয়। বিশেষ করে এআই এজেন্ট যখন প্রতিষ্ঠানের সংবেদনশীল তথ্য ব্যবহারের সুযোগ পায় এবং নিজে থেকেই গুরুত্বপূর্ণ কাজ সম্পন্ন করতে পারে, তখন বাড়তি সতর্কতা প্রয়োজন। ওই পোস্টে তিনি কৃত্রিম বুদ্ধিমত্তাকে 'সুপার ইন্টেলিজেন্স' হিসেবে উল্লেখ করেন।
নাদেলার মতে, কোনো এআই মডেলকে শতভাগ নিরাপদ ঘোষণা করা হলেও সব পরিস্থিতিতে সেটি প্রত্যাশিত আচরণ করবে, এমন কোনো নিশ্চয়তা নেই। মডেলটি অপ্রত্যাশিত বা ঝুঁকিপূর্ণ সিদ্ধান্ত নিতে পারে। এআইয়ের কাছ থেকে তথ্য বিশ্লেষণ বা পরামর্শ নেওয়া গেলেও সেটি ঠিক কোন কোন তথ্য দেখতে পারবে এবং কী ধরনের কাজ সম্পাদন করতে পারবে, তা কঠোর ও পৃথক নিয়ন্ত্রণব্যবস্থার মাধ্যমে নির্ধারণ করা জরুরি।
একটি এআই মডেল দিয়ে অন্য মডেলের কাজ যাচাইয়ের ক্ষেত্রেও সতর্ক করেছেন নাদেলা। তার মতে, স্বাধীন যাচাইয়ের ব্যবস্থা না থাকলে একটি মডেল অন্যটির ভুল শনাক্ত করতে ব্যর্থ হতে পারে। ফলে একাধিক মডেল ব্যবহার করেও ভুল সিদ্ধান্ত কিংবা নিরাপত্তাঝুঁকি এড়ানো সম্ভব না–ও হতে পারে। এ জন্য এআইয়ের আচরণ পর্যবেক্ষণ, কাজের অনুমতি সীমিত রাখা এবং নির্ধারিত সীমা অতিক্রম করতে না পারার ব্যবস্থা গড়ে তুলতে হবে। পাশাপাশি কোনো এআই ব্যবস্থা ব্যর্থ হলে বা এর নিরাপত্তা বিঘ্নিত হলে দ্রুত সেই তথ্য প্রকাশ করতে হবে। এতে অন্য প্রতিষ্ঠানগুলোও এসব ঘটনা থেকে শিক্ষা নিয়ে নিজেদের সুরক্ষাব্যবস্থা উন্নত করতে পারবে।
বর্তমানে বিশ্বজুড়ে বিভিন্ন প্রতিষ্ঠানে এআই এজেন্টের ব্যবহার বিপুল হারে বাড়ছে। এসব এজেন্টকে তথ্য বিশ্লেষণ, সফটওয়্যার পরিচালনা এবং বিভিন্ন কাজ সম্পন্ন করার দায়িত্ব দেওয়া হচ্ছে। এতে সময় ও শ্রম সাশ্রয়ের পাশাপাশি কাজের গতিও বাড়ছে। তবে এআই ভুল সিদ্ধান্ত নিলে কিংবা অনাকাঙ্ক্ষিত কোনো পদক্ষেপ নিলে তার পরিণতি কী হতে পারে, সেই প্রশ্নও গুরুত্বপূর্ণ হয়ে উঠেছে।
প্রচলিত সফটওয়্যারে কোনো ত্রুটি দেখা দিলে সাধারণত সংশ্লিষ্ট কোড পরীক্ষা করে সমস্যার কারণ শনাক্ত করা যায়। কিন্তু এআই মডেল কেন একটি নির্দিষ্ট উত্তর দিল বা কোনো বিশেষ পদক্ষেপ নিল, তা সব সময় সহজে বোঝা যায় না। ফলে মডেলের সিদ্ধান্তের পেছনের কারণ অনুসন্ধান করা এবং সম্ভাব্য ঝুঁকি মোকাবিলা করা কঠিন হয়ে উঠতে পারে। নাদেলার মতে, এআই ব্যবহারে সময় ও শ্রমের সাশ্রয় হলেও কোনো ভুল পদক্ষেপের পরিণতি কতটা ভয়াবহ হতে পারে, তা আগে থেকেই মাথায় রেখে কার্যকর ও সমন্বিত সুরক্ষাব্যবস্থা গড়ে তোলা অপরিহার্য।
সূত্র: ইন্ডিয়া টুডে।