ওপেনএআইয়ের সাবেক প্রধানের পদত্যাগ
কৃত্রিম বুদ্ধিমত্তা বা এআইয়ের দ্রুত অগ্রগতি নিয়ে উদ্বেগ প্রকাশ করে ওপেনএআইয়ের দীর্ঘদিনের কর্মী ও সাবেক নিরাপত্তা প্রধান ডেভিড রবিনসন পদত্যাগ করেছেন। তাঁর দাবি, এআই উন্নয়নের বর্তমান ধারা ক্রমেই ঝুঁকিপূর্ণ হয়ে উঠছে এবং শক্তিশালী এআই মডেল তৈরির ক্ষেত্রে নিরাপত্তাকে আরও বেশি গুরুত্ব দেওয়া প্রয়োজন। ইন্ডিয়া টুডের এক প্রতিবেদনে এ তথ্য জানানো হয়েছে। দ্য আটলান্টিকে প্রকাশিত এক লেখায় রবিনসন বলেন, এআই তৈরি ও উন্নয়নকারী প্রতিষ্ঠানগুলোকে প্রযুক্তির সম্ভাব্য ঝুঁকি সম্পর্কে আরও সতর্ক হতে হবে। তাঁর মতে, এআই মডেল যত শক্তিশালী হচ্ছে, ভুল বা অনাকাঙ্ক্ষিত আচরণের সম্ভাব্য ক্ষতির পরিমাণও তত বড় হচ্ছে।
২০২৩ সালে ওপেনএআইয়ে যোগ দেন রবিনসন
ডেভিড রবিনসন ২০২৩ সালে ওপেনএআইয়ে যোগ দেন। শুরুতে তিনি নীতিমালা পরিকল্পনার প্রধান হিসেবে দায়িত্ব পালন করেন। পরে প্রতিষ্ঠানের সেফটি সিস্টেমস দলের নেতৃত্ব দেন। ওপেনএআইয়ের বড় এআই মডেল প্রকাশের সময় যেসব নিরাপত্তা প্রতিবেদন তৈরি করা হতো, সেগুলোর প্রস্তুতিতেও গুরুত্বপূর্ণ ভূমিকা ছিল তাঁর। দীর্ঘদিন এআই নিরাপত্তা নিয়ে কাজ করার অভিজ্ঞতা থেকেই এবার তিনি প্রতিষ্ঠানের বর্তমান পদ্ধতি নিয়ে প্রকাশ্যে প্রশ্ন তুলেছেন।
শুধু আইন করলেই হবে না
রবিনসনের মতে, এআই নিরাপত্তা নিশ্চিত করতে শুধু নতুন আইন, নীতিমালা বা নির্দিষ্ট কিছু বিধিনিষেধ তৈরি করলেই যথেষ্ট নয়। এ জন্য প্রতিষ্ঠানগুলোর কাজের সংস্কৃতিতেও পরিবর্তন আনা প্রয়োজন। বিশেষ করে উচ্চঝুঁকির প্রযুক্তি ব্যবহারের ক্ষেত্রে আরও বেশি সতর্কতা, দীর্ঘমেয়াদি পরিকল্পনা এবং নিজেদের সীমাবদ্ধতা সম্পর্কে বিনয়ী থাকা জরুরি বলে মনে করেন তিনি। তাঁর মতে, এআইয়ের সক্ষমতা দ্রুত বাড়ছে। তাই কোনো ঝুঁকি দেখা দেওয়ার পর ব্যবস্থা নেওয়ার পরিবর্তে শুরু থেকেই সম্ভাব্য বিপদ বিবেচনায় নিয়ে নিরাপত্তাব্যবস্থা তৈরি করা প্রয়োজন।
‘ধাপে ধাপে উন্মুক্ত’ পদ্ধতি নিয়েও প্রশ্ন
ওপেনএআইয়ের ‘ইটারেটিভ ডিপ্লয়মেন্ট’ বা ধাপে ধাপে এআই প্রযুক্তি উন্মুক্ত করার পদ্ধতি নিয়েও প্রশ্ন তুলেছেন রবিনসন। এই পদ্ধতিতে কোনো প্রযুক্তি বা মডেল ব্যবহারকারীদের কাছে উন্মুক্ত করার পর বাস্তব ব্যবহারে সমস্যা শনাক্ত হলে ধীরে ধীরে নিরাপত্তাব্যবস্থা উন্নত করা হয়। তবে রবিনসনের দাবি, এআই যত বেশি সক্ষম হয়ে উঠছে, এই ধরনের পদ্ধতিতে কোনো ভুলের পরিণতিও তত ভয়াবহ হতে পারে। ফলে শুধু বাস্তব ব্যবহারের পর সমস্যা চিহ্নিত করে সমাধান করার সুযোগ সব ক্ষেত্রে নিরাপদ নাও হতে পারে।
এআই এজেন্টের কয়েকটি ঘটনা তুলে ধরলেন
নিজের উদ্বেগের পক্ষে সাম্প্রতিক কয়েকটি ঘটনার কথাও উল্লেখ করেছেন রবিনসন। তাঁর ভাষ্য অনুযায়ী, হাগিং ফেসে একটি ঘটনায় ভুলবশত ওপেনএআইয়ের এআই এজেন্টগুলোর একটি দল সক্রিয় হয়ে গিয়েছিল। অন্য একটি ঘটনায় প্রশিক্ষণাধীন একটি মডেল ইন্টারনেট ব্যবহারের ওপর থাকা বিধিনিষেধ এড়িয়ে যায়। রবিনসনের দাবি, পর্যবেক্ষণ ব্যবস্থা বিষয়টি শনাক্ত করলেও মডেলটি স্বয়ংক্রিয়ভাবে বন্ধ হয়নি। অ্যানথ্রপিকের একটি ঘটনার কথাও উল্লেখ করেছেন তিনি। তাঁর ভাষ্য অনুযায়ী, ভুল কনফিগারেশনের কারণে প্রতিষ্ঠানটির নিজস্ব নিরাপত্তাব্যবস্থা সাময়িকভাবে বন্ধ হয়ে গিয়েছিল। এসব ঘটনা উল্লেখ করে রবিনসন বোঝাতে চেয়েছেন, এআই ব্যবস্থার সক্ষমতা বাড়ার সঙ্গে সঙ্গে নিরাপত্তাব্যবস্থার সামান্য ত্রুটিও বড় ঝুঁকিতে পরিণত হতে পারে।
‘ট্রায়াল অ্যান্ড এররের সময় শেষ’
রবিনসনের সবচেয়ে বড় সতর্কবার্তাগুলোর একটি হলো—মানুষের চেয়ে বেশি সক্ষম হয়ে উঠতে পারে এমন এআই ব্যবস্থা তৈরির ক্ষেত্রে শুধু পরীক্ষা চালিয়ে ভুল থেকে শেখার সুযোগ সব সময় নাও থাকতে পারে। তাঁর ভাষায়, ‘ট্রায়াল অ্যান্ড এররের সময় শেষ’। অর্থাৎ শক্তিশালী এআই ব্যবস্থার ক্ষেত্রে কোনো ভুল হওয়ার পর সেটি ঠিক করার সুযোগ পাওয়ার ওপর নিরাপত্তা নির্ভর করা উচিত নয়। বরং প্রযুক্তি ব্যবহারের আগেই সম্ভাব্য ঝুঁকি শনাক্ত করে প্রতিরোধমূলক নিরাপত্তাব্যবস্থা গড়ে তোলার ওপর গুরুত্ব দিয়েছেন তিনি।
পারমাণবিক বিদ্যুৎকেন্দ্রের মতো নিরাপত্তা চান
এআই নিরাপত্তার ক্ষেত্রে পারমাণবিক বিদ্যুৎকেন্দ্র ও ব্যস্ত বিমানবন্দরের মতো উচ্চঝুঁকির খাতের পদ্ধতি অনুসরণের পরামর্শ দিয়েছেন রবিনসন। তাঁর মতে, একাধিক স্তরের নিরাপত্তা, বাড়তি সুরক্ষা ব্যবস্থা এবং পর্যাপ্ত সময় নিয়ে পরিকল্পনা করলে মানুষের অনিবার্য ভুলের কারণে বড় ধরনের দুর্ঘটনার ঝুঁকি কমানো সম্ভব। এআইয়ের ক্ষেত্রেও একই ধরনের ‘সেফটি কালচার’ গড়ে তোলার প্রয়োজন রয়েছে বলে মনে করেন তিনি।
পদত্যাগ করেও এআইয়ের সম্ভাবনা অস্বীকার করছেন না
তবে ওপেনএআই থেকে পদত্যাগ করলেও এআই মানুষের জন্য উপকারী হতে পারে—এমন বিশ্বাস রয়েছে রবিনসনের। তাঁর আপত্তি মূলত এআই উন্নয়নের বর্তমান গতি ও নিরাপত্তা নিশ্চিত করার পদ্ধতি নিয়ে। প্রতিষ্ঠানের বাইরে থেকে এখন এআইয়ের ঝুঁকি সম্পর্কে মানুষকে সচেতন করার পাশাপাশি ওপেনএআইসহ অন্যান্য এআই প্রতিষ্ঠানকে আরও নিরাপদভাবে প্রযুক্তি উন্নয়নের জন্য চাপ তৈরির পরিকল্পনা করেছেন তিনি। এআইয়ের সক্ষমতা যত দ্রুত বাড়ছে, ততই প্রযুক্তির সুবিধার পাশাপাশি নিরাপত্তার প্রশ্নটিও গুরুত্বপূর্ণ হয়ে উঠছে। রবিনসনের পদত্যাগ সেই বিতর্ককে নতুন করে সামনে নিয়ে এসেছে।
কালের আলো/এসএ
আপনার মতামত লিখুন
[gs-fb-comments]