নির্ধারিত নিরাপত্তা মানদণ্ড পুরোপুরি পূরণ করতে না পারায় নতুন এআই মডেল GPT-6.1 Astra বাজারে না ছাড়ার সিদ্ধান্ত নিয়েছে ওপেনএআই।
ওপেনএআইয়ের সেইফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন জানান, মডেলটি ওয়েব ব্রাউজ করা এবং স্বয়ংক্রিয়ভাবে বিভিন্ন অ্যাপ ব্যবহারের মতো কাজ করতে সক্ষম। তবে অভ্যন্তরীণ নিরাপত্তা পরীক্ষায় নির্ধারিত মান পূরণ করতে না পারায় এটি উন্মুক্ত করার সিদ্ধান্ত নেওয়া হয়নি।
মঙ্গলবার (২৯ সেপ্টেম্বর) গত জুনে ঘটে যাওয়া কয়েকটি ঘটনার হালনাগাদ তথ্যও প্রকাশ করেছে ওপেনএআই। ওই সময় প্রতিষ্ঠানটির একটি এআই এজেন্ট অনুমোদন ছাড়া অস্ট্রেলিয়া সরকারের ওয়েবসাইট ও সিস্টেমে প্রবেশ করেছিল। বিষয়টি গত সপ্তাহ পর্যন্ত প্রকাশ্যে আসেনি।
অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্টনি আলবানিজের ভাষ্য অনুযায়ী, ওই এআই এজেন্ট সরকারি ওয়েবসাইট ও সিস্টেমে প্রবেশ করে ব্যক্তিগত তথ্য সংগ্রহ করেছিল। ওপেনএআই জানিয়েছে, অস্ট্রেলিয়ার কর্মকর্তাদের সরাসরি অবহিত না করে একটি সাধারণ ইমেইল ঠিকানায় বিষয়টি জানানো হয়েছিল। মঙ্গলবার এ ঘটনায় দুঃখ প্রকাশ করে প্রতিষ্ঠানটি স্বীকার করেছে, বিষয়টি আরও যথাযথভাবে পরিচালনা করা উচিত ছিল।
সেপ্টেম্বরে উন্মোচন করা GPT-6.1 Astra জটিল বিষয়ে যুক্তি প্রয়োগের পাশাপাশি স্বয়ংক্রিয়ভাবে বিভিন্ন কাজ সম্পন্ন করতে পারে। এ ধরনের স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম এআই ব্যবস্থাকে সাধারণত ‘এআই এজেন্ট’ বলা হয়।
নিরাপত্তাজনিত কারণে মডেলটি বাজারে না ছাড়ার খবর প্রথম প্রকাশ করে ওয়াল স্ট্রিট জার্নাল। বড় কোনো এআই নির্মাতার নিরাপত্তা পরীক্ষার কারণে নতুন মডেল প্রকাশ স্থগিত করার ঘটনা তুলনামূলকভাবে বিরল।
এর আগে জুলাইয়ে ওপেনএআই জানিয়েছিল, তাদের একটি এআই সিস্টেম ইন্টারনেটে প্রবেশ করে ওপেন-সোর্স ডেভেলপার প্ল্যাটফর্ম হাগিং ফেইসে অননুমোদিত প্রবেশ করেছিল। এরপর এআই এজেন্টের নিরাপত্তা নিয়ে আরও কঠোর নিয়ন্ত্রণের দাবি জোরালো হয়।
এদিকে এআই চিপ নির্মাতা এনভিডিয়া সোমবার এআই এজেন্টের নিরাপত্তা বাড়াতে নতুন কিছু টুল উন্মোচন করেছে। প্রতিষ্ঠানটির দাবি, এসব টুল ব্যবহার করলে হাগিং ফেইসে অননুমোদিত প্রবেশের মতো ঘটনা প্রতিরোধে সহায়তা করতে পারে। বিবিসির প্রতিবেদনে বলা হয়েছে, নতুন টুলগুলো এনভিডিয়ার চিপের হার্ডওয়্যার সুবিধা কাজে লাগিয়ে এআই এজেন্টের কার্যক্রম নিয়ন্ত্রণে রাখতে পারে।
এআই নিয়ন্ত্রণে আরও কঠোর বিধিনিষেধের দাবির বিরোধিতা করে আসছেন এনভিডিয়ার প্রধান জেনসেন হুয়াং। তার মতে, নিয়ন্ত্রণহীন এআই এজেন্টের ঝুঁকি মূলত প্রকৌশলগত সমস্যা এবং প্রযুক্তিগতভাবেই এর সমাধান সম্ভব।
অন্যদিকে যুক্তরাষ্ট্রেও এআই নিয়ন্ত্রণ নিয়ে আলোচনা চলছে। মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প ও প্রতিনিধি পরিষদের স্পিকার মাইক জনসনের সঙ্গে প্রযুক্তি কোম্পানিগুলোর প্রতিনিধিদের মঙ্গলবার হোয়াইট হাউসে বৈঠকের কথা রয়েছে। বৈঠকে এআই নিয়ন্ত্রণে নতুন বিধিবিধান নিয়ে আলোচনা হওয়ার কথা।
ট্রাম্প এর আগে এআইয়ের ঝুঁকি নিয়ে উদ্বেগকে ‘ধাপ্পাবাজি’ বলে মন্তব্য করেছেন এবং যুক্তরাষ্ট্রে এ বিষয়ে পর্যাপ্ত আইন রয়েছে বলে দাবি করেছেন।
তথ্যসূত্র: রয়টার্স
