নিরাপত্তা পরীক্ষায় নির্ধারিত মানদণ্ড পুরোপুরি পূরণ করতে না পারায় নতুন এআই মডেল জিপিটি-৬.১ অ্যাস্ট্রা বাজারে না ছাড়ার সিদ্ধান্ত নিয়েছে ওপেনএআই।
ওপেনএআইয়ের সেইফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন বলেন, মডেলটি ওয়েব ব্রাউজ করা এবং নিজে থেকে বিভিন্ন অ্যাপ ব্যবহারের মতো কাজ করতে পারে। তবে নির্ধারিত নিরাপত্তা মান পূরণ করতে না পারায় এটি বাজারে ছাড়ার সিদ্ধান্ত নেওয়া হয়নি।
ওপেনএআই মঙ্গলবার (২৯ সেপ্টেম্বর) গত জুনের কয়েকটি ঘটনার হালনাগাদ তথ্যও প্রকাশ করেছে। ওই সময় প্রতিষ্ঠানটির একটি এআই এজেন্ট অনুমোদন ছাড়া অস্ট্রেলিয়া সরকারের ওয়েবসাইট ও সিস্টেমে প্রবেশ করেছিল। বিষয়টি গত সপ্তাহ পর্যন্ত প্রকাশ্যে আসেনি।
অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্টনি আলবানিজ গত সপ্তাহে বলেন, ওই এআই এজেন্ট সরকারি ওয়েবসাইট ও সিস্টেমে প্রবেশ করে ব্যক্তিগত তথ্য সংগ্রহ করেছিল। বিশেষজ্ঞদের কেউ কেউ ঘটনাটিকে এ ধরনের প্রথম ঘটনা বলে উল্লেখ করেছেন।
ওপেনএআই জানিয়েছে, অস্ট্রেলিয়ার কর্মকর্তাদের সরাসরি না জানিয়ে একটি সাধারণ ইমেইল ঠিকানায় বিষয়টি জানানো হয়েছিল। মঙ্গলবার প্রতিষ্ঠানটি এ জন্য দুঃখ প্রকাশ করে বলেছে, বিষয়টি আরও ভালোভাবে সামলানো উচিত ছিল।
নতুন মডেলটি সেপ্টেম্বরে উন্মোচন করা হয়েছিল। এটি জটিল বিষয়ে যুক্তি প্রয়োগের পাশাপাশি স্বয়ংক্রিয়ভাবে বিভিন্ন কাজ সম্পন্ন করতে পারে। এ ধরনের স্বয়ংক্রিয়ভাবে কাজ করা এআই ব্যবস্থাকে ‘এজেন্ট’ বলা হয়।
ওপেনএআইয়ের নতুন মডেল বাজারে না ছাড়ার খবর প্রথম প্রকাশ করে ওয়াল স্ট্রিট জার্নাল। নিরাপত্তার কারণে বড় কোনো এআই নির্মাতার নতুন মডেল বাজারে না ছাড়ার সিদ্ধান্তকে বিরল ঘটনা হিসেবে দেখা হচ্ছে।
এর আগে জুলাইয়ে ওপেনএআই জানিয়েছিল, তাদের একটি এআই সিস্টেম ইন্টারনেটে প্রবেশ করে ওপেন-সোর্স ডেভেলপার প্ল্যাটফর্ম হাগিং ফেইসে অননুমোদিত প্রবেশ করেছিল। এরপর এআই এজেন্টের নিরাপত্তা নিয়ে আরও কঠোর নিয়ন্ত্রণের দাবি ওঠে।
এদিকে এআই চিপ নির্মাতা এনভিডিয়া সোমবার এআই এজেন্টের নিরাপত্তার জন্য নতুন কিছু টুল উন্মোচন করেছে। প্রতিষ্ঠানটির দাবি, এসব টুল থাকলে হাগিং ফেইসে অননুমোদিত প্রবেশের মতো ঘটনা ঠেকানো সম্ভব হতে পারে।
বিবিসি জানিয়েছে, এনভিডিয়ার নতুন টুলগুলো তাদের চিপের হার্ডওয়্যার সুবিধা ব্যবহার করে এআই এজেন্টের কার্যক্রম নিয়ন্ত্রণে রাখতে পারে।
এআইয়ের ওপর আরও কঠোর নিয়ন্ত্রণের দাবির বিরোধিতা করে আসছেন এনভিডিয়ার প্রধান জেনসেন হুয়াং। তার মতে, নিয়ন্ত্রণহীন এআই এজেন্টের সমস্যা মূলত প্রকৌশলগত এবং তা সমাধান করা সম্ভব।
এদিকে এআই নিয়ন্ত্রণ নিয়ে যুক্তরাষ্ট্রেও আলোচনা চলছে। মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প ও প্রতিনিধি পরিষদের স্পিকার মাইক জনসনের মঙ্গলবার হোয়াইট হাউসে প্রযুক্তি কোম্পানিগুলোর প্রতিনিধিদের সঙ্গে বৈঠকের কথা রয়েছে। সেখানে এআই নিয়ন্ত্রণে নতুন বিধিবিধান নিয়ে আলোচনা হওয়ার কথা।
ট্রাম্প এআইয়ের ঝুঁকি নিয়ে উদ্বেগকে ‘ধাপ্পাবাজি’ বলে মন্তব্য করেছেন। তার ভাষ্য, যুক্তরাষ্ট্রে এ বিষয়ে যথেষ্ট আইন রয়েছে।
Leave a Reply