এক্সক্লুসিভ: নতুন ক্লড মডেল নৃতাত্ত্বিকতার জন্য সুরক্ষার অনুরোধ জানায়

টিএআই কোম্পানির প্রধান বিজ্ঞানী হিউম্যান হিউম্যান বলেছেন, ওডের সর্বশেষ এআই মডেল সম্ভাব্য সন্ত্রাসীদের মহামারীতে জৈবিক অস্ত্র বা প্রকৌশলী তৈরি করতে সহায়তা করতে পারে।

অ্যানথ্রোপমর্ফিজম দীর্ঘদিন ধরে এই ঝুঁকিগুলি সম্পর্কে সতর্ক করেছে – সুতরাং ২০২৩ সালে সংস্থাটি তাদের সীমাবদ্ধ করতে পারে এমন সুরক্ষা ব্যবস্থা না হওয়া পর্যন্ত নির্দিষ্ট মডেলগুলি প্রকাশ না করার প্রতিশ্রুতি দিয়েছিল।

এখন দায়বদ্ধ স্কেলিং নীতি (আরএসপি) নামে পরিচিত, সিস্টেমটি তার প্রথম আসল পরীক্ষার মুখোমুখি।

বৃহস্পতিবার নৃতাত্ত্বিক প্রধান বিজ্ঞানী জ্যারেড কাপলান বলেছেন, নৃতাত্ত্বিক ওপাস 4, একটি নতুন মডেল, যা অভ্যন্তরীণ পরীক্ষায় জৈবিক অস্ত্র উত্পাদন করতে কীভাবে নবাগত পরামর্শ দেওয়ার ক্ষেত্রে পূর্ববর্তী মডেলগুলির চেয়ে আরও কার্যকরভাবে সম্পাদন করে। কাপলান বলেছিলেন, “আপনি কোভিড বা ফ্লুর আরও বিপজ্জনক সংস্করণের মতো কিছু সংশ্লেষিত করার চেষ্টা করতে পারেন এবং মূলত, আমাদের মডেলিং পরামর্শ দেয় যে এটি সম্ভব হতে পারে,” কাপলান বলেছিলেন।

অতএব, ক্লড ওপাস 4 কঠোর সুরক্ষা ব্যবস্থার অধীনে পূর্ববর্তী যে কোনও মানব মডেলের চেয়ে বেশি প্রকাশ করেছে। সংস্থার মতে, এই ব্যবস্থাগুলি (এআই সুরক্ষা স্তর 3 বা “এএসএল -3” এর অভ্যন্তরীণ) এআই সিস্টেমগুলিকে সীমাবদ্ধ করার পক্ষে উপযুক্ত যা রাসায়নিক, জৈবিক বা পারমাণবিক অস্ত্র অর্জন, উত্পাদন বা মোতায়েন করতে বেসিক স্টেম ব্যাকগ্রাউন্ডযুক্ত ব্যক্তিদের “উল্লেখযোগ্যভাবে উন্নতি” করতে পারে। এর মধ্যে রয়েছে বর্ধিত সাইবারসিকিউরিটি ব্যবস্থা, জেলব্রেক প্রতিরোধ এবং পরিপূরক সিস্টেমগুলি নির্দিষ্ট ধরণের ক্ষতিকারক আচরণ সনাক্ত এবং প্রত্যাখ্যান করতে।

নিশ্চিতভাবেই, নৃতাত্ত্বিকতা পুরোপুরি নিশ্চিত নয় যে ক্লাডের নতুন সংস্করণটি একটি গুরুতর জৈবিক অস্ত্রের ঝুঁকি তৈরি করবে, কাপলান সময়কে বলেছেন। কিন্তু মানুষ এই সম্ভাবনাটি অস্বীকার করেনি।

কাপলান বলেছিলেন, “যদি আমরা এটি অস্পষ্ট মনে করি এবং আমরা নিশ্চিত নই যে ঝুঁকিটি বাতিল করা যেতে পারে কিনা-নির্দিষ্ট ঝুঁকিগুলি নতুন সন্ত্রাসবাদীকে উন্নত করছে, টিমোথি ম্যাকভিঘের মতো লোকেরা, যারা অস্ত্রকে আরও ধ্বংসাত্মক করে তুলতে পারে, তবে আমরা সতর্কতার সাথে চালিত করতে এবং এএসএল -3 মানের অধীনে কাজ করতে চাই,” কাপলান বলেছিলেন। “আমরা এই মডেলটি ঝুঁকিপূর্ণ তা নিশ্চিত করে জানার দাবি করিনি … তবে আমরা কমপক্ষে অনুভব করেছি যে এটি এটিকে রায় দেওয়ার পক্ষে যথেষ্ট কাছাকাছি।”

তিনি বলেছিলেন যে যদি আরও পরীক্ষায় দেখা যায় যে মডেলটির এই জাতীয় কঠোর সুরক্ষার মান প্রয়োজন না হয় তবে নৃতাত্ত্বিকতার সাথে ক্লডের পূর্ববর্তী সংস্করণ প্রকাশের আগে তার সুরক্ষা একটি আলগা এএসএল -২-তে তার সুরক্ষা হ্রাস করতে পারে।

এই মুহুর্তটি নৃতাত্ত্বিকতার একটি মূল পরীক্ষা, যা সংস্থা দাবি করেছে যে এটি এখনও বাজারে প্রতিযোগিতা করার সময় এআইয়ের বিপদগুলি হ্রাস করতে পারে। ক্লড চ্যাটজিপিটি -র প্রত্যক্ষ প্রতিযোগী এবং বার্ষিক রাজস্বতে 2 বিলিয়ন ডলারেরও বেশি এনেছে। অ্যানথ্রোপমর্ফিজম বিশ্বাস করে যে এর আরএসপি নতুন মডেলগুলির মুক্তি রোধের কারণে গ্রাহকদের হারাতে এড়াতে নিজের জন্য সুরক্ষা ব্যবস্থা প্রতিষ্ঠার জন্য অর্থনৈতিক প্রেরণা তৈরি করে। “আমরা সত্যিই গ্রাহকদের প্রভাবিত করতে চাই না,” কাপলান মে মাসের শুরুতে সময় নির্ধারণ করেছিলেন, যখন মানুষ তাদের সুরক্ষা ব্যবস্থা চূড়ান্ত করে যাচ্ছিল। “আমরা সক্রিয়ভাবে প্রস্তুত করার জন্য কঠোর পরিশ্রম করছি।”

তবে অ্যানথ্রোপিকের আরএসপি, পাশাপাশি অন্যান্য এআই সংস্থাগুলির দ্বারা নেওয়া অনুরূপ প্রতিশ্রুতিগুলি – সমস্ত স্বেচ্ছাসেবী নীতি যা ইচ্ছায় পরিবর্তন বা বাতিল করা যেতে পারে। নিয়ন্ত্রক বা বিধায়ক নয়, সংস্থাটি নিজেই আরএসপির সাথে পুরোপুরি মেনে চলে কিনা তা হ’ল। সম্ভাব্য খ্যাতিমান ক্ষতির পাশাপাশি এটিকে ভাঙার জন্য কোনও বাহ্যিক জরিমানা নেই। অ্যানথ্রোপমর্ফিজম বিশ্বাস করে যে নীতিটি এআই সংস্থাগুলির মধ্যে “সর্বোচ্চ” প্রতিযোগিতা তৈরি করেছে, তাদের সেরা সুরক্ষা ব্যবস্থা তৈরির জন্য প্রতিযোগিতা করার অনুমতি দিয়েছে। তবে সুপ্রিম এআইয়ের কাছে বহু-বিলিয়ন ডলারের রেসের সাথে, সমালোচকরা আশঙ্কা করছেন যে আরএসপি এবং এর নির্দোষতা সবচেয়ে বেশি গুরুত্বপূর্ণ হলে থাকতে পারে।

তবুও, কংগ্রেসে কোনও সীমানা এআই বিধিবিধান ছাড়াই কোনও এআই সংস্থার আচরণের বিষয়ে বিদ্যমান কয়েকটি বিধিনিষেধের মধ্যে হিউম্যান আরএসপি অন্যতম। এখনও অবধি মানুষ তা রাখছে। কাপলান বলেছিলেন যে নৃতাত্ত্বিক যদি দেখায় যে এটি অর্থনীতিতে আঘাত না করেই নিজেকে সীমাবদ্ধ করতে পারে তবে এটি বিস্তৃত শিল্প জুড়ে সুরক্ষা অনুশীলনে ইতিবাচক প্রভাব ফেলতে পারে।

মানবজাতির জন্য নতুন সুরক্ষা

অ্যানথ্রোপিকের এএসএল -3 সুরক্ষা ব্যবস্থাগুলি যা সংস্থাটিকে “গভীরতার সাথে প্রতিরক্ষা” কৌশল বলে অভিহিত করে, যার অর্থ এখানে বেশ কয়েকটি বিভিন্ন ওভারল্যাপিং সেফগার্ড রয়েছে যা একা অসম্পূর্ণ হতে পারে, তবে বেশিরভাগ হুমকি রোধে একত্রিত।

এই ব্যবস্থাগুলির মধ্যে একটিকে “সাংবিধানিক শ্রেণিবদ্ধকারী:” অন্যান্য এআই সিস্টেমগুলি বলা হয় যা ব্যবহারকারী স্ক্যান ব্যবহারকারীকে বিপজ্জনক উপকরণগুলির উত্তরের জন্য অনুরোধ করে এবং মডেলগুলি স্ক্যান করে। ক্লাউডের পূর্ববর্তী সংস্করণগুলিতে ইতিমধ্যে এএসএল -২ এর নিম্ন সুরক্ষা স্তরে একই রকম সিস্টেম ছিল, তবে নৃতাত্ত্বিক বলেছিলেন যে এটি তাদের উন্নতি করেছে যাতে তারা জৈবিক অস্ত্র তৈরির জন্য ক্লোড ব্যবহার করার চেষ্টা করতে পারে এমন লোকদের সনাক্ত করতে সক্ষম হয়েছিল, উদাহরণস্বরূপ। এই শ্রেণিবদ্ধকারীদের লক্ষ্যমাত্রা দীর্ঘ শৃঙ্খলে লক্ষ্য করে যা নির্দিষ্ট সমস্যাগুলি সনাক্ত করে যা কেউ জিজ্ঞাসা করতে পারে।

অ্যানথ্রোপমর্ফিজম এই ব্যবস্থাগুলি বৈধ ব্যবহারকারীদের জন্য ক্লোডের সামগ্রিক ব্যবহারকে বাধা না দেওয়ার চেষ্টা করে, কারণ এই জাতীয় মডেলগুলি প্রতিযোগীদের তুলনায় মডেলটিকে কম সহায়ক করে তোলে। কাপলান বলেছিলেন, “কিছু জৈবিক অস্ত্র মৃত্যুর কারণ হতে পারে তবে আমরা মনে করি না যে এটি মহামারী তৈরি করবে।” “আমরা প্রতিটি অপব্যবহার বন্ধ করার চেষ্টা করছি না।

গভীর প্রতিরক্ষা কৌশলগুলির আরেকটি উপাদান হ’ল জেলব্রেকগুলি প্রতিরোধ করা, বা প্রম্পটগুলি যা মডেলটিকে মূলত তার সুরক্ষা প্রশিক্ষণ ভুলে যেতে পারে এবং প্রত্যাখ্যান করা যেতে পারে এমন প্রশ্নের উত্তর সরবরাহ করতে পারে। কাপলান বলেছিলেন যে সংস্থাটি ক্লোড ব্যবহার এবং “অফ-ক্যাম্পাস” ব্যবহারকারীদের পর্যবেক্ষণ করে যারা ধারাবাহিকভাবে মডেলটি জেলব্রেক করার চেষ্টা করেছে। এটি ব্যবহারকারীদের “ইউনিভার্সাল” জেলব্রেক বলা হয়, বা প্রম্পট যে এটি সিস্টেমটিকে অবিলম্বে সমস্ত সুরক্ষার ব্যবস্থা বাতিল করতে পারে তা দিয়ে ব্যবহারকারীদের পুরষ্কার দেওয়ার জন্য একটি অনুগ্রহ প্রোগ্রাম চালু করেছে। একজন মুখপাত্র বলেছেন যে এখনও অবধি এই প্রোগ্রামটি একটি সর্বজনীন জেলব্রেক প্রকাশ করেছে যা তখন থেকে ক্রমবর্ধমানভাবে প্যাচ হয়ে গেছে। এটি পাওয়া গেছে যে এটি গবেষকদের $ 25,000 প্রদান করা হয়েছিল।

মানুষ তাদের সাইবারসিকিউরিটিও আরও শক্তিশালী করেছে, তাই নন-রাষ্ট্রীয় অভিনেতাদের দ্বারা চুরি থেকে প্রচেষ্টা রোধে ক্লাউডের বেসিক নিউরাল নেটওয়ার্ক সুরক্ষিত। সংস্থাটি এখনও জাতীয় পরিসংখ্যান পর্যায়ে আক্রমণকারীদের পক্ষে ঝুঁকিপূর্ণ বলে বিচার করে, তবে নেটওয়ার্ক প্রতিনিধিদের ব্লক করার জন্য পর্যাপ্ত করে তুলতে লক্ষ্য করে তাদের যতক্ষণ না এটি বিশ্বাস করে যে এটি এএসএল -4 এ আপগ্রেড করা দরকার: পরবর্তী স্তরের সুরক্ষা, এটি এমন মডেলগুলির আগমনের সাথে প্রত্যাশিত যা একটি বড় জাতীয় সুরক্ষা ঝুঁকি তৈরি করতে পারে, বা স্বায়ত্তশাসিতভাবে মানব ইনপুট ছাড়াই এআই গবেষণা পরিচালনা করতে পারে।

শেষ অবধি, সংস্থাটি এআই মডেলগুলির গুরুত্বের পরিমাণ নির্ধারণের লক্ষ্যে “উত্সাহ” পরীক্ষা -নিরীক্ষা বলে অভিহিত করেছে না উপরোক্ত সীমাবদ্ধতাগুলি গুগল বা দর্শনীয় উন্নত মডেলগুলির মতো অন্যান্য সরঞ্জামগুলির তুলনায় জৈবিক অস্ত্র তৈরি করার চেষ্টা করার জন্য নবাগতদের সক্ষমতা উন্নত করতে পারে। ক্যাপলান বায়োসিকিউরিটি বিশেষজ্ঞদের দ্বারা প্রাপ্ত বিচারে বলেছিলেন, নৃতাত্ত্বিকতার মধ্যে দেখা গেছে যে ক্লড ওপাস 4 এর পারফরম্যান্স স্তরটি গুগল অনুসন্ধান এবং পূর্ববর্তী মডেল উভয়ের তুলনায় “উল্লেখযোগ্যভাবে বেশি” ছিল।