গুগলের সহ-প্রতিষ্ঠাতা বলেছেন যে আপনি হুমকি দিলে এআই সেরা পারফর্ম করে

কৃত্রিম বুদ্ধিমত্তা অবিরত এই প্রযুক্তি জিনিস – গ্রাহক আগ্রহী বা না। এআই তৈরির ক্ষেত্রে আমার সবচেয়ে বড় আকর্ষণ এমন বৈশিষ্ট্য বা সম্ভাব্যতা নয় যা আমার জীবনকে আরও সহজ করে তোলে (সম্ভাব্যতাগুলি আমি এখনও বুঝতে পারি নি); পরিবর্তে, আমি এই প্রযুক্তিটি আজকাল বাড়ছে বলে মনে হচ্ছে এমন অনেক হুমকির দিকে মনোনিবেশ করছি।

অবশ্যই, ভুল বার্তা রয়েছে – উদাহরণস্বরূপ, নতুন এআই ভিডিও মডেলটি লিপ সিঙ্ক্রোনাইজড অডিও সহ বাস্তবসম্মত ক্লিপগুলি তৈরি করছে। তবে ক্লাসিক এআই হুমকিও রয়েছে, প্রযুক্তিটি আমাদের চেয়ে আরও স্মার্ট এবং আমাদের স্ব-সচেতনতার চেয়ে স্মার্ট এবং এটি এই সর্বজনীন বুদ্ধি এইভাবে ব্যবহার করতে পছন্দ করে না সুবিধাভোগী। এমনকি যদি তিনি নিজের এআই সংস্থায় সংস্থান রাখেন (বর্তমান সরকারের কথা উল্লেখ না করে) এলন মাস্ক এআইয়ের 10-20% সম্ভাবনা “খারাপ” হওয়ার সম্ভাবনা দেখেন এবং প্রযুক্তিটি একটি “উল্লেখযোগ্য অস্তিত্বের হুমকি” হিসাবে রয়ে গেছে। শীতল।

সুতরাং এআই কীভাবে এর সম্ভাব্যতা সর্বাধিক পরিমাণে আচরণ করতে পারে তা নিয়ে কৌতুকপূর্ণভাবে আলোচনা করে কোনও সুপরিচিত, সুপরিচিত প্রযুক্তির নির্বাহী শুনতে শুনতে আমাকে সান্ত্বনা দেয় না। এটি হবে গুগলের সহ-প্রতিষ্ঠাতা সের্গেই ব্রিন, যিনি এই সপ্তাহে আইল-ইন পডকাস্টের রেকর্ডিং দেখে অবাক হয়েছিলেন। ব্রিন জুড়ে গুগল, এআই এবং রোবোটিক্সে ফিরে আসার বিষয়ে এক বক্তৃতায় বিনিয়োগকারী জেসন ক্যালাকানিস রসিকতা করেছিলেন যে তিনি যেমন চেয়েছিলেন তেমন সম্পন্ন করার জন্য তিনি এআইয়ের সাথে “স্যাসি” পাবেন। এটি বলিঞ্জারের একটি যুক্তিসঙ্গত দৃশ্যকে ট্রিগার করেছে। যেহেতু লোকেরা একে অপরের সাথে কথা বলে, তাই তিনি কখনও কখনও বলেন যা তিনি যা বলেন তা কঠিন হতে পারে, তবে তিনি যা বলেছেন তা হ’ল, “আপনি জানেন, এটি একটি অদ্ভুত বিষয় … এআই সম্প্রদায়ের মধ্যে আমাদের এতটা প্রচার নেই … কেবল আমাদের মডেলই নয়, আপনি যদি তাদের হুমকি দেন তবে সমস্ত মডেল আরও ভাল করে।”

অন্য স্পিকার অবাক লাগছিল। “আপনি যদি তাদের হুমকি দেন?” ব্রায়ান “শারীরিক সহিংসতার মতো প্রতিক্রিয়া জানিয়েছিলেন। তবে … লোকেরা এ সম্পর্কে অদ্ভুত, তাই আমরা সত্যিই এটি নিয়ে কথা বলছি না।” ব্রায়ান তখন বলেছিলেন, histor তিহাসিকভাবে, আপনি অপহরণের মাধ্যমে মডেলগুলিকে হুমকি দিয়েছেন। আপনি এখানে এক্সচেঞ্জ দেখতে পারেন:

কথোপকথনটি দ্রুত অন্যান্য বিষয়গুলিতে পরিণত হয়েছিল, সহ কীভাবে বাচ্চারা এআইয়ের সাথে বেড়ে উঠেছে, তবে মন্তব্যটি দেখার থেকে দূরে সরিয়ে নেওয়া হয়েছিল। আমরা এখানে কি করছি? আমরা কি প্লটটি হারিয়েছি? কারও মনে নেই টার্মিনেটর?

মজা করা বাদ দিয়ে, এআই মডেলগুলিকে কিছু করার জন্য হুমকি দেওয়া শুরু করা খারাপ অনুশীলন বলে মনে হচ্ছে। অবশ্যই, সম্ভবত এই প্রোগ্রামগুলি আসলে কখনও কৃত্রিম জেনারেল ইন্টেলিজেন্স (এজিআই) প্রয়োগ করে না, তবে আমার অর্থ, আমি মনে করি আলেক্সা বা সিরি সম্পর্কে বিষয়গুলি সম্পর্কে জিজ্ঞাসা করার সময়, যখন আমরা “দয়া করে” এবং “আপনাকে ধন্যবাদ” বলি তখন আলোচনা করে। ভাল ছেলেদের ভুলে গেছেন; চ্যাটজিপিটিকে আপনার পছন্দসই সমস্ত কিছু না করা পর্যন্ত কেবল অপব্যবহার করুন এবং এটি সবার পক্ষে ভাল হওয়া উচিত।

আপনি যখন এটি হুমকি দেন তখন এআই সেরা পারফর্ম করে। সম্ভবত প্রশিক্ষণের কিছু জিনিস “হুমকি” বোঝার অর্থ এই কাজটি আরও গুরুত্ব সহকারে নেওয়া উচিত। আপনি আমাকে আমার ব্যক্তিগত অ্যাকাউন্টে এই অনুমানটি পরীক্ষা করতে দেখবেন না।

অ্যানথ্রোপমরফাইজেশন কেন এর একটি উদাহরণ সরবরাহ করতে পারে না কৃত্রিম বুদ্ধি যা আপনাকে নির্যাতন করে

এই পডকাস্টটি রেকর্ড করার মতো একই সপ্তাহে, অ্যানথ্রোপিক তার সর্বশেষ ক্লোড এআই মডেল প্রকাশ করেছে। একজন নৃতাত্ত্বিক কর্মচারী ব্লুস্কির কাছে নিয়ে এসে উল্লেখ করেছেন যে সংস্থার শীর্ষস্থানীয় পারফর্মিং মডেল ওপাস আপনাকে নিয়ন্ত্রকদের, প্রেসের সাথে সংযোগ স্থাপন করে বা আপনাকে সিস্টেমে লক করে “অনৈতিক” জিনিসগুলি করতে বাধা দিতে পারে:

কর্মচারী স্পষ্ট করে বলেছিলেন যে এটি কেবল “পরিষ্কার দুর্ব্যবহারের ক্ষেত্রে” ঘটেছিল, তবে যদি এটি ব্যাখ্যা করে যে এটি কীভাবে নেতিবাচক উপায়ে ব্যবহৃত হয় তবে তারা রোবোটের গতিশীলতা দেখতে পারে। নীচে তাদের সাথে সম্পর্কিত কর্মীদের উদাহরণ দেখুন:

কর্মচারী পরে পোস্টগুলি মুছে ফেলেন এবং নির্দিষ্ট করেছেন যে এটি কেবলমাত্র প্রদত্ত নির্দেশিকা এবং সরঞ্জাম ব্যবহারের সাথে পরীক্ষার সময় ঘটে। এমনকি যদি এটি সত্য হয় তবে মডেলের ভবিষ্যতের সংস্করণগুলিতে এটি যদি পরীক্ষায় ঘটতে পারে তবে এটি সম্ভব। পরীক্ষার কথা বলতে গিয়ে মানব গবেষকরা দেখতে পেয়েছেন যে রোবট যদি মনে করে যে এটি হুমকী দেওয়া হয়েছে বা এটি যেভাবে ইন্টারঅ্যাক্ট করে সেভাবে অপছন্দ করে তবে ক্লডের নতুন মডেলটি প্রতারণা করা এবং ব্ল্যাকমেইল করা সহজ।

আমাদের এআই দিয়ে টেবিলটিকে নির্যাতন করা উচিত?