এআই এবং সম্মতি: ঝুঁকিগুলি কী কী? | সাপ্তাহিক কম্পিউটার

গোপনীয় তথ্য

এআই সরঞ্জামগুলিও সরাসরি গোপনীয় ডেটা ফাঁস করে, বা কর্মচারীরা এআই সরঞ্জামগুলিতে গোপনীয় নথি আপলোড করেছে।

তারপরে কুসংস্কার আছে। বিশেষত এলএলএম -এ সর্বশেষতম এআই অ্যালগরিদমগুলি খুব জটিল। এটি এআই সিস্টেমগুলি কীভাবে সিদ্ধান্তে পৌঁছায় তা বুঝতে অসুবিধা হয়। এটি পরিবর্তে ব্যবসায়ের জন্য ব্যাখ্যা করা বা এমনকি ন্যায়সঙ্গত করা শক্ত, যেমন চ্যাটবটগুলি এআই সরঞ্জামগুলি করে।

এটি বিশেষত নিয়ন্ত্রিত শিল্প এবং পাবলিক সেক্টরে ব্যবসায়ের জন্য বিভিন্ন ঝুঁকি তৈরি করে। নিয়ন্ত্রকরা ইউরোপীয় ইউনিয়ন (ইইউ) এআই আইনের মতো আইন ছাড়াও এআই ঝুঁকিগুলি কভার করার জন্য বিদ্যমান কমপ্লায়েন্স ফ্রেমওয়ার্কগুলি দ্রুত আপডেট করে।

শিল্প বিশ্লেষক ফরেস্টারের গবেষণা জেনাইয়ের দ্বারা উত্থাপিত 20 টিরও বেশি নতুন হুমকি চিহ্নিত করেছে, যার মধ্যে কয়েকটি সুরক্ষার সাথে সম্পর্কিত। এর মধ্যে দূষিত অভিনেতা অন্তর্ভুক্ত রয়েছে যারা এআই সিস্টেমগুলি তৈরি করতে বা এআই মডেলগুলির সাথে টেম্পার করতে সুরক্ষিত কোড ব্যবহার করতে ব্যর্থ হন। অন্যরা, যেমন ডেটা ফুটো, ডেটা টেম্পারিং এবং ডেটা অখণ্ডতার অভাব, মডেল সুরক্ষা সম্পাদন করা হলেও নিয়ন্ত্রক ব্যর্থতা হতে পারে।

পরিস্থিতি “শ্যাডো এআই” এর বৃদ্ধি দ্বারা আরও খারাপ হয়ে গেছে, যেখানে কর্মীরা অনানুষ্ঠানিকভাবে এআই সরঞ্জামগুলি ব্যবহার করে। সুরক্ষা এবং সম্মতিতে কর্মরত একজন উপদেষ্টা জেমস বোরকে সতর্ক করেছিলেন, “সর্বাধিক সাধারণ মোতায়েন এমন হতে পারে যা এন্টারপ্রাইজ এমনকি জানে না।”

“বিভাগের ছায়া থেকে শুরু করে এমন ব্যক্তিদের কাছে যারা কোম্পানির ডেটা এআইতে তাদের ভূমিকা সরল করার জন্য খাওয়ান।

এর জন্য সিআইও এবং ডেটা অফিসারকে অবশ্যই সমস্ত উপায়ে দেখতে হবে যেভাবে এআই পুরো ব্যবসায় জুড়ে ব্যবহৃত হয় এবং নিয়ন্ত্রণগুলি জায়গায় রাখে।

এআই এর সাথে উত্স ডেটা ইস্যু

এন্টারপ্রাইজ নিয়ন্ত্রণের প্রথম ক্ষেত্রটি হ’ল কীভাবে এআই এর সাথে ডেটা ব্যবহার করবেন। এটি মডেল প্রশিক্ষণের পাশাপাশি এআইয়ের অনুমান বা উত্পাদন পর্যায়ে প্রযোজ্য।

ব্যবসায়ের এআই উদ্দেশ্যে ব্যবহারের অধিকারগুলি পরীক্ষা করা উচিত। এর মধ্যে কপিরাইট অন্তর্ভুক্ত রয়েছে, বিশেষত তৃতীয় পক্ষের ডেটার জন্য। সাধারণ ডেটা প্রোটেকশন রেগুলেশন (জিডিপিআর) এবং শিল্প বিধিগুলি এআইয়ের জন্য ব্যক্তিগতভাবে সনাক্তযোগ্য তথ্য কভার করে। সংস্থাগুলি ধরে নেওয়া উচিত নয় যে বিদ্যমান ডেটা প্রসেসিং এআই অ্যাপ্লিকেশনগুলি কভার করতে সম্মত।

তারপরে ডেটা মানের সমস্যা রয়েছে। যদি কোনও সংস্থা মডেলটি প্রশিক্ষণের জন্য নিম্নমানের ডেটা ব্যবহার করে তবে ফলাফলগুলি ভুল বা বিভ্রান্তিকর হবে।

এটি, পরিবর্তে, সম্মতি ঝুঁকি তৈরি করে – এমনকি সংস্থাটি বেনামে ডেটা ব্যবহার করলেও এই ঝুঁকিগুলি মুছে ফেলা যায় না।

“উত্স ডেটা কর্পোরেট এআইয়ের অন্যতম উপেক্ষিত ঝুঁকিপূর্ণ ক্ষেত্র হিসাবে রয়ে গেছে, সতর্ক করে দিয়েছিল যে এই অনুশীলনগুলি ইউকে জিডিপিআর এবং ইইউ গোপনীয়তা আইনের অধীনে অপর্যাপ্ত। এই তথ্যগুলির বেশিরভাগটি পুনরায় পরিচয় দেওয়া বা পুরো শরীরের পক্ষপাত হিসাবে ধরে নেওয়া যেতে পারে,” তিনি বলেছিলেন।

“বৈশ্বিক প্রযুক্তি সরবরাহকারীদের বৃহত ভাষার মডেলগুলিতে ব্যবহৃত পাবলিক ডেটা প্রায়শই ইউরোপীয় গোপনীয়তার মান পূরণ করতে ব্যর্থ হয়। এআইকে সত্যই নির্ভরযোগ্য করতে, সংস্থাগুলি অবশ্যই তাদের ব্যবহার করা ডেটা সেটগুলি সাবধানতার সাথে পরিকল্পনা ও নিয়ন্ত্রণ করতে হবে, বিশেষত যখন মডেলটি এমন সিদ্ধান্তগুলিকে প্রভাবিত করতে পারে যা ব্যক্তি বা নিয়ন্ত্রিত ফলাফলগুলিকে প্রভাবিত করতে পারে।”

যেখানে এআই মডেলটি চালায় আরও জটিল। যদিও অন-প্রাঙ্গনে এআই এর আগ্রহ বাড়ছে, তবে সর্বাধিক সাধারণ এলএলএম মেঘ ভিত্তিক। সংস্থাগুলি তাদের ক্লাউড বিক্রেতার স্টোরেজে ডেটা সরানোর অধিকার কোথায় রয়েছে তা যাচাই করতে হবে।

কৃত্রিম বুদ্ধিমত্তা আউটপুট এবং সম্মতি

আরও সম্মতি এবং নিয়ন্ত্রক সমস্যাগুলি এআই মডেলগুলির আউটপুটে প্রযোজ্য।

সর্বাধিক সুস্পষ্ট ঝুঁকি হ’ল এআইয়ের গোপনীয় ফলাফলগুলি ফাঁস বা চুরি হয়। এবং, সংস্থাগুলি তাদের এআই সিস্টেমগুলিকে অভ্যন্তরীণ নথি বা ডেটা উত্সগুলির সাথে সংযুক্ত করার সাথে সাথে ঝুঁকি বৃদ্ধি পায়।

কিছু ক্ষেত্রে, এআই ব্যবহারকারীরা তাদের অনুরোধগুলির মাধ্যমে দূষিত বা অনিচ্ছাকৃত গোপনীয় তথ্য প্রকাশ করে। একটি কারণ হ’ল সঠিক নিশ্চয়তা ছাড়াই মডেলটিকে প্রশিক্ষণ দেওয়ার জন্য গোপনীয় ডেটা ব্যবহার করা।

তারপরে, এআই মডেলের আউটপুট ভুল।

“এআই আউটপুট আত্মবিশ্বাসী দেখায়, তবে এটি সম্পূর্ণ মিথ্যা, পক্ষপাতদুষ্ট এবং এমনকি গোপনীয়তা প্রতিযোগিতা,” সিফের লিন্ডেনলাউবকে সতর্ক করেছিলেন। “ব্যবসায়গুলি প্রায়শই বৈষম্যমূলক নিয়োগ থেকে ভুল বা আর্থিক পরামর্শের ক্ষতির ফলাফলগুলিকে হ্রাস করে। এই ঝুঁকিগুলি কঠোর যাচাইকরণ এবং মানব তদারকি ছাড়াই অপারেশনাল দায়বদ্ধতায় পরিণত হয়।”

তদুপরি, “এজেন্ট” এআই সিস্টেমগুলির ঝুঁকি আরও বেশি থাকে, অনেক মডেল একসাথে ব্যবসায়িক প্রক্রিয়া চালায়। যদি কোনও মডেলের আউটপুট ভুল বা পক্ষপাতদুষ্ট হয় তবে এজেন্ট থেকে এজেন্টে যাওয়ার সময় ত্রুটিটি আরও জটিল হবে।

নিয়ন্ত্রক পরিণতিগুলি গুরুতর হতে পারে কারণ একটি ভুল আউটপুট অনেক ক্লায়েন্টকে credit ণ অস্বীকার করতে পারে বা কাজের সাক্ষাত্কার নিতে অস্বীকার করতে পারে।

জেমস বোর বলেছেন, “এআই আউটপুটটির সাথে সর্বাধিক সুস্পষ্ট সমস্যা হ’ল তারা তথ্য নয়, ভাষা তৈরি করে।” “যদিও এটি প্রদর্শিত হবে, এলএলএম বিশ্লেষণ করছে না এবং প্রশিক্ষণের প্রক্রিয়াতে নির্মিত ব্যতীত তাদের কোনও বোঝাও নেই, এমনকি তথ্য এবং উপন্যাসের ওজনও নেই।

তিনি আরও যোগ করেন, “তারা পাগলভাবে বিভ্রান্ত করে, এবং আরও খারাপ, তারা এটি খুব প্ররোচিত উপায়ে করে কারণ তারা ভাষায় ভাল,” তিনি যোগ করেন। “তারা অন্য এলএলএমের চেয়ে পুরোপুরি সত্য যাচাই ছাড়াই তাদের বিশ্বাস করতে পারে না।”

ব্যবসায়ীরা এআইকে অনুগত উপায়ে ব্যবহার করতে পারে তবে সিআইওএস এবং চিফ ডিজিটাল অফিসারদের প্রশিক্ষণ, অনুমান এবং তারা কীভাবে এআইয়ের ফলাফলগুলি ব্যবহার করে তার সম্মতি ঝুঁকিগুলি সাবধানতার সাথে বিবেচনা করা উচিত।