বড় ভাষার মডেলগুলি কি আসলে নতুন অ্যালগরিদমগুলি আবিষ্কার করতে পারে?

“নামে একটি গাণিতিক ধারণা রয়েছে”চুম্বন নম্বর। ‘কিছুটা হতাশাজনকভাবে, আসল চুম্বনের সাথে এর কোনও যোগসূত্র নেই। এটি গণনা করে যে কতগুলি বল এটি অতিক্রম না করে সমান আকারের একটি বল স্পর্শ করতে পারে (বা “চুম্বন”)। একটি মাত্রায়, চুম্বনের সংখ্যা দুটি। দুটি মাত্রায় এটি 6 (ভাবুন নিউ ইয়র্ক টাইমসমৌমাছির ধাঁধা কনফিগারেশন বানান)। আকারের সংখ্যা বাড়ার সাথে সাথে উত্তরটি কম স্পষ্ট হয়ে যায়: 4 টিরও বেশি মাত্রার জন্য, কেবল চুম্বনের সংখ্যার উপরের এবং নিম্ন সীমাটি জানা যায়। এখন, গুগল ডিপমাইন্ড দ্বারা বিকাশিত একটি এআই এজেন্ট, যাকে আলফাভলভ নামে পরিচিত, সমস্যাটিতে অবদান রাখে, 11 টি মাত্রায় চুম্বনের নিম্ন সীমা 592 থেকে 593 থেকে বাড়িয়ে তোলে।

এটি সমস্যার একটি বর্ধিত উন্নতি বলে মনে হচ্ছে, বিশেষত 11 টি মাত্রায় চুম্বনের সংখ্যার উপরের সীমা 868, তাই অজানা পরিসীমা এখনও বড়। তবে এটি এআই এজেন্টদের একটি অভিনব গাণিতিক আবিষ্কারের প্রতিনিধিত্ব করে এবং বড় ভাষার মডেলগুলি মূল বৈজ্ঞানিক অবদান রাখতে পারে না এই ধারণাটিকে চ্যালেঞ্জ জানায়।

এটি আলফাভলভ কী অর্জন করেছে তার একটি উদাহরণ। “আমরা গণিত অধ্যয়নের ক্ষেত্রে একাধিক উন্মুক্ত সমস্যার জন্য আলফাভলভ প্রয়োগ করেছি এবং গণিতের বিভিন্ন অংশ থেকে ইচ্ছাকৃতভাবে নির্বাচিত সমস্যাগুলি: বিশ্লেষণ, সংমিশ্রণবাদ, জ্যামিতি,” ডিপমাইন্ডের গবেষণা বিজ্ঞানী মেটেজ বালোগ বলেছেন। তারা দেখতে পেল যে 75% সমস্যার জন্য, এআই মডেল ইতিমধ্যে পরিচিত সেরা সমাধানগুলির প্রতিরূপ করে। 20% ক্ষেত্রে, এটি একটি নতুন সেরা খুঁজে পেয়েছে যা কোনও পরিচিত সমাধানকে ছাড়িয়ে গেছে। “সবকিছু এটি একটি নতুন আবিষ্কার,” বালোগ বলেছিলেন। (অন্যান্য 5% ক্ষেত্রে, এআই সমাধানের সাথে আরও ভাল সমাধানের চেয়ে খারাপ সমাধানের চেয়ে আরও খারাপ রূপান্তরিত করে))

মডেলটি ম্যাট্রিক্স গুণনের জন্য একটি নতুন অ্যালগরিদমও তৈরি করেছিল, যা মেশিন লার্নিংয়ের প্রাথমিক অপারেশন। ডিপমাইন্ডের এআই মডেলের পূর্ববর্তী সংস্করণ, যাকে আলফেটেনসর বলা হয়, 1969 সালে আবিষ্কার করা সর্বাধিক বিখ্যাত অ্যালগরিদমকে পরাজিত করেছে, যা একটি 4 ম্যাট্রিক্সকে 4 ম্যাট্রিক্স দ্বারা গুণিত করে। আলফাভলভ উন্নত অ্যালগরিদমের আরও সাধারণ সংস্করণ আবিষ্কার করেছেন।

ডিপমাইন্ডের আলফাভলভ গুগলের সাথে বেশ কয়েকটি ব্যবহারিক সমস্যাগুলিতে উন্নত হয়েছে। গুগল ডিপমাইন্ড

অ্যাবস্ট্রাক্ট ম্যাথ ছাড়াও, দলটি প্রতিদিন গুগল মুখোমুখি ব্যবহারিক সমস্যার জন্য এর মডেলগুলি প্রয়োগ করে। এআই পরবর্তী গুগল টেনসর প্রসেসিং ইউনিটের নকশাকে অনুকূল করতে এবং জেমিনি প্রশিক্ষণে ব্যবহৃত কার্নেলগুলির উন্নতিগুলি খুঁজে পেতে 1% উন্নতি উন্নত করতে ডেটা সেন্টারগুলির অর্কেস্টেশনকে অনুকূল করতেও ব্যবহৃত হয়, এইভাবে প্রশিক্ষণের সময়কে 1% হ্রাস করে।

ডিপমাইন্ডের সিনিয়র গবেষণা বিজ্ঞানী আলেকজান্ডার নোভিকভ বলেছেন, “আপনি কীভাবে একটি সিস্টেমের সাহায্যে বিভিন্ন জিনিস করতে পারেন তা আশ্চর্যজনক।”

আলফাভল কীভাবে কাজ করে

আলফাভলভ এত সাধারণ হতে পারে, কারণ এটি প্রায় কোনও সমস্যার ক্ষেত্রে প্রয়োগ করা যেতে পারে যা কোড হিসাবে প্রতিনিধিত্ব করা যায় এবং অন্য কোড দ্বারা পরীক্ষা করা যায়। ব্যবহারকারী সমস্যার জন্য প্রাথমিক ছুরিকাঘাত সরবরাহ করে এবং প্রোগ্রামটি সমস্যাটি সমাধান করতে পারে, সাবপটিমাল – একটি বৈধকরণের প্রোগ্রাম যা কোডের একটি অংশ প্রয়োজনীয় মানদণ্ডটি কতটা পূরণ করে তা যাচাই করে।

বৃহত্তর ভাষার মডেল (এই ক্ষেত্রে জেমিনি) তারপরে একই সমস্যা সমাধানের জন্য অন্যান্য প্রার্থী পদ্ধতির প্রস্তাব দেয় এবং প্রতিটি সমস্যা বৈধকরণের দ্বারা পরীক্ষা করা হয়। সেখান থেকে, আলফাভলভ প্রস্তাবিত সমাধানটিকে “জয়ের হার” বেঁচে থাকতে এবং পরবর্তী প্রজন্মের বিকাশ করতে জেনেটিক অ্যালগরিদম ব্যবহার করে। সমাধানটি উন্নতি বন্ধ না হওয়া পর্যন্ত এই প্রক্রিয়াটি পুনরাবৃত্তি হয়।

আলফাভলভ মূল্যায়ন কোডের সাথে একত্রে একটি মিথুন বৃহত ভাষার মডেল (এলএলএম) এনসেম্বল ব্যবহার করে, এগুলি সমস্তই কোডের একটি অংশকে অনুকূল করতে জেনেটিক অ্যালগরিদম দ্বারা সাবধানতার সাথে সজ্জিত করা হয়। গুগল ডিপমাইন্ড

“বড় ভাষার মডেলগুলি উত্থিত হয় এবং আমরা নিজেদেরকে জিজ্ঞাসা করতে শুরু করি যে তারা কেবল প্রশিক্ষণের ডেটা থেকে সামগ্রী যুক্ত করবে, বা আমরা আসলে এগুলি সম্পূর্ণ নতুন, নতুন অ্যালগরিদম বা নতুন জ্ঞান আবিষ্কার করতে ব্যবহার করতে পারি?” ব্যারোগ ড। বালোগ দাবি করেছেন যে সমীক্ষায় দেখা গেছে, “আপনি যদি বড় ভাষার মডেলগুলি সঠিক উপায়ে ব্যবহার করেন তবে আপনি খুব সুনির্দিষ্ট অর্থে নতুন কিছু পেতে পারেন যা নতুন হিসাবে প্রমাণিত হতে পারে এবং একটি অ্যালগরিদমের আকারে সঠিকতা পেতে পারে।”

আলফায়ভলভ ডিপমাইন্ড মডেলের দীর্ঘ বংশ থেকে এসেছে, আলফাজেরোতে ফিরে আসে, যা দাবা, গো এবং অন্যান্য গেমস খেলতে শিখে কোনও মানবিক জ্ঞান ছাড়াই বল, গো এবং অন্যান্য গেমগুলি খেলতে আরও ভাল করে তোলে, যা বিশ্বকে ধাক্কা দেয়, যা গেমস খেলতে এবং পুনর্বহাল শেখার ব্যবহার করে এটি আয়ত্ত করে। বর্ধিত শিক্ষার উপর ভিত্তি করে গাণিতিক সমাধানের উপর ভিত্তি করে আরেকটি এআই লেটার পার্টিশন সিলভার চিকিত্সক স্তর 2024 আন্তর্জাতিক গণিত অলিম্পিকে অনুষ্ঠিত হয়েছিল।

যাইহোক, আলফাভলভের জন্য, দলটি জেনেটিক অ্যালগরিদমগুলিকে সমর্থন করে এমন শক্তিবৃদ্ধি শেখার tradition তিহ্য থেকে দূরে সরে গেছে। “সিস্টেমটি অনেক সহজ,” বালোগ বলেছিলেন। “এর আসলে পরিণতি রয়েছে এবং বিভিন্ন ইস্যুতে সেট আপ করা আরও সহজ” “

(মোটেও ভয়ঙ্কর ভবিষ্যত নয়)

আলফাভলভের পিছনে দলটি তাদের সিস্টেমটি দুটি উপায়ে বিকাশ করবে বলে আশাবাদী।

প্রথমত, তারা এটিকে প্রাকৃতিক বিজ্ঞান সহ বিস্তৃত সমস্যার ক্ষেত্রে প্রয়োগ করতে চায়। এটি অর্জনের জন্য, তারা আগ্রহী পণ্ডিতদের তাদের গবেষণায় আলফাভলভ ব্যবহার করার জন্য একটি প্রাথমিক অ্যাক্সেস প্রোগ্রাম খোলার পরিকল্পনা করছে। প্রাকৃতিক বিজ্ঞানের সাথে সিস্টেমটি খাপ খাইয়ে নেওয়া আরও কঠিন হতে পারে, কারণ প্রস্তাবিত সমাধানের বৈধতা কম সরাসরি হতে পারে। তবে, বালোগ বলেছিলেন, “আমরা জানি যে প্রাকৃতিক বিজ্ঞানে বিভিন্ন ধরণের সমস্যার জন্য প্রচুর সিমুলেটর রয়েছে যা পরে আলফাভলভে ব্যবহার করা যেতে পারে। ভবিষ্যতে আমরা এই দিকটিতে সুযোগটি প্রসারিত করতে খুব আগ্রহী।”

দ্বিতীয়ত, তারা অন্য গভীর প্রকল্পের সাথে একত্রিত করে সিস্টেমটিকে নিজেই উন্নত করার আশাবাদী: এআই সহ-বিজ্ঞানী। এআই এলএলএম এবং জেনেটিক অ্যালগরিদমগুলিও ব্যবহার করে তবে এটি প্রাকৃতিক ভাষার হাইপোথিসিস প্রজন্মকে কেন্দ্র করে। “তারা এই উচ্চ-স্তরের ধারণাগুলি এবং অনুমানগুলি বিকাশ করেছে,” বালোগ বলেছিলেন। “আমি বিশ্বাস করি যে এই উপাদানটিকে αvove এর মতো একটি সিস্টেমে অন্তর্ভুক্ত করা আমাদের বিমূর্ততার উচ্চ স্তরে পৌঁছানোর অনুমতি দেবে।”

এই সম্ভাবনাগুলি উত্তেজনাপূর্ণ, তবে কারও কারও কাছে এগুলিও মর্মস্পর্শী হতে পারে-উদাহরণস্বরূপ, আলফাভলভের জেমিনি প্রশিক্ষণের অপ্টিমাইজেশনকে স্ব-প্রপোজড এআইয়ের সূচনা হিসাবে দেখা যেতে পারে, কিছু আশঙ্কায় যে এটি এককতার নামক একটি অদ্ভুত গোয়েন্দা বিস্ফোরণ ঘটায়। অবশ্যই, ডিপমাইন্ড দল বিশ্বাস করে যে এটি তাদের লক্ষ্য নয়। “আমরা এআই প্রচারে অবদান রাখতে পেরে সন্তুষ্ট যা মানুষের পক্ষে উপকারী।”