ক্লাউড ছাড়াই ল্যাপটপে চলবে শক্তিশালী লার্জ ল্যাঙ্গুয়েজ মডেল: এনভিডিয়া ও মাইক্রোসফটের নতুন অন-ডিভাইস এআই আর্কিটেকচার
কৃত্রিম বুদ্ধিমত্তার ব্যবহারে দীর্ঘদিনের সবচেয়ে বড় সীমাবদ্ধতা ছিল ইন্টারনেটের উপর অতিরিক্ত নির্ভরশীলতা এবং দূরবর্তী ক্লাউড সার্ভারের বিলম্ব। তবে এনভিডিয়া এবং মাইক্রোসফটের যৌথ উদ্যোগে উইন্ডোজ ১১ প্ল্যাটফর্মে নিয়ে আসা হয়েছে নতুন প্রজন্মের ‘অন-ডিভাইস এআই’ আর্কিটেকচার। এর ফলে এখন ল্যাপটপ বা ব্যক্তিগত কম্পিউটারে ইন্টারনেট সংযোগ ছাড়াই সম্পূর্ণ অফলাইনে দ্রুতগতিতে চলবে শক্তিশালী লার্জ ল্যাঙ্গুয়েজ মডেল (LLM)।

এনপিইউ ও আরটিএক্স জিপিইউর সমন্বিত কার্যক্ষমতা
এই প্রযুক্তির মূল চালিকাশক্তি হলো ডেডিকেটেড নিউরাল প্রসেসিং ইউনিট (NPU) এবং এনভিডিয়া আরটিএক্স (GeForce RTX) সিরিজের উন্নত টেনসর কোর। এই হাইব্রিড হার্ডওয়্যার অপ্টিমাইজেশনের মাধ্যমে মেমরি ব্যান্ডউইথ সাশ্রয় করে চার থেকে আট বিলিয়ন প্যারামিটারের মডেলগুলো ব্যাটারি খরচ না বাড়িয়েই মসৃণভাবে পরিচালনা করা সম্ভব হচ্ছে।
ডেটা প্রাইভেসি ও তাৎক্ষণিক রেসপন্স টাইম
অন-ডিভাইস এআই স্থানীয়ভাবে প্রসেস হওয়ার কারণে ব্যবহারকারীর ব্যক্তিগত ডেটা বা প্রতিষ্ঠানের গোপনীয় ফাইল কোনো দূরবর্তী সার্ভারে পাঠাতে হয় না। ফলে ডেটা প্রাইভেসি নিয়ে কোনো ঝুঁকি থাকে না। একই সাথে জিরো-লেটেন্সি সুবিধার ফলে কোডিং অ্যাসিস্ট্যান্ট, কনটেন্ট সামারাইজেশন এবং লাইভ অনুবাদ পাওয়া যাচ্ছে চোখের পলকে।
পিসি নির্মাতারা একে ব্যক্তিগত কম্পিউটারের এক নতুন বিপ্লব হিসেবে দেখছেন। ভবিষ্যতে প্রতিটি সাধারণ ল্যাপটপই একটি শক্তিশালী স্থানীয় এআই ওয়ার্কস্টেশনে পরিণত হতে যাচ্ছে, যা ব্যবহারকারীদের সৃষ্টিশীলতাকে নিয়ে যাবে ভিন্ন উচ্চতায়।