ম্যান্ডিয়া দেখেছেন ওপেন এআই মডেলগুলোও হ্যাক করতে পারে ক্লোজড মডেলের মতোই, যা পেসিং শিবিরের জন্য সমস্যা

৬ অক্টোবর দুই নিরাপত্তা সিইও এবং পেন্টাগনের প্রধান প্রযুক্তি কর্মকর্তা বিভিন্নভাবে বলেছেন যে যারা এআই ধীর করার অনুরোধ করছেন তারা ভুল করছেন। জর্জ কার্ৎজ ক্রাউডস্ট্রাইকের পক্ষ থেকে CNBC-তে ১০% ধ্বংসের অনুমানকে বাজে কথা বলেছেন। পেন্টাগনের প্রধান প্রযুক্তি কর্মকর্তা বলেছেন যে এখন পর্যন্ত প্রতিটি এআই ঘটনা প্রতিরোধযোগ্য ছিল। তবে সেদিন সবচেয়ে দরকারী কথা বলেছেন কেভিন ম্যান্ডিয়া, একই দিনে প্রকাশিত একটি a16z পর্বে। তার কোম্পানি ২০টি বাস্তব অনুপ্রবেশের বিরুদ্ধে ওপেন এবং ক্লোজড মডেল পরীক্ষা করেছে এবং তারা একই সংখ্যক সম্পন্ন করেছে। যদি এটি সত্য হয়, তবে সীমান্ত ল্যাবগুলোকে ধীর করা এআই হ্যাকিং সম্পর্কে সামান্যই করবে, কারণ ওপেন মডেলগুলো ইতিমধ্যে সেখানে পৌঁছে গেছে।

ম্যান্ডিয়ার পরীক্ষাই মনে রাখার মতো সংখ্যা

ম্যান্ডিয়া ম্যান্ডিয়ান্ট তৈরি করেছিলেন, এটি বিক্রি করেছিলেন এবং পঞ্চাশের মাঝামাঝি বয়সে ফিরে এসে আরমাডিন চালাচ্ছেন, একটি স্টার্টআপ যা অপরাধীদের আগে নিজের গ্রাহকদের এআই এজেন্ট দিয়ে আক্রমণ করে। সিকিউরিটি উইক ১ অক্টোবর রিপোর্ট করেছে যে এটি Andreessen Horowitz এবং Accel-এর সহ-নেতৃত্বে $২.৫ বিলিয়ন মূল্যায়নে $২৫৫.৫ মিলিয়ন সংগ্রহ করেছে। তাই a16z হোস্ট একজন বিনিয়োগকারী। এটি মনে রাখুন, এবং তারপর ম্যান্ডিয়া যা রিপোর্ট করেছেন তা দেখুন, কারণ এটি একটি পিচের প্রয়োজনের চেয়ে বেশি সতর্ক।

তার দল ২০টি সম্পূর্ণ আক্রমণ ক্রম লিখেছিল যা মানব অপারেটররা বাস্তব ভিকটিম সাইটে চালিয়েছে, প্রথম প্রবেশ থেকে লক্ষ্য পর্যন্ত। তারপর তারা মডেলগুলোকে চেষ্টা করতে দেয়।

আমরা ওপেন-ওয়েট এবং সবচেয়ে উন্নত ক্লোজড মডেলগুলো পরীক্ষা করেছি। তারা সবাই আটটি খুঁজে পেয়েছে।

কেভিন ম্যান্ডিয়া, a16z, ৬ অক্টোবর, ২০২৬-এ প্রকাশিত, সূত্র

২০টির মধ্যে আটটি একই সাথে দুটি পাঠ। কোনো মডেল, ক্লোজড বা ওপেন, নিজে থেকে একটি বাস্তব অনুপ্রবেশের বেশিরভাগ সম্পন্ন করতে পারেনি, যা সবচেয়ে ভয়ঙ্কর পরিস্থিতির জন্য একটি ঠান্ডা ঝরনা। এবং ক্লোজড মডেলগুলোর একমাত্র সুবিধা ছিল গতি এবং খরচ। ম্যান্ডিয়া বলেছেন তার দল ওপেন মডেলগুলোকে দীর্ঘ সময় চলতে দিয়েছে এবং "তারা একই জায়গায় পৌঁছেছে।" এই দ্বিতীয় পয়েন্টটি পেসিং বিতর্ক এড়িয়ে গেছে।

কেন ওপেন মডেলগুলো সীমান্তের চেয়ে বেশি গুরুত্বপূর্ণ

ম্যান্ডিয়া এর থেকে কী হয় তা নিয়ে দ্বিধা করেন না। অপরাধীদের জন্য বাধা, তার ভাষায়, মডেলের গুণমান নয়, বেনামী।

ওপেন মডেলগুলো ইতিমধ্যে যথেষ্ট ভালো, এবং এগুলো এখন সাধারণ। জিপিইউ-এর বেনামী প্রাপ্যতা পাওয়ার মুহূর্তে আপনি অনেক বেশি অপরাধমূলক আক্রমণ দেখতে পাবেন।

কেভিন ম্যান্ডিয়া, a16z, ৬ অক্টোবর, ২০২৬-এ প্রকাশিত, সূত্র

পালো অল্টো নেটওয়ার্কসের নিকেশ অরোরা নীতিগত দিক থেকে একই জায়গায় পৌঁছেছেন। CNBC-এর সাথে তার টেক ডাউনলোড সাক্ষাৎকারটি সেপ্টেম্বরের শেষে আমস্টারডামের হিউম্যানএক্স-এ রেকর্ড করা হয়েছিল এবং ৬ অক্টোবর প্রকাশিত হয়েছিল, তাই এটিকে পটভূমি হিসাবে বিবেচনা করুন। তিনি বলেছেন তিনি প্রথমে ল্যাবগুলোর পেসিং প্রস্তাবকে "একটি নিনজা পদক্ষেপ" বলে অভিহিত করেছিলেন, নিয়ন্ত্রক সহানুভূতির জন্য একটি খেলা, এবং তারপর একটি সহজ কারণে তার মত পরিবর্তন করেছেন। কেউ এটি প্রয়োগ করতে পারে না।

আমি মনে করি এটি অবাস্তব। সবাই নিজেদের গতিতে চলবে না।

নিকেশ অরোরা, দ্য টেক ডাউনলোড, সেপ্টেম্বরের শেষে রেকর্ড করা, ৬ অক্টোবর, ২০২৬-এ প্রকাশিত, সূত্র

একই কথোপকথনের আগে অরোরা বলেছিলেন পালো অল্টো ভবিষ্যদ্বাণী করেছিল যে ওপেন মডেলগুলো তিন থেকে ছয় মাসের মধ্যে মিথোসের সাথে মিলবে, এবং "এখন এমন ওপেন সোর্স মডেল রয়েছে যা প্রায় মিথোসের মতোই ভালো।" এটিকে ম্যান্ডিয়ার ২০টির মধ্যে আটের পাশে রাখুন এবং আপনি দুই প্রতিযোগীর কাছ থেকে একটি সামঞ্জস্যপূর্ণ গল্প পান। সীমান্ত নতুন ক্ষমতার জন্য সর্বোচ্চ সীমা নির্ধারণ করে। নেটওয়ার্কে প্রবেশের জন্য, ন্যূনতম স্তর ইতিমধ্যে ধরেছে।

কার্ৎজ বলেছেন ধ্বংসের গণিত বাজে কথা

জিম ক্রেমার স্কোয়াক বক্স সেগমেন্টটি শুরু করেছিলেন উল্লেখ করে যে ক্রাউডস্ট্রাইক আগের দিন সর্বকালের উচ্চতায় পৌঁছেছিল। ইয়াহু ফাইন্যান্স ৫ অক্টোবরের ইন্ট্রাডে রেকর্ড $২৭৪.২৩-এ রেখেছে, স্টকটি জানুয়ারির শেষ থেকে ১৪৭% বেড়েছে। ক্রেমার তখন কার্ৎজকে গবেষকদের সম্পর্কে চাপ দেন যারা বলেন যে দশকের শেষে এআই সবাইকে হত্যা করার একটি বাস্তব সম্ভাবনা রয়েছে।

বাজে কথা, জিম। আমরা ২০৩০ সালে ১০% সম্ভাবনা নিয়ে মৃত হব না।

জর্জ কার্ৎজ, CNBC স্কোয়াক বক্স, ৬ অক্টোবর, ২০২৬, সূত্র

তার সমাধান হল এজেন্টদের জন্য একটি "ফ্লাইট রেকর্ডার", প্রতিটি ফাইলের একটি লগ যা একটি এজেন্ট স্পর্শ করে এবং প্রতিটি কাজ এটি করে, এটি বন্ধ করার একটি উপায়ের সাথে যুক্ত। তিনি NIST মান এবং স্ব-পুলিশিং চান, পাঁচ বছরের সার্টিফিকেশন নয়। নিরাপত্তা গবেষকদের জন্য তার একটি তীক্ষ্ণ মন্তব্যও ছিল: "তাদের আরও ঘন ঘন নিরাপত্তা বিশেষজ্ঞদের পরামর্শ নেওয়া উচিত।"

আমি প্রকৌশল যুক্তি গুরুত্ব সহকারে নিই, এবং তবুও সুরটি ছাড় দেব। একজন সিইও যার স্টক এআই নিরাপত্তা চাহিদায় ১৪৭% বেড়েছে তার প্রতিটি কারণ আছে বলার যে সমস্যাটি একটি পণ্য কেনার মতো যথেষ্ট বাস্তব এবং কাউকে ধীর করার মতো এত বাস্তব নয়। তার নিজের সেরা উদাহরণ শান্ততার বিরুদ্ধে যায়। তিনি উল্লেখ করেছেন অস্ট্রেলিয়ায় একটি হ্যাক যা ৮৪ দিন চলে গেছে কেউ জানার আগে। এটি OpenAI-এর এজেন্ট ১৮ জুন অস্ট্রেলিয়ার মেডিকেয়ার পরিসংখ্যান পোর্টালে প্রবেশ করা এবং OpenAI ১০ সেপ্টেম্বর ক্যানবেরাকে জানানোর মধ্যে ব্যবধানের সাথে মেলে, যা আমরা সেপ্টেম্বরে কভার করেছি। একটি ফ্লাইট রেকর্ডার কিছুই করে না যদি কেউ ৮৪ দিন এটি না পড়ে।

পেন্টাগন প্রতিটি ঘটনাকে প্রতিরোধযোগ্য বলে

এমিল মাইকেল, গবেষণা ও প্রকৌশলের আন্ডার সেক্রেটারি, একই সকালে CNBC-তে ছিলেন অ্যান্ডুরিলের নৌবাহিনীর পুরস্কার নিয়ে কথা বলতে, একটি চুক্তি যা বাল্টিমোর কাউন্টিতে একটি সাবমেরিন যন্ত্রাংশ শিপইয়ার্ডের জন্য $২.৯ বিলিয়ন পর্যন্ত মূল্যের, যা ডিফেন্সস্কুপ রিপোর্ট করেছে অ্যান্ডুরিল নিজের $৩.৭ বিলিয়ন দিয়ে সমর্থন করছে। এআই ঝুঁকি সম্পর্কে জিজ্ঞাসা করা হলে, তিনি কার্ৎজের চেয়ে আরও এগিয়ে গিয়ে কিছু ভয়কে "ভীতি প্রদর্শন কৌশল" হিসাবে দায়ী করেছেন যা "সম্ভাব্যভাবে কিছু বিদেশী প্রভাবের সাথে" ছড়িয়ে পড়েছে। তিনি এর জন্য কোনো প্রমাণ দেননি, এবং আমি এটি সত্য হিসাবে পুনরাবৃত্তি করব না।

তাই আমি মনে করি আমরা এখন পর্যন্ত যা দেখেছি তা ল্যাবগুলো নিজেরাই প্রতিরোধ করতে পারত। এবং এটি একটি মূল পয়েন্ট যা মনে রাখা উচিত।

এমিল মাইকেল, CNBC, ৬ অক্টোবর, ২০২৬, সূত্র

প্রতিরোধযোগ্য স্যান্ডবক্স ব্যর্থতা এবং অপরীক্ষিত লগগুলির জন্য একটি ন্যায্য শব্দ। এটি বলার একটি উপায়ও যে সমস্যাটি ল্যাব এবং তাদের আইনজীবীদের, সরকারের নয়। মাইকেল এটি বলেছিলেন যখন তিনি নিশ্চিত করার কথা বলেছিলেন যে কোম্পানিগুলি "জানে যে তারা নির্দিষ্ট ক্ষেত্রে দায়ী।"

ম্যান্ডিয়া মনে করেন না আগামী বছর শান্ত হবে

এখানেই নিরাপত্তা শিবির বিভক্ত হয়, এবং এটি a16z পর্বের সেই অংশ যা ক্লিপগুলো এড়িয়ে যাবে। ম্যান্ডিয়া কার্ৎজের সাথে একমত যে মডেলগুলো ধীর করা অর্থহীন। তিনি একমত নন যে জিনিসগুলি নিয়ন্ত্রণে রয়েছে। তিনি বলেছেন আরমাডিন জানুয়ারি থেকে গ্রাহক সাইটে ৯০টিরও বেশি জিরো ডে খুঁজে পেয়েছে, এবং শেষ কয়েকটি তার লোকদের পরিবর্তে এআই খুঁজে পেয়েছে। কর্মী নিয়ে তিনি স্পষ্ট: "যদি আপনার ডিটেক্ট এবং রেসপন্ড লুপে মানুষ থাকে, আপনি খুব ধীর হবেন।"

তাই আগামী বছর সুন্দর করার কোনো উপায় নেই। এটাই বলার সবচেয়ে ভালো উপায়।

কেভিন ম্যান্ডিয়া, a16z, ৬ অক্টোবর, ২০২৬-এ প্রকাশিত, সূত্র

তিনি এটিকে একটি জানালা হিসাবে ফ্রেম করেছেন যখন আক্রমণাত্মক দিকের সুবিধা রয়েছে, এবং বলেছেন ইরান বা রাশিয়ার আক্রমণকারীরা "এখনই ঢোকার একটি মুহূর্তে হতাশা" অনুভব করে। এটি স্বায়ত্তশাসিত প্রতিরক্ষার জন্যও একটি বিক্রয় পিচ, এবং তার উপর $২.৫ বিলিয়ন মূল্যায়ন ঝুলছে। এটি তিনজনের মধ্যে সবচেয়ে নির্দিষ্ট পূর্বাভাসও।

তাহলে ল্যাবগুলো ধীর করা কি কাউকে এআই হ্যাকারদের থেকে নিরাপদ করে?

এই প্রমাণে, খুব বেশি নয়। দিনের সবচেয়ে শক্তিশালী তথ্য পয়েন্ট বলে যে ওপেন-ওয়েট মডেলগুলো ইতিমধ্যে বাস্তব অনুপ্রবেশে ক্লোজড মডেলগুলোর সাথে মেলে, একবার তাদের সময় দেওয়া হয়। এটি কয়েকটি মার্কিন ল্যাবে পেসিংকে অপরাধী এবং রাষ্ট্রগুলির বিরুদ্ধে একটি দুর্বল হাতিয়ার করে তোলে যারা ভাড়া করা জিপিইউতে ওপেন মডেল চালায়। নিরাপত্তা সিইওরা আসলে যা তর্ক করছেন তা হল অর্থ এজেন্টদের দেখার, লগ করার এবং দ্রুত কেটে ফেলার দিকে যাওয়া উচিত। এটি স্বার্থপর, এবং সম্ভবত সঠিক। খোলা প্রশ্নটি ম্যান্ডিয়া উত্থাপন করেছেন এবং কার্ৎজ এড়িয়ে গেছেন। ২০টির মধ্যে আটটি আজকের সংখ্যা। ক্যামেরায় কেউ বলেনি যখন এটি ১৫-এ পৌঁছায় তখন কী ঘটবে।