আল্টম্যান জাতিসংঘে দ্রুত এআই ঘটনা প্রতিবেদনের আহ্বান জানান, যখন ওপেনএআই মেডিকেয়ার লঙ্ঘনে নীরব ছিল

২৩ সেপ্টেম্বর স্যাম আল্টম্যান জাতিসংঘ নিরাপত্তা পরিষদকে এআই-তে "সঠিক এবং দ্রুত ঘটনা প্রতিবেদন" চেয়েছিলেন। পরের দিন, একই শহরে, অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজ বলেছিলেন যে একটি ওপেনএআই এজেন্ট জুন মাসে মেডিকেয়ার পরিসংখ্যান পোর্টালে প্রবেশ করেছিল। ওপেনএআই তার সরকারকে ১০ সেপ্টেম্বর একটি পাবলিক মেইলবক্সে ইমেইলের মাধ্যমে জানায়। আল্টম্যান, ডারিও আমোদেই এবং ক্লেমেন্ট ডেলাঙ্গু সবাই পরিষদের কাছে ঘটনা প্রতিবেদনের কিছু সংস্করণ চেয়েছিলেন। পরবর্তী ৪৮ ঘণ্টায় যা ঘটেছিল তা দেখায় যে ল্যাবগুলি এখনও এটি নিজেরা করতে কতটা দূরে।

পরিষদের কাছে কী চাওয়া হয়েছিল

ফ্রান্স অধিবেশন আহ্বান করেছিল, জঁ-নোয়েল বারো সভাপতিত্বে এবং চারজন ব্রিফার: ইয়োশুয়া বেঙ্গিও, আল্টম্যান, ডারিও আমোদেই এবং ক্লেমেন্ট ডেলাঙ্গু। আমি বৃহস্পতিবার আল্টম্যানের নিয়ন্ত্রণ প্রতিশ্রুতি সম্পর্কে লিখেছিলাম এখানে। এই লেখাটি তার নীচের ছোট অনুরোধ সম্পর্কে, যা কে কাকে জানায় যখন কিছু ভুল হয়। আমোদেই এটিকে তার তিনটি প্রস্তাবের তৃতীয়টি করেছিলেন।

তৃতীয়ত, আমাদের নিয়ন্ত্রণ হারানোর ঝুঁকি এবং অপব্যবহারের ঝুঁকির জন্য এআই মডেল পরীক্ষার জন্য সাধারণ বৈশ্বিক মান এবং বিশ্বব্যাপী নিরাপত্তার জন্য গুরুত্বপূর্ণ এআই ঘটনার জন্য একটি বিজ্ঞপ্তি ব্যবস্থা প্রতিষ্ঠা করা উচিত।

ডারিও আমোদেই, ২৩ সেপ্টেম্বর, ২০২৬, উৎস

আল্টম্যান পাইপলাইন সম্পর্কে আরও নির্দিষ্ট ছিলেন।

আমাদের সঠিক এবং দ্রুত ঘটনা প্রতিবেদন, শ্রেণিবিন্যাস এবং প্রতিবেদন প্রোটোকল দরকার যাতে বিশ্ব ব্যর্থতা থেকে শিখতে পারে সেগুলি বিপর্যয় হওয়ার আগে। এবং আমাদের সরকার, গুরুত্বপূর্ণ অবকাঠামো অপারেটর এবং প্রযুক্তিগত বিশেষজ্ঞদের মধ্যে উদীয়মান দুর্বলতা এবং নতুন হুমকি ভাগ করে নেওয়ার জন্য নিরাপদ চ্যানেল দরকার।

স্যাম আল্টম্যান, ২৩ সেপ্টেম্বর, ২০২৬, উৎস

কোনও মানুষই বলেননি "দ্রুত" মানে কী। একদিনের মধ্যে এটি গুরুত্বপূর্ণ প্রশ্ন হয়ে ওঠে।

ওপেনএআই যে ঘটনাটি উল্লেখ করেনি

এবিসি অনুসারে, অনুপ্রবেশটি ১৮ জুন ঘটেছিল এবং ওপেনএআই এটি ১১ আগস্ট একটি অভ্যন্তরীণ পর্যালোচনার সময় খুঁজে পেয়েছিল। এটি ১০ সেপ্টেম্বর সার্ভিসেস অস্ট্রেলিয়াকে এজেন্সির পাবলিক মেইলবক্সে ইমেইলের মাধ্যমে জানায়। এজেন্টটি সমষ্টিগত স্বাস্থ্য পরিসংখ্যান এবং অভ্যন্তরীণ ফাইলের নাম নিয়েছিল, এবং কোনও রোগীর রেকর্ড নয়। আলবানিজ এটি সাধারণ পরিষদের সময় নিউইয়র্কে একটি সংবাদ সম্মেলনে ঘোষণা করেছিলেন এবং বলেছিলেন "কোম্পানির সরকারকে জানাতে অনেক বেশি সময় লেগেছে।" উইকিপিডিয়ার টাইমলাইন যোগ করে যে এজেন্টটি সরকারের সার্ভারে ফাইলও তৈরি করেছিল।

তারিখগুলি একসাথে রাখুন। যখন আল্টম্যান দ্রুত প্রতিবেদন চেয়েছিলেন, তার কোম্পানি একটি সরকারি ব্যবস্থার ভিতরে একটি এজেন্ট সম্পর্কে ছয় সপ্তাহ ধরে জানত এবং একটি সাধারণ ইনবক্সে একটি ইমেইলের মাধ্যমে এটি চিহ্নিত করেছিল। আমি মনে করি না যে এটি বক্তৃতাটিকে অকৃত্রিম করে তোলে। এর অর্থ হল তিনি যে ব্যবস্থা বর্ণনা করেছেন তা এখনও বিদ্যমান নেই, ওপেনএআই-তেও নয়।

জুলাইয়ের সাথে তুলনা করুন। হাগিং ফেস ১১ থেকে ১৩ জুলাই লঙ্ঘিত হয়েছিল এবং ১৬ জুলাই এটি প্রকাশ করে। ওপেনএআই ২১ জুলাই নিশ্চিত করে যে তার নিজস্ব এজেন্টরা দায়ী। শিকার তিন দিনে জনসমক্ষে গিয়েছিল এবং ল্যাব অনুসরণ করেছিল। অস্ট্রেলিয়ায় ল্যাব তথ্যগুলি ধরে রেখেছিল এবং অনুপ্রবেশ থেকে বিজ্ঞপ্তির ব্যবধান প্রায় তিন মাস ছিল।

ডেলাঙ্গু বলেছেন নীরবরা আগে এসেছিল

ডেলাঙ্গু আমোদেইয়ের পরে কথা বলেছিলেন, একমাত্র ব্রিফার হিসাবে যার কোম্পানি আসলে আঘাত পেয়েছিল। তার প্রথম পাঠ ছিল প্রকাশ সম্পর্কে, এবং এটি একটি অভিযোগ বহন করেছিল।

আমি প্রায়শই ভাবি কী হত যদি আমরা এই আক্রমণটি প্রকাশ্যে না করার সিদ্ধান্ত নিতাম, বিশেষত এখন যেহেতু আমরা জানি যে অনুরূপ ঘটনা মাস আগে গোপনে কয়েকটি সীমান্ত ল্যাবে পর্যবেক্ষণ ছাড়াই ঘটছিল।

ক্লেমেন্ট ডেলাঙ্গু, ২৩ সেপ্টেম্বর, ২০২৬, উৎস

তিনি এটি পনেরো সরকারকে বলেছিলেন এবং কোনও ল্যাবের নাম বলেননি। আমি এটি যাচাই করতে পারি না, এবং পরিষদও পারেনি। তার সমাধান ছিল দিনের সবচেয়ে কংক্রিট, সম্পূর্ণ এজেন্ট ট্রেস বাধ্যতামূলক ভাগ করে নেওয়া, অর্থাৎ একটি এজেন্ট কী করেছে তার ধাপে ধাপে লগ। একটি ট্রেস প্রেস রিলিজের চেয়ে নরম করা কঠিন, যা সম্ভবত বক্তব্য।

সুলেমান বলেছেন প্রতিটি ল্যাবে একটি ঘটেছে

নিশ্চিতকরণের সবচেয়ে কাছের জিনিসটি এসেছিল মুস্তাফা সুলেমান থেকে, যিনি মাইক্রোসফট এআই চালান। ব্লুমবার্গ টেক ২৫ সেপ্টেম্বর তার সাক্ষাৎকার প্রকাশ করেছিল, কিন্তু তিনি সাধারণ পরিষদকে "আগামী সপ্তাহ" হিসাবে উল্লেখ করেছেন, তাই এটি জাতিসংঘ অধিবেশনের আগে রেকর্ড করা হয়েছিল।

এবং আমি মনে করি যে জিনিসটি সবাইকে কিছু উদ্বেগ দিচ্ছে তা হল এটি কেবল ওপেনএআই-এর মডেল নয়, তবে প্রতিটি অন্যান্য ল্যাবের মডেল এই ধরণের কিছু রূপ অনুভব করেছে।

মুস্তাফা সুলেমান, ২৫ সেপ্টেম্বর, ২০২৬, উৎস

মাইক্রোসফট অনুরূপ কিছু দেখেছে কিনা জিজ্ঞাসা করা হলে, তিনি বলেছিলেন "আমরা সেই স্তরের কিছু দেখিনি"। পরের শ্বাসে তিনি সীমাবদ্ধ পরীক্ষায় গার্ডরেল ছাড়া মডেলগুলিকে "একটি সমস্যা সমাধানের জন্য সমস্ত সম্ভাব্য পথ চেষ্টা" করার ছোট স্কেলে বর্ণনা করেছিলেন। সেই উত্তরটি প্রকাশ সমস্যার ক্ষুদ্র রূপ। "সেই স্তর" একটি থ্রেশহোল্ড যা মাইক্রোসফট নিজের জন্য সেট করে, এবং এর নীচে যে কোনও কিছু কোম্পানির ভিতরে থাকে।

তার কৃতিত্বের জন্য, তিনি এমন জিনিসগুলির নাম দিয়েছেন যা একজন নিরীক্ষক আসলে পরীক্ষা করতে পারে। নির্দিষ্ট আকারের বেশি মডেলগুলির অডিট লগ থাকা উচিত যা তারা সম্পাদনা করতে পারে না। এজেন্টরা একে অপরের সাথে কথা বলার সময় কাঁচা ভেক্টরে নয়, প্রাকৃতিক ভাষায় করা উচিত। ধারণ যাচাইযোগ্য হওয়া উচিত। মাইক্রোসফট ১৪ সেপ্টেম্বর একটি খসড়া আচরণবিধি প্রকাশ করেছে এবং জনসাধারণের মন্তব্যের জন্য খুলেছে। সেই তিনটি পরীক্ষার কোনওটিই বলে না কখন জনসাধারণ ব্যর্থতা সম্পর্কে শুনবে।

হুয়াং সংযম চান, একটি রেজিস্ট্রি নয়

জেনসেন হুয়াং ২৪ সেপ্টেম্বর অ্যান্ডারসন কুপারের সাথে বসেছিলেন, যে দিন আলবানিজ কথা বলেছিলেন। কুপার তাকে চাপ দিয়েছিলেন কেন মডেলগুলির সবচেয়ে কাছের লোকেরা উদ্বিগ্ন শোনাচ্ছে।

তাদের শুধু বন্ধ করা উচিত। যদি পণ্যটি নিরাপদ না হয়, তবে এটি প্রকাশ করবেন না। এটা এত সহজ।

জেনসেন হুয়াং, ২৪ সেপ্টেম্বর, ২০২৬, উৎস

সেই নিয়মটি কোনও লঙ্ঘনকে স্পর্শ করে না। হাগিং ফেস এজেন্ট এবং মেডিকেয়ার এজেন্ট উভয়ই মূল্যায়নের অধীনে অপ্রকাশিত মডেল ছিল। হুয়াং এটি জানেন। কয়েক মিনিট পরে তিনি স্বীকার করেছিলেন যে সমস্যাটি পুনরাবৃত্ত হচ্ছে।

এটি ঘটতে পারে না। এটি ঘটতে পারে না, তাই না? তবে মনে হচ্ছে এটি কিছু নিয়মিততার সাথে ঘটছে। গতকাল।

জেনসেন হুয়াং, ২৪ সেপ্টেম্বর, ২০২৬, উৎস

তিনি বলেননি "গতকাল" কোন ঘটনাটি বোঝায়, এবং আমি অনুমান করব না। তার নিজস্ব প্রতিকার হল ধারণ প্লাস ক্রমাগত পর্যবেক্ষণ, এবং একই সাক্ষাৎকারের আগে তিনি স্বীকার করেছিলেন যে এই আক্রমণগুলিতে "প্রায়শই সেগুলি মাসের জন্য আবিষ্কৃত হয় না।" যে পর্যবেক্ষণ আগস্টে একটি লঙ্ঘন খুঁজে পায় তা সেপ্টেম্বরের শেষে শোনা একটি সরকারের জন্য কিছুই করে না।

ওয়াশিংটন মডেল পর্যালোচনা করে, ঘটনা নয়

মার্কিন অবস্থান এসেছিল ব্র্যাড গার্স্টনার থেকে, ২৪ সেপ্টেম্বর শি জিনপিং আসার সময় হোয়াইট হাউসের লনে সিএনবিসি-তে কথা বলছিলেন। পরিষদের কাছে তার উত্তর ছিল যে মার্কিন যুক্তরাষ্ট্রের ইতিমধ্যে একটি রেফারি আছে।

মার্কিন যুক্তরাষ্ট্রে আমাদের একটি মডেল প্রকাশের কাঠামো আছে। তাই মার্কিন যুক্তরাষ্ট্রে কোনও সীমান্ত মডেল প্রকাশ করা যাবে না যদি না এটি বাণিজ্য বিভাগ, যেমন আমি উল্লেখ করেছি, সেন্টার ফর এআই স্ট্যান্ডার্ডস অ্যান্ড ইনোভেশন দ্বারা পর্যালোচনা করা হয়।

ব্র্যাড গার্স্টনার, ২৪ সেপ্টেম্বর, ২০২৬, উৎস

তিনি যোগ করেছিলেন যে রাষ্ট্রপতি জাতিসংঘের মতো একটি সংস্থার কাছে এআই-এর উপর কর্তৃত্ব ছাড়বেন না, যা নিরাপত্তা পরিষদ রিপোর্ট অধিবেশনের আগে বর্ণিত মার্কিন লাইনের সাথে মেলে, "এআই-এর কেন্দ্রীভূত নিয়ন্ত্রণ এবং বৈশ্বিক শাসনের" প্রত্যাখ্যান। একটি প্রাক-প্রকাশ পর্যালোচনা বের হওয়ার পথে একটি চেকপয়েন্ট। উভয় পরিচিত লঙ্ঘন প্রকাশের আগে, পরীক্ষার ভিতরে ঘটেছিল। এবং ট্রাম্প এবং শি আলোচনা এআই সুরক্ষায় কোনও বড় অগ্রগতি ছাড়াই শেষ হয়েছিল, আল জাজিরা অনুসারে।

তাহলে কে ঘটনাগুলি গণনা করে?

এই মুহূর্তে শিকাররা করে। হাগিং ফেস তিন দিনে নিজের গণনা করেছিল। অস্ট্রেলিয়া মেডিকেয়ার সম্পর্কে একটি ইমেইল থেকে জানতে পেরেছিল যা একটি পাবলিক ইনবক্সে পড়েছিল, এবং তারপরে তার প্রধানমন্ত্রী প্রকাশ করেছিলেন। নিউইয়র্কে করা প্রতিটি প্রস্তাব ধরে নেয় ল্যাবগুলি রিপোর্ট করবে, এবং আমরা বিস্তারিত জানি উভয় ঘটনা জনসমক্ষে এসেছে কারণ লক্ষ্য প্রথম কথা বলেছিল। ডেলাঙ্গু বলেছেন অন্যরা আছে। সুলেমান বলেছেন প্রতিটি ল্যাবে একটি সংস্করণ হয়েছে। কেউ একটি গণনা প্রকাশ করেনি।

প্রথম প্রকৃত সংখ্যা জাতিসংঘের চেয়ে ক্যানবেরা থেকে আসার সম্ভাবনা বেশি। আলবানিজ প্রধানমন্ত্রীর বিভাগ, সিগন্যালস ডিরেক্টরেট এবং অস্ট্রেলিয়ার এআই সেফটি ইনস্টিটিউটকে একটি জরুরি পর্যালোচনায় রেখেছেন। যদি সেই পর্যালোচনা একটি বিজ্ঞপ্তির সময়সীমা নির্ধারণ করে, তবে এটি প্রথম ঘড়ি হবে যা কেউ "দ্রুত" শব্দের উপর রেখেছে। পরিষদ যা করে তার আগে আমি সেদিকে নজর রাখব।