مصنوعی ذہانت کی رفتار دھیمی کرنے کا مطالبہ: ڈاریو اموڈائی کا نیا سیکیورٹی فریم ورک

اینتھروپک کے چیف ایگزیکٹو آفیسر ڈاریو اموڈائی نے مصنوعی ذہانت کی جدید ترین ترقی کو دھیما کرنے کا عوامی مطالبہ کرتے ہوئے "پیسنگ دی فرنٹئیر" کے نام سے تین مرحلہ وار فریم ورک پیش کیا ہے۔ اس حکمت عملی کے تحت ماڈل ایویلیوایشن اینڈ تھریٹ ریسرچ (METR) جیسے آزاد اور فریقِ ثالث کے تحقیقی اداروں کو جدید ترین ای آئی ماڈلز کی عوامی منتقلی سے قبل ان کا تفصیلی آڈٹ کرنے کی مکمل رسائی دی جائے گی تاکہ حکومتی قوانین کے نفاذ سے پہلے سیکیورٹی کے معیار مقرر کیے جا سکیں۔

بلیک باکس کو کھولنا: اینتھروپک کا یکطرفہ آڈٹ کا اقدام

مصنوعی ذہانت کی لیبارٹریوں کے درمیان جاری مسابقت 12 ستمبر 2026 کو ایک نئ موڑ پر پہنچ گئی جب ڈاریو اموڈائی نے ایک تفصیلی مضمون شائع کیا جس میں ان کا کہنا تھا کہ کمپیوٹنگ کی طاقت میں اضافہ انسانوں کی خطرات کا اندازہ لگانے کی صلاحیت سے آگے نکل چکا ہے۔ قانونی اتفاقِ رائے کا انتظار کرنے کے بجائے، اینتھروپک نے ایک یکطرفہ پالیسی شروع کی: METR سے شروع کرتے ہوئے تمام مستقل آڈٹ کرنے والے اداروں کو اپنے اندرونی ماڈلز تک مکمل رسائی فراہم کر دی گئی۔ یہ آزاد تجزیہ کار اب ماڈلز کی سائبر حملے کرنے، خود مختار فیصلے لینے اور حیاتیاتی خطرات پیدا کرنے کی صلاحیتوں کی جانچ کریں گے۔

سالوں سے ای آئی لیبارٹریز بند دروازوں کے پیچھے اپنے مصنوعات کا خود تجزیہ کرتی تھیں اور مارکیٹ میں لانے کے ساتھ محدود رپورٹس جاری کرتی تھیں۔ اموڈائی کا یہ فیصلہ اس طریقہ کار کو ختم کرتا ہے۔ METR کے ماہرین کو ماڈل کی تربیت کے ڈیٹا اور بنیادی ساخت تک گہری رسائی حاصل ہو گی۔ یہ بیرونی جانچ اینتھروپک کو اس بات پر مجبور کرتی ہے کہ وہ کمرشل نفاذ سے قبل اپنے سیکیورٹی سسٹمز کی مضبوطی ثابت کرے۔

کنٹرولڈ اسکیلنگ کے لیے تین مرحلہ وار فریم ورک

اموڈائی کی پیش کردہ تجویز مصنوعی ذہانت کے شعبے میں غیر متوقع خطرات کو روکنے کے لیے ایک تین مرحلہ وار فریم ورک بناتی ہے:

مرحلہ 1: یکطرفہ شفافیت اور تھرڈ پارٹی ریڈ ٹیمنگ

فرنٹئیر لیبارٹریز خود مختار طور پر فریقِ ثالث کے ماہرین کو اپنے ماڈلز کے آڈٹ کی دعوت دیں گی۔ اگر آڈٹ کے دوران نادیدہ یا بے قابو خطرات سامنے آئیں تو کمپنی ماڈل کا نفاذ روکنے کی پابند ہوگی۔

مرحلہ 2: صنعت کی سطح پر رضاکارانہ اتحاد

رقابت کرنے والی تمام کمپنیاں ایک معاہدے پر متفق ہوں گی جس کے تحت اگلی نسل کی تربیت (جیسے 1 ارب ڈالر سے زیادہ کے کمپیوٹنگ انفراسٹرکچر والے ماڈلز) اس وقت تک نہیں کی جائے گی جب تک تمام ادارے مشترکہ سیکیورٹی معیار پاس نہ کر لیں۔

مرحلہ 3: قانونی اور حکومتی نفاذ

حکومتیں صنعت کے تیار کردہ سیکیورٹی معیارات کو قانونی شکل دیں گی۔ قومی ادارے ڈیٹا سینٹرز کی بجلی کی کھپت، مائیکرو چپس کی فراہمی اور مخصوص ہارڈ ویئر کی تقسیم کی نگرانی کریں گے تاکہ بغیر تصدیق کے ماڈلز کی تربیت پر پابندی لگائی جا سکے۔

اس ڈھانچے کو قائم کر کے اموڈائی تیز رفتار ٹیکنالوجی اور سست رفتار قانون سازی کے درمیان موجود خلا کو پر کرنے کی کوشش کر رہے ہیں۔

مارکیٹ کی حقیقتیں اور کمپیوٹ حدود کی کشمکش

ای آئی کی رفتار دھیمی کرنے کے اس مطالبے نے سلیکان ویلی میں مالی اور نظریاتی اختلافات کو ظاہر کر دیا ہے۔ اوپن اے آئی، گوگل ڈیپ مائنڈ، اور میٹا جیسے بڑے حریفوں کے مالی مفادات بالکل مختلف ہیں۔ جن کمپنیوں نے اربوں ڈالر ڈیٹا سینٹرز پر خرچ کیے ہیں، ان کا موقف ہے کہ تربیت پر مصنوعی پابندیاں جدت کو نقصان پہنچائیں گی اور غیر ملکی حریفوں کو فائدہ دیں گی۔

ٹیک سیکٹر کے کچھ ناقدین کا کہنا ہے کہ پیشرفت روکنے کے مطالبے سے صرف ان کمپنیوں کو فائدہ ہوگا جو پہلے ہی مارکیٹ میں مضبوط پوزیشن رکھتی ہیں۔ سخت اور مہنگے آڈٹ کی شرائط کی وجہ سے چھوٹے اسٹارٹ اپس اور اوپن سورس پروجیکٹس کے لیے مقابلہ کرنا مشکل ہو جائے گا۔ دوسری طرف سیکیورٹی کے حامیوں کا دلیل ہے کہ بلا روک ٹوک ترقی ایسے خطرات پیدا کرتی ہے جن کا نقصان پوری دنیا کو بھگتنا پڑ سکتا ہے۔

عالمی ٹیک ایکو سسٹم اور گورننس پر اس کے اثرات

اموڈائی کی تجویز کے عملی اثرات صرف کیلی فورنیا کے ٹیک مراکز تک محدود نہیں ہیں۔ جنوب ایشیا، خلیجی ممالک اور یورپ کے ٹیکنالوجی کے شعبے بنیادی طور پر ان ہی فاؤنڈیشن ماڈلز پر انحصار کرتے ہیں۔ اگر بڑی لیبارٹریز اپنے پروڈکٹس کے لیے تفصیلی آڈٹ کا وقت لیں گی، تو کارپوریٹ آٹومیشن، ہیلتھ کیئر اور فنانشل ٹولز میں ای آئی کی انضمام کی رفتار میں بھی استحکام آئے گا۔

سلیکان ویلی سے باہر کام کرنے والے انجینئرز، بانیان اور پالیسی سازوں کے لیے، یہ توقف علاقائی قوانین اور مقامی کمپیوٹ انفراسٹرکچر بنانے کے لیے وقت فراہم کرتا ہے۔ ہر ماہ بدلتی ٹیکنالوجی پر حیران ہونے کے بجائے، اداروں کو سیکیورٹی کی تصدیق شدہ مصنوعات اور پائیدار نظام حاصل ہو سکے گا۔

اکثر پوچھے گئے سوالات

What is Dario Amodei's 'pacing the frontier' proposal?

It is a three-step framework that advocates slowing down the training of advanced AI models to allow independent safety audits and government regulation before deploying larger models.

Which third-party auditing organization is involved in testing Anthropic's models?

Model Evaluation and Threat Research (METR) has been granted direct, early diagnostic access to test Anthropic's frontier AI models for biological, cyber, and autonomy risks.

How does the proposed framework affect smaller AI startups?

Critics argue that mandatory external security audits and compliance standards could financially strain smaller startups and open-source developers compared to heavily capitalized tech giants.