اینتھروپک کے سی ای او داریو اموڈے کا مصنوعی ذہانت کی رفتار سست کرنے کا شدید مطالبہ

مصنوعی ذہانت کی تحقیقی فرم 'اینتھروپک' (Anthropic) کے چیف ایگزیکٹو آفیسر داریو اموڈے نے ٹیکنالوجی انڈسٹری کے رہنماؤں اور عالمی پالیسی سازوں سے اپیل کی ہے کہ وہ فرنٹیئر اے آئی کی ترقی کی رفتار کو فوری طور پر سست کریں۔ اموڈے نے خبردار کیا ہے کہ نیورل نیٹ ورکس کے حجم کو تیز ترین انداز میں بڑھانے کی موجودہ دوڑ انسانیت کی سیکیورٹی صلاحیتوں سے کہیں آگے نکل چکی ہے، جس سے بیالوجیکل، سائبر اور عملی خطرات شدید تر ہو گئے ہیں۔

فرنٹیئر ماڈل سکیلنگ کا نازک موڑ

جب داریو اموڈے نے 2021 میں اوپن اے آئی سے الگ ہو کر اپنی بہن ڈینیئلا اموڈے کے ساتھ اینتھروپک کی بنیاد رکھی، تو اس جدائی کی بنیادی وجہ سیکیورٹی اور کمرشلائزیشن کے درمیان بڑھتا ہوا تناؤ تھا۔ آج کلاؤڈ (Claude) ماڈلز کے خالق کی حیثیت سے، اموڈے اے آئی انڈسٹری کے اندر ایک انتہائی بااثر اور اہم ترین آواز سمجھے جاتے ہیں۔

ان کی جانب سے رفتار سست کرنے کی حالیہ اپیل ایک ایسے وقت میں سامنے آئی ہے جب اے آئی ماڈلز کی صلاحیتوں میں محیر العقول اضافہ ہو چکا ہے۔ اب ماڈلز صرف متن تیار کرنے تک محدود نہیں رہے، بلکہ وہ خود کار طریقے سے پیچیدہ سافٹ ویئر پروگرامز چلانے، لیبارٹری ہارڈویئر کو کنٹرول کرنے اور نازک ترین انفراسٹرکچر میں نقائص تلاش کرنے کی صلاحیت حاصل کر چکے ہیں۔

داریو اموڈے نے اپنے تفصیلی پالیسی پیپر میں لکھا کہ ہم تیزی سے اس حد کی طرف بڑھ رہے ہیں جہاں ماڈلز کی جانچ اور کنٹرول کرنے کی ہماری صلاحیت ان کو بنانے کی رفتار سے بہت پیچھے رہ گئی ہے۔ انہوں نے واضح کیا کہ اصل خطرہ کسی فرضی مستقبل سے نہیں بلکہ فوری عملی خطرات سے ہے، جن میں نقصان دہ بیالوجیکل مواد کی خودکار تیاری، بنیادی ڈھانچے پر سائبر حملے، اور مالیاتی سسٹمز کا کنٹرول ہاتھ سے نکل جانا شامل ہے۔

اینتھروپک کی اندرونی رپورٹ کے مطابق موجودہ اے آئی ماڈلز اس سطح کے قریب پہنچ رہے ہیں جہاں نیورل نیٹ ورک کے اندرونی نظام کو سمجھے بغیر مزید ترقی دینا ایک انتہائی خطرناک اقدام بن چکا ہے۔

سلیکون ویلی کا پیچیدہ چیلنج

مصنوعی ذہانت کی پیشرفت کو روکنے میں سب سے بڑی رکاوٹ ایک کلاسک مقابلے کی فضا ہے: کوئی بھی کمپنی یا ملک اکیلے رکنے کے لیے تیار نہیں کیونکہ اسے ڈر ہے کہ حریف آگے نکل جائیں گے۔ اوپن اے آئی، گوگل ڈیپ مائنڈ، میٹا اور اینتھروپک اربوں ڈالرز کے سرمائے کے ساتھ ایک بے رحم دوڑ میں جڑے ہوئے ہیں۔

اگرچہ اینتھروپک نے 'رسپانسبل سکیلنگ پالیسی' (RSP) کے تحت خود پر یہ پابندی عائد کی تھی کہ سیکیورٹی معیار پورا نہ ہونے پر نئے ماڈل کی تربیت روک دی جائے گی، لیکن اموڈے نے اعتراف کیا کہ انفرادی کمپنیوں کی سیلف ریگولیشن اب ناکافی ہو چکی ہے۔ ایک کمپنی کے رکنے سے مارکیٹ کے دیگر کھلاڑی بغیر سیکیورٹی کی پروا کیے آگے نکل جاتے ہیں۔

اس جمود کو توڑنے کے لیے اموڈے نے سرکاری سطح پر کمپیوٹیشن پاور (GPU Compute) کی نگرانی کی تجویز پیش کی ہے۔ چونکہ اعلیٰ درجے کے اے آئی ماڈلز کی تیاری کے لیے مخصوص سیمی کنڈکٹر چپس کی ضرورت ہوتی ہے، اس لیے حکومتیں اس پر موثر کنٹرول حاصل کر سکتی ہیں۔ اموڈے کا کہنا ہے کہ امریکہ، یورپی یونین اور ایشیائی اتحادیوں کو تربیت کے پروسیسنگ سائز پر قانونی حد مقرر کرنی چاہیے۔

مزید برآں، انہوں نے واشنگٹن اور بیجنگ کے درمیان اے آئی سیکیورٹی پر دوطرفہ معاہدوں کی ضرورت پر زور دیا تاکہ عالمی سطح پر ایک یکساں سیکیورٹی فریم ورک نافذ کیا جا سکے۔

عالمی معیشت اور سافٹ ویئر انڈسٹری پر اثرات

سافٹ ویئر ڈویلپرز، مشرق وسطیٰ اور جنوب ایشیائی ممالک کے ٹیک ایکو سسٹم کے لیے اے آئی کی رفتار کا سست ہونا ایک مثبت تبدیلی ثابت ہو سکتا ہے۔ ہر چند ماہ بعد بالکل نئے اور غیر مستحکم ماڈلز کو اپنانے کے بجائے عالمی مارکیٹ کو استحکام اور سیکیورٹی پر توجہ مرکوز کرنے کا موقع ملے گا۔

رفتار سست ہونے سے انجینئرنگ کا سرمایہ ماڈل کی پائیداری، ڈیٹا پرائیویسی اور انٹیگریشن کی طرف منتقل ہوگا۔ پاکستان، سعودی عرب اور متحدہ عرب امارات جیسے ممالک میں موجود ٹیک کمپنیاں اس سے فائدہ اٹھا کر بنیادی اینجناز کے اوپر مستحکم اور محفوظ ایپلیکیشنز تیار کر سکیں گی۔

اموڈے نے خبردار کیا ہے کہ اگر انڈسٹری نے بروقت خود کو ریگولیٹ نہ کیا اور کوئی بڑا حادثہ پیش آ گیا، تو سیاست دانوں کا ردعمل انتہائی سخت اور ناقابل تلافی ہوگا جو پوری تکنیکی ترقی کو مفلوج کر سکتا ہے۔

اکثر پوچھے گئے سوالات

Why is Anthropic CEO Dario Amodei calling for an immediate slowdown in AI development?

Dario Amodei warns that computational scaling of frontier AI models is rapidly outpacing humanity's ability to evaluate and control them. He cautions that unchecked capabilities risk enabling automated biological threat synthesis, cyber warfare, and loss of control over autonomous software systems.

How does Dario Amodei propose governments enforce a safe pause in AI scaling?

Amodei proposes state-level monitoring of high-end GPU compute clusters to set binding computational limits on AI training runs without prior safety clearance. He also urges binding bilateral AI safety agreements between major technological powers, including the United States and China.

What impact would a managed slowdown in AI scaling have on tech developers and enterprises?

A managed deceleration would shift industry focus from continuous brute-force model expansion toward system reliability, security, and application-layer engineering. This provides developers and global enterprises with a stable technological foundation to build audited, production-ready software solutions.