اینتھروپک کے سربراہ داریو اموڈئی کی جدید مصنوعی ذہانت کی کی ترقی دھیمی کرنے کی تیکھی اپیل

مصنوعی ذہانت کے تحفظ سے منسلک معروف ادارے اینتھروپک کے چیف ایگزیکٹو آفیسر داریو اموڈئی نے عالمی ٹیکنالوجی انڈسٹری سے پرزور اپیل کی ہے کہ انتہائی طاقتور اے آئی ماڈلز کی تربیت اور ترقی کی رفتار کو فوری طور پر دھیما کیا جائے۔ اموڈئی نے انتباہ جاری کیا ہے کہ اگر سلامتی کے سخت معیار کے بغیر کمپیوٹنگ صلاحیت کو بڑھایا جاتا رہا، تو اس کے نتیجے میں حیاتیاتی ہتھیاروں کی تیاری، سائبر حملوں اور کنٹرول سے باہر خود مختار سسٹموں جیسے سنگین خطرات پیدا ہو سکتے ہیں۔

سی بی آر این (CBRN) کا خطرہ: مصنوعی ذہانت کے بانی کیوں خوفزدہ ہیں؟

گزشتہ تین سالوں کے دوران سلیکون ویلی کی تمام تر توجہ صرف اور صرف ماڈلز کی جثامت اور رفتار بڑھانے پر مرکوز رہی ہے۔ اربوں ڈالر کے کمپیوٹنگ بجٹ اور وشال ڈیٹا سینٹرز کی بدولت ایسے ماڈلز سامنے آئے جو انسانوں کی طرح سوچنے اور مسائل حل کرنے کی صلاحیت رکھتے ہیں۔ تاہم اینتھروپک کے اندرونی تجربات سے انکشاف ہوا ہے کہ جب ماڈلز ایک مخصوص حد سے آگے نکلتے ہیں تو ان کی صلاحیتیں انتہائی خطرناک رخ اختیار کر لیتی ہیں۔

جدید ترین نیورل نیٹ ورکس اب محض مضامین لکھنے یا بنیادی کوڈنگ تک محدود نہیں رہے، بلکہ وہ کیمیائی، حیاتیاتی، ریڈیائی اور ایٹمی (CBRN) خطرات پیدا کرنے کی صلاحیت دکھا رہے ہیں۔ کمپنی کے سلامتی کے ٹیسٹوں سے معلوم ہوا کہ غیر جاری شدہ ماڈلز جان لیوا وائرس اور حیاتیاتی اجزا بنانے کے پیچیدہ طریقے فراہم کر سکتے ہیں، جس سے شریر عناصر کے لیے تباہ کن ہتھیار بنانا بے حد آسان ہو جائے گا۔

داریو اموڈئی نے اپنے موقف میں واضح کیا: "ہم تیزی سے اس نقطے کی طرف بڑھ رہے ہیں جہاں ماڈلز کی صلاحیتیں انہیں کنٹرول کرنے کی ہماری ریاضیاتی صلاحیت سے آگے نکل جائیں گی۔ اگر انڈسٹری نے بغیر رکاوٹ کے ماڈلز کی تربیت جاری رکھی، تو ہم دنیا کو ایسے سائبر اور حیاتیاتی ہتھیار سونپ دیں گے جن کے خلاف موجودہ انسانی دفاع مکمل طور پر ناکارہ ہے۔"

یہ موقف اینتھروپک کو سلیکون ویلی کی دیگر بڑی کمپنیوں سے الگ کرتا ہے۔ جہاں دیگر کمپنیاں سرمایہ کاروں کے دباؤ میں آکر صرف رفتار اور منافع کو ترجیح دے رہی ہیں، وہاں اینتھروپک کا کہنا ہے کہ پیشرفت کو سخت حفاظتی اصولوں کے تابع کیا جانا چاہیے۔

سرمایہ کاری اور سلامتی کا تصادم

اے آئی کی رفتار دھیمی کرنے کی یہ اپیل ایک ایسے وقت میں سامنے آئی ہے جب عالمی معیشت کے اربوں ڈالر اس انڈسٹری پر لگے ہوئے ہیں۔ بڑی کلاؤڈ کمپنیاں اور سیمی کنڈکٹر ساز ادارے غیر مہذبانہ ترقی اور بنیادی ڈھانچے کی توسیع پر انحصار کرتے ہیں۔

اموڈئی کی تجویز سلیکون ویلی کے معاشی ماڈل کے لیے ایک براہ راست چیلنج ہے۔ ترقی کی رفتار دھیمی کرنے کا مطلب ہے کہ ہارڈویئر کی فراہمی پر پابندیاں لگائی جائیں، ڈیٹا سینٹرز کی توسیع کو روکا جائے اور تجارتی استعمال سے پہلے ہر ماڈل کی غیر جانبدار اداروں سے سخت تفتش کرائی جائے۔

اس ممکنہ سست روی کے معاشی اثرات انتہائی گہرے ہوں گے:

• سرمایہ کاروں کے اربوں ڈالر کی واپسی میں تاخیر ہو سکتی ہے۔
• کاروباری اداروں کو خودکار اے آئی ٹولز کے استعمال سے قبل طویل حفاظتی مرحلوں سے گزرنا پڑے گا۔
• چپ بنانے والی کمپنیوں کی مانگ میں غیر متوقع کمی آسکتی ہے۔

ان تمام معاشی خدشات کے باوجود، سلامتی کے ماہرین کا کہنا ہے کہ اے آئی کے ممکنہ حادثے سے ہونے والا معاشی نقصان کسی بھی عارضی وقفے کے مقابلے میں کہیں زیادہ تباہ کن ہو گا۔ اگر خود مختار سائبر سسٹمز نے دنیا کے مالیاتی نظام یا بجلی کے گرڈز کو مفلوج کر دیا تو عالمی معیشت لمحوں میں تباہ ہو سکتی ہے۔

رضاکارانہ وعدوں سے آگے: بین الاقوامی قوانین کی ضرورت

ماضی کی ٹیکنالوجی کی تاریخ گواہ ہے کہ کمپنیوں کے خود ساختہ رضاکارانہ وعدے کبھی بھی کافی ثابت نہیں ہوتے۔ جب مارکیٹ میں مسابقت بڑھتی ہے تو زبانی جمع خرچ سائیڈ پر رکھ دیا جاتا ہے۔ اموڈئی نے اس حقیقت کو تسلیم کرتے ہوئے حکومتوں پر زور دیا ہے کہ وہ قانونی اور پابند قوانین نافذ کریں۔

مجوزہ حفاظتی فریم ورک تین اہم نکات پر مشتمل ہے:

• کمپیوٹنگ پر حد: ایک خاص حد سے زیادہ طاقتور ماڈلز کی تربیت کے لیے بین الاقوامی اداروں سے اجازت لازمی قرار دی جائے۔
• لازمی تفتش: ماڈل کو عوام یا گاہکوں کے لیے جاری کرنے سے پہلے سرکاری حفاظتی اداروں کو اس کے کوڈ اور وزن تک مکمل رسائی دی جائے۔
• ہارڈویئر ٹریکنگ: ایڈوانس جی پی یو (GPU) چپس پر ایسی ڈجیٹل مہریں لگائی جائیں جس سے ان کے غیر قانونی استعمال کو روکا جا سکے۔

مخالفین کا موقف ہے کہ اگر مغربی ممالک نے اپنی پیشرفت روکی تو دیگر عالمی حریف اس میدان میں آگے نکل جائیں گے۔ تاہم اموڈئی کا جواب ہے کہ ایک ایسا سسٹم جو کنٹرول میں ہی نہ ہو، وہ اسے بنانے والے ملک کے لیے بھی اتنا ہی خطرناک ہے जितना کہ اس کے حریف کے لیے۔ حقیقی ٹیکنالوجیکل برتری رفتار میں نہیں بلکہ اے آئی کو انسان کے مکمل کنٹرول میں رکھنے میں ہے۔

اکثر پوچھے گئے سوالات

Why is Anthropic CEO Dario Amodei calling for a slowdown in AI development?

Dario Amodei warns that next-generation frontier models threaten global security by enabling non-state actors to synthesize biological weapons and deploy autonomous cyber exploits. He advocates for mandatory international safety evaluations before scaling training compute further.

How does Anthropic's position differ from mainstream Silicon Valley competitors?

Unlike rivals focused on rapid deployment to satisfy venture capital growth targets, Anthropic emphasizes alignment and safety verification. Amodei insists compute expansion must be bound to strict regulatory guardrails rather than market speed.

What specific safety mechanisms are proposed to enforce an AI slowdown?

The proposed safeguards include hardware-level FLOP caps on compute clusters, mandatory pre-deployment auditing by national AI Safety Institutes, and cryptographic tracking of advanced GPUs to prevent illegal data center aggregation.