مصنوعی ذہانت کی پیشرفت روکنے کا مطالبہ: اینتھروپک کے چیف ایگزیکٹو کا سنسنی خیز منشور

اینتھروپک کے چیف ایگزیکٹو ڈاریو اموڈائی نے مصنوعی ذہانت کی تیز رفتار پیشرفت کو فوری طور پر سست کرنے کے لیے ایک تفصیلی منشور جاری کیا ہے۔ اپنے مضمون "ہمیں سرحد کی رفتار کو برقرار رکھنا ہوگا" میں، اموڈائی نے خبردار کیا کہ بے لگام اے آئی ماڈل عالمی سلامتی کے لیے سنگین خطرات پیدا کر رہے ہیں، اور جمہوری ممالک سے مطالبہ کیا کہ وہ فریق ثالث کی نگرانی اور سخت حفاظتی قوانین نافذ کریں۔

یہ بیان مصنوعی ذہانت کی دنیا میں ایک زلزلے کی مانند ثابت ہوا ہے۔ سالوں سے مشین انٹیلی جنس کا تحفظ صرف سائنسی پرچوں اور کمپنیوں کے نجی اجلاسوں تک محدود تھا۔ لیکن ڈاریو اموڈائی کے کھلے مطالبے نے اس تکنیکی جنگ کو سلیکون ویلی کے دفاتر سے نکال کر واشنگٹن، برسلز اور لندن کے ایوانوں میں پہنچا دیا ہے۔

ڈاریو اموڈائی کے تین بنیادی حفاظتی نکات

اموڈائی کی تجویز تین بنیادی نکات پر مبنی ہے جس کا مقصد جدید ترین اے آئی ماڈلز کو انسانوں کے کنٹرول سے باہر ہونے سے रोकना ہے۔ سب سے پہلے، انہوں نے مستقل فریق ثالث کے معائن کاروں کو اے آئی لیبارٹریز کے اندر تعینات کرنے کا مطالبہ کیا ہے۔ یہ آزاد معائن کار کمپنیوں کے اندر نظام کا براہ راست مشاہدہ کریں گے اور سیکیورٹی پروٹوکولز کی خلاف ورزی پر سیکیورٹی اداروں کو خبردار کر سکیں گے۔

دوسرا اہم نقطہ جمہوری ممالک میں قائم اے آئی کمپنیوں کے درمیان باہمی ہم آہنگی اور حدود کا تعین ہے۔ اگر کوئی نیا ماڈل سائبر حملوں کی صلاحیت، خود کار نظام کی تشکیل، یا حیاتیاتی ہتھیاروں سے متعلق حساس معلومات تیار کرنے لگے تو اس کی تربیت پر فوراً پابندی عائد کی جانی چاہیے۔

تیسرا نقطہ بین الاقوامی جمہوری اتحادیوں کے درمیان مشترکہ ضوابط کی تشکیل ہے۔ اموڈائی کا کہنا ہے کہ حکومتی سرپرستی کے بغیر کمپنیوں کے ذاتی وعدے تجارتی دباؤ کے سامنے قائم نہیں رہ سکتے۔

اینتھروپک کمپنی کا قیام 2021 میں اوپن اے آئی کے سابق سائنسدانوں نے رکھا تھا جو تجارتی مفادات کے مقابلے میں اے آئی سیکیورٹی کو ترجیح دیتے تھے۔ اموڈائی کا حالیہ منشور واضح کرتا ہے کہ اب محض رضاکارانہ اقدامات کافی نہیں ہیں کیونکہ ایک ماڈل کی تربیت پر بالینز ڈالرز اور بے تحاشا توانائی خرچ ہو رہی ہے۔

سلیکون ویلی میں دھڑے بندی: تعطل یا تیزی؟

ٹیکنالوجی کی صنعت میں اس منشور کے بعد دو واضح نظریاتی دھڑے بن چکے ہیں۔ ایک طرف وہ ایگزیکٹوز ہیں جو سپر انٹیلی جنس کو ایک ایٹمی خطرہ سمجھتے ہیں اور اس پر ریاستی پابندیاں چاہتے ہیں۔ دوسری طرف اوپن سورس کے حامی، وینچر کیپیٹلسٹ اور تیز رفتار ترقی کے قائل ماہرین ہیں جو سمجھتے ہیں کہ اے آئی کو روکنا معاشی خودکشی کے مترادف ہے۔

مخالفین کا کہنا ہے کہ امریکہ اور یورپ میں اے آئی کی رفتار سست کرنے سے غیر جمہوری اور مخالف ریاستوں کو تکنیکی میدان میں برتری حاصل ہو جائے گی۔ مزید برآں، سخت قانونی پابندیوں کا سب سے زیادہ فائدہ صرف بڑی اور سرمائے سے مالا مال کمپنیوں کو ہوگا جبکہ نئے اسٹارٹ اپس تباہ ہو جائیں گے۔

عالمی سیاست اور ابھرتی ہوئی معاشی منڈیوں پر اثرات

اس تنازع کے اثرات محض امریکی ریاست کیلیفورنیا تک محدود نہیں ہیں۔ خلیجی ممالک کے سرکاری سرمایہ کاری فنڈز، جن میں ابوظہبی کا MGX اور سعودی عرب کا PIF شامل ہیں، اے آئی ڈیٹا سینٹرز اور چپ سازی پر اربوں ڈالر لگا رہے ہیں۔ دوسری جانب جنوبی ایشیا کے لاکھوں سافٹ ویئر انجینئرز ماڈلز کی تربیت اور ڈیوپمنٹ کی بنیاد ہیں۔

اگر مغربی ممالک نے ماڈل ٹریننگ پر سخت حدود اور معائنے لازمی قرار دیے تو عالمی معاشی منڈیوں پر اس کے گہرے اثرات مرتب ہوں گے۔ اوپن سورس ماڈلز پر پابندی کی صورت میں ابھرتے ہوئے ممالک کے ڈیجیٹل ڈولپرز کے لیے جدید ترین اے آئی ٹولز تک رسائی کا راستہ بند ہو جائے گا، جس سے دنیا میں تکنیکی ناہمواری مزید بڑھے گی۔

اکثر پوچھے گئے سوالات

What did Anthropic CEO Dario Amodei propose in his safety essay?

Dario Amodei outlined a policy framework requiring embedded third-party evaluators inside AI labs, unified compute limits, and mandatory coordination among democratic nations before deploying frontier AI models.

How does Amodei's AI pacing plan affect open-source software development?

Mandatory third-party evaluations and hardware thresholds would practically restrict open-source deployment, centralization of foundational capabilities within fully licensed enterprise tech firms.

Why do opposing tech executives and politicians criticize the AI slowdown proposal?

Opponents argue that freezing domestic artificial intelligence deployment creates geopolitical vulnerabilities, allowing authoritarian rivals unburdened by regulatory audits to achieve strategic dominance.