گوگل ڈیپ مائنڈ کے سائنسی محقق کا استعفیٰ: پانچ سال میں مصنوعی ذہانت سے تباہ کن خطرات کا انتباہ

گوگل ڈیپ مائنڈ کی آرٹیفیشل جنرل انٹیلی جنس (اے جی آئی) سیفٹی ٹیم کے اہم محقق جوش اینگلز نے اپنے عہدے سے استعفیٰ دے دیا ہے۔ انہوں نے انتباہ جاری کیا ہے کہ غیر منضبط مصنوعی ذہانت کی تیز رفتار پیش رفت اگلے پانچ سالوں کے اندر عالمی سطح پر تباہ کن نتائج کا سبب بن سکتی ہے۔ ان کا استعفیٰ ٹیک کمپنیوں کے اندرونی بحران کو بے نقاب کرتا ہے جہاں تجارتی مفادات کے سامنے حفاظتی ضوابط کی اہمیت ختم ہو چکی ہے۔

جوش اینگلز نے مصنوعی ذہانت کی دنیا کے ایک انتہائی معتبر ادارے سے اس وقت کنارہ کشی اختیار کی جب وہ اس نتیجے پر پہنچے کہ کمپنیوں کے اندرونی حفاظتی اقدامات ماڈلز کی بڑھتی ہوئی صلاحیتوں کا مقابلہ کرنے میں ناکام ہو چکے ہیں۔ یہ پیش رفت ایک ایسے وقت میں سامنے آئی ہے جب پچھلے اٹھارہ ماہ کے دوران اوپن اے آئی اور اینتھروپک جیسے اداروں سے بھی درجنوں سینئر سائنسدان احتجاجاً مستعفی ہو چکے ہیں۔ لندن میں واقع ڈیپ مائنڈ کے ہیڈ کوارٹر میں تجارتی دوڑ اور محفوظ ٹیکنالوجی کے قیام کے درمیان تناؤ اب شدت اختیار کر چکا ہے۔

بے لگام مصنوعی ذہانت اور پانچ سالہ انتباہ

جوش اینگلز کی جانب سے دی گئی 2031 کی مدت انتہائی تشویشناک ہے۔ اس ٹائم لائن کے مطابق، اگلے چند سالوں میں فرنٹیر اے آئی ماڈلز انسانوں کی ذہانت کے برابر یا اس سے آگے نکل جائیں گے۔ سب سے بڑا خطرہ یہ ہے کہ ہم ایسی الگورتھم صلاحیتیں فعال کر رہے ہیں جنہیں کنٹرول کرنے کا کوئی طریقہ فی الحال موجود نہیں ہے۔ اس مسئلے کو تکنیکی زبان میں 'الائنمنٹ پرابلم' کہا جاتا ہے—یعنی یہ یقینی بنانا کہ مشین انسان کے متعین کردہ مقاصد کے مطابق ہی کام کرے اور خود مختار فیصلوں سے نقصان نہ پہنچائے۔

اینگلز کے مطابق موجودہ سیفٹی فریم ورک انتہائی پرانے ہیں۔ جیسے جیسے یہ ماڈلز خود کار کوڈنگ، پیچیدہ منصوبہ بندی اور انٹرنیٹ پر آزادانہ عمل درآمد کی صلاحیت حاصل کر رہے ہیں، روایتی حفاظتی فلٹرز ناکارہ ثابت ہو رہے ہیں۔ انسانوں کی فیڈ بیک پر مبنی ترصیص (RLHF) جیسے طریقے ماڈل کو صرف ظاہر میں محتاط بناتے ہیں، لیکن اس کی بنیادی سوچ اور فیصلہ سازی کے ڈھانچے کو تبدیل کرنے میں ناکام رہتے ہیں۔

تجارتی دوڑ اور حفاظتی شعبوں کی زبوں حالی

ٹیکنالوجی کی صنعت کا بنیادی مقصد اب خالص تحقیقات سے ہٹ کر سالانہ اربوں ڈالر کی آمدن حاصل کرنا بن چکا ہے۔ جب گوگل نے اپنے دو الگ الگ ڈویژنز 'ڈیپ مائنڈ' اور 'برین' کو یکجا کیا، تو ان کا واحد مقصد اوپن اے آئی اور مائیکروسافٹ کو کارپوریٹ مارکیٹ میں شکست دینا تھا۔ اس تجارتی دباؤ کے نتیجے میں سیفٹی ٹیموں کے بجٹ منجمد کر دیے گئے، انہیں کمپیوٹر پروسیسنگ پاور کی فراہمی کم کر دی گئی اور نئے ماڈلز کے اجراء کو روکنے کا ان کا اختیار ختم کر دیا گیا۔

سائنسدانوں کے انکشافات کے مطابق، کمپنیوں کی کل کمپیوٹنگ پاور کا 95 فیصد حصہ نئ صلاحیتوں کو بڑھانے پر خرچ ہوتا ہے، جبکہ محفوظ الگورتھم بنانے کے لیے 5 فیصد سے بھی کم وسائل فراہم کیے جاتے ہیں۔ جب بھی محققین نے کسی نئے ماڈل کے خطرات کی نشاندہی کی، بورڈ آف ڈائریکٹرز نے مالیاتی منافع اور شیئر ہولڈرز کے مفاد کو فوقیت دیتے ہوئے ان تنبیہات کو نظر انداز کر دیا۔

بین الاقوامی قوانین کی ناکامی اور عالمی خطرات

کارپوریٹ اداروں کی اس بے راہ روی کو روکنے میں عالمی حکومتیں مکمل طور پر ناکام نظر آتی ہیں۔ یورپی یونین کے اے آئی ایکٹ اور امریکہ کے صدارتی احکامات کے باوجود، ریگولیٹری اداروں کے پاس اتنی تکنیکی صلاحیت ہی نہیں ہے کہ وہ بند دروازوں کے پیچھے تیار ہونے والے ماڈلز کا معائنہ کر سکیں۔ بڑی ٹیک کمپنیاں جیو پولیٹیکل کشیدگی کا بہانہ بنا کر پابندیوں سے بچ نکلتی ہیں اور دعویٰ کرتی ہیں کہ پیش رفت سست کرنے سے حریف ممالک آگے نکل جائیں گے۔

اس غیر منظم مسابقت کے نتیجے میں عالمی مالیاتی نظام، بجلی کے گرڈز، اور حساس دفاعی نیٹ ورکس ایسے ماڈلز کے رحم و کرم پر آ چکے ہیں جن کی قابل اعتماد سیکورٹی کی کوئی ضمانت نہیں۔ اگر یہ خود مختار ماڈلز غلط سمت میں چلے گئے یا شرپسند عناصر کے ہاتھ لگ گئے، تو اس کا سب سے سخت خمیازہ نامساعد معاشی حالت کا شکار ممالک اور عام شہری بھگتیں گے جن کے پاس ان خطرات سے نمٹنے کے وسائل موجود نہیں ہیں۔

جوش اینگلز کا استعفیٰ ایک واضح انتباہ ہے: ایک محفوظ دنیا اور تباہ کن خودمختار اے آئی کے درمیان فاصلہ تیزی سے ختم ہو رہا ہے۔ اگر فوری طور پر بین الاقوامی سطح پر سخت قوانین اور ماڈل کی صلاحیتوں پر قانونی حد بندیاں نافذ نہ کی گئیں تو حالات انسانی کنٹرول سے باہر ہو جائیں گے۔

اکثر پوچھے گئے سوالات

Why did Josh Engles resign from Google DeepMind's AGI safety team?

Josh Engles resigned to issue an urgent public warning regarding catastrophic risks posed by rapid AGI development within five years. He highlighted that Google DeepMind prioritizes commercial product launches over essential safety research and structural alignment guardrails.

What is the five-year timeline referenced in the AI safety warning?

The five-year timeline targets approximately 2031, by which point frontier AI models are expected to achieve autonomous reasoning capable of executing complex software tasks without reliable human alignment, raising severe systemic and security risks.

How are corporate practices affecting artificial intelligence safety research?

Major tech corporations allocate over 95 percent of compute resources toward expanding model power while restricting safety team budgets and stripping their authority to pause unsafe product deployments due to competitive market pressures.