جیفری ہنٹن کا انتباہ: مصنوعی ذہانت کی بے لگام دوڑ انسانی کنٹرول کے لیے خطرہ

مصنوعی ذہانت کے بانی مبانی اور نوبل انعام یافتہ سائنسدان جیفری ہنٹن نے اے آئی سیفٹی محقق جیکب کاکسن کے ان خدشات کی مکمل تائید کر دی ہے جن میں انہوں نے تکنیکی دوڑ کے بے لگام ہونے سے خبردار کیا تھا۔ برطانوی ٹیلی ویژن کو دیے گئے ایک تفصیلی انٹرویو میں ہنٹن نے واضح کیا کہ تجارتی مسابقت کی بنا پر سیفٹی فریم ورک کے بغیر خود مختار سسٹمز کو مارکیٹ میں لایا جا رہا ہے، جو عالمی روزگار اور تکنیکی کنٹرول کے لیے شدید خطرہ ہے۔

ڈیپ لرننگ سے خطرے کے گھنٹے تک: جیفری ہنٹن کا موقف

جیفری ہنٹن نے جب گوگل سے استعفیٰ دیا تھا تو ان کا بنیادی مقصد ڈیپ لرننگ کے ان الگورتھمز کے خطرات پر کھلے عام بات کرنا تھا جن کی بنیاد انہوں نے خود رکھی تھی۔ برطانوی محقق جیکب کاکسن کے موقف کی تائید اس بحث میں ایک اہم موڑ ثابت ہوئی ہے۔ کاکسن مسلسل یہ نقطہ اٹھاتے رہے ہیں کہ پیشرفتہ اے آئی ماڈلز انسان کی جانچ اور کنٹرول کرنے کی صلاحیت سے کہیں زیادہ تیز رفتاری سے آگے بڑھ رہے ہیں۔

برطانوی نشریاتی ادارے سے بات کرتے ہوئے ہنٹن نے تسلیم کیا کہ کاکسن کے ریاضیاتی ماڈلز اور خدشات بالکل درست ہیں۔ ہنٹن کا کہنا تھا کہ "یہ خطرہ دہائیوں دور نہیں بلکہ بالکل سامنے کھڑا ہے کیونکہ تجارتی کمپنیاں محفوظ نظام کی تیاری کے بجائے محض رفتار اور منافع کو ترجیح دے رہی ہیں۔" ہنٹن کی اس توثیق نے ثابت کر دیا ہے کہ اے آئی سیفٹی ریسرچ کو کارپوریٹ سطح پر نظر انداز کیا جا رہا ہے۔

تجارتی دوڑ اور تحفظ کے ناپید اصول

ہنٹن اور کاکسن دونوں کے مطابق اصل مسئلہ ان بڑی کمپنیوں کے معاشی مفادات ہیں جو اربوں ڈالرز کی سرمایہ کاری پر فوری منافع چاہتی ہیں۔ کسی بھی الگو تھم کو محفوظ بنانے یعنی 'الائنمنٹ' کے عمل کے لیے ضروری ہے کہ جدید ماڈلز کی تجارتی ریلیز کو روکا جائے تاکہ ان کے غیر متوقع رویوں اور خود مختار فیصلوں کی جانچ ہو سکے۔

کاکسن کی رپورٹ کے مطابق اے آئی سسٹمز بنانے والے بڑے اداروں کے کل بجٹ کا 5 فیصد سے بھی کم حصہ سیفٹی ریسرچ پر خرچ ہوتا ہے۔ ہنٹن نے تجاویز دیں کہکم از کم 30 سے 50 فیصد کمپیوٹنگ صلاحیت کو صرف اس بات کی تحقیق پر لگایا جائے کہ ان سسٹمز کو مکمل کنٹرول میں کیسے رکھا جائے۔ بصورت دیگر یہ ماڈلز ایسے 'بلیک باکس' بن جائیں گے جن کے فیصلے خود ان کے تخلیق کاروں کی سمجھ سے بھی باہر ہوں گے۔

عالمی لیبر مارکیٹ اور برآمدی معیشتوں پر اثرات

صرف سائنسی خطرات ہی نہیں، بلکہ کاکسن کی اس تحریر کی توثیق سے معاشی حقیقتوں کی بھی نشاندہی ہوتی ہے۔ اب خود کار سسٹمز صرف دستی یا معمولی دفتر کا کام ختم نہیں کر رہے، بلکہ سافٹ ویئر انجینئرنگ، قانون، مالیاتی تجزئیے اور صحافت جیسے اعلیٰ ہنر مند شعبوں پر بھی اثر انداز ہو رہے ہیں۔

وہ تمام ممالک جہاں فری لانسنگ، آئی ٹی برآمدات اور بزنس پروسیس آؤٹ سورسنگ معیشت کا بڑا سہارا ہیں، وہاں کی نوجوان طاقت کو سخت چیلنج کا سامنا ہے۔ جنوبی ایشیا اور مشرق وسطیٰ کے زردار آئی ٹی زونز میں وہ تمام کام جو پہلے جونیئر ڈیوپرز کرتے تھے، اب خود کار اے آئی ایجنٹس بغیر کسی اضافی لاگت کے انجام دے رہے ہیں۔

کاکسن کا تجزیہ بتاتا ہے کہ مکمل آٹو میشن سے پہلے ہی ملازمتوں کی شرحِ نمو میں کمی اور اجرتوں میں تنزلی شروع ہو جائے گی، جس سے اعلیٰ تعلیم یافتہ نوجوانوں کے لیے کیریئر کی شروعات ہی مشکل ہو جائے گی۔

بین الاقوامی قوانین اور عالمی طرزِ حکمرانی کی ضرورت

ہنٹن اور کاکسن اس بات پر متفق ہیں کہ کوئی بھی ایک ملک الگ سے اس بارڈر لیس ٹیکنالوجی کو قانون کے دائرے میں نہیں لا سکتا۔ جس طرح ایٹمی ہتھیاروں پر قابو پانے کے لیے عالمی معاہدے کیے گئے تھے، بالکل اسی طرح اے آئی کے لیے بھی ایک بین الاقوامی نگراں ادارے کی اشد ضرورت ہے جو تمام بڑے ڈیٹا سینٹرز کا آڈٹ کر سکے۔

اگر سخت قوانین صرف چند ممالک تک محدود رہے تو کمپنیاں اپنے ڈیٹا سینٹرز ان جگہوں پر منتقل کر لیں گی جہاں قانون سازی کمزور ہے۔ جیفری ہنٹن کا کاکسن کی حمایت کرنا دنیا بھر کے پالیسی سازوں کے لیے ایک روشن اشارہ ہے کہ وقت ہاتھ سے نکلنے سے پہلے عالمی سطح پر یکساں قوانین بنانا ہوں گے۔

اکثر پوچھے گئے سوالات

What specific warning did Geoffrey Hinton endorse regarding Jacob Coxon's research?

Geoffrey Hinton endorsed Jacob Coxon's warning that advanced AI models are evolving faster than our technical ability to safety-test or control them, due to tech companies prioritizing speed over alignment research.

How much budget does Geoffrey Hinton recommend shifting toward AI safety?

Hinton recommends that technology firms allocate between 30% to 50% of their computational resources exclusively to safety and control mechanisms, compared to the current industry average of less than 5%.

Which job sectors face the most immediate risk according to the analysis?

High-skilled intellectual fields including software engineering, legal research, financial analysis, and freelance remote services are facing immediate disruption due to autonomous AI tools executing complex workflows.