اوپن اے آئی کے بورڈ میں پال کرسٹیانو کی شمولیت: مصنوعی ذہانت کے خطرات اور کنٹرول کی نئی جنگ

اوپن اے آئی نے 9 ستمبر 2026 کو مصنوعی ذہانت کے سیکیورٹی محقق پال کرسٹیانو کو اپنی نگران باڈی "اوپن اے آئی فاؤنڈیشن" کے بورڈ آف ڈائریکٹرز میں شامل کرنے کا باضابطہ اعلان کیا ہے۔ پال کرسٹیانو نے ماضی میں اوپن اے آئی کی لینگویج ٹیم کی قیادت کی تھی اور وہ انسان دوست ضوابط (RLHF) کی تکنیک کے بانیوں میں شمار ہوتے ہیں۔ ان کی واپسی کا مقصد مصنوعی ذہانت کے متوقع خدشات اور انسانی بقا کے لیے ممکنہ خطرات کی روک تھام کو یقینی بنانا ہے۔

اس فیصلے کے تحت سلیکان ویلی کے ایک معروف اور سخت گیر سیکیورٹی محقق کو دنیا کی سب سے بڑی مصنوعی ذہانت کی کمپنی کی اعلیٰ ترین فیصلہ ساز باڈی میں جگہ مل گئی ہے۔ پال کرسٹیانو نے 2021 میں اوپن اے آئی چھوڑ کر "الائنمنٹ ریسرچ سینٹر" (ARC) کی بنیاد رکھی تھی، جہاں وہ یہ تحقیق کر رہے ہیں کہ مستقبل کے اے آئی ماڈلز انسانوں کو دھوکہ دینے یا ان کے کنٹرول سے باہر نکلنے سے کیسے روکے جا سکتے ہیں۔

تکنیکی پیش رفت سے لے کر خطرات کے تدارک تک

اوپن اے آئی میں اپنے پہلے دور کے دوران پال کرسٹیانو نے ایسے طریقوں پر کام کیا جن کی بنیاد پر موجودہ لارج لینگویج ماڈلز انسانوں کی ہدایات کو سمجھتے ہیں۔ انہوں نے 'ری انفورسمنٹ لرننگ فرام ہیومن فیڈ بیک' (RLHF) پر بنیادی تحقیق لکھی، جس کی بدولت چیٹ جی پی ٹی انسانوں سے درست اور تہذیب کے دائرے میں رہ کر گفتگو کرنے کے قابل ہوا۔ تاہم، تکنیکی کامیابیوں کے باوجود کرسٹیانو پیش رفت کی تیز رفتار سے خائف تھے۔

2021 میں کمپنی چھوڑنے کے بعد انہوں نے الائنمنٹ ریسرچ سینٹر میں اس مسئلے پر کام شروع کیا کہ جب کوئی اے آئی ماڈل انسان سے زیادہ باخبر ہو جائے تو اس کی سچائی کو کیسے پرکھا جائے۔ کرسٹیانو ماضی میں اپنے بیانات میں خبردار کر چکے ہیں کہ اگر سیکیورٹی کنٹرولز کو ماڈلز کی صلاحیتوں کے مطابق نہ بڑھایا گیا تو 10 سے 20 فیصد امکان ہے کہ یہ ٹیکنالوجی انسانی بقا کے لیے شدید خطرہ بن جائے۔

انتظامی تبدیلیاں اور سیکیورٹی خدشات کا پس منظر

پال کرسٹیانو کی بورڈ میں آمد ایک ایسے وقت میں ہوئی ہے جب اوپن اے آئی کو اپنے سیکیورٹی محققین کے استعفوں کے بعد شدید تنقید کا سامنا تھا۔ نومبر 2023 میں سی ای او سیم آلٹمین کی برطرفی اور دوبارہ بحالی کے ڈرامائی واقعات کے بعد بورڈ کی ساخت تبدیل ہو گئی تھی۔ اس کے بعد مرکزی سائنسدان ایلیا سوتسکیور اور سپر الائنمنٹ ٹیم کے سربراہ جان لیکے نے کمپنی سے استعفیٰ دے دیا تھا، اور جان لیکے نے علانیہ کہا تھا کہ کمپنی تجارتی مصنوعات کو سیکیورٹی پر فوقیت دے رہی ہے۔

کمپنی کی سپر الائنمنٹ ٹیم کو تحلیل کر کے اس کے محققین کو دیگر شعبوں میں منتقل کر دیا گیا تھا، جس پر دنیا بھر کے ریگولیٹرز اور محققین نے تشویش ظاہر کی تھی۔ اب پال کرسٹیانو کو نگران بورڈ میں شامل کر کے اوپن اے آئی یہ تاثر دینا چاہتی ہے کہ وہ سیکیورٹی اور انسانی تحفظ کو اولین ترجیح دینے کے اپنے بنیادی منشور پر کاربند ہے۔

اعلیٰ سطح پر تکنیکی نگرانی کے اثرات

بورڈ میں شمولیت کے بعد پال کرسٹیانو کو کمپنی کی پالیسیوں، سیکیورٹی آڈٹس اور بنیادی مشن کی پاسداری کا براہ راست اختیار حاصل ہو جائے گا۔ ایک ایسے وقت میں جب تمام بڑی ٹیک کمپنیاں خود مختار اے آئی ایجنٹس بنانے کی دوڑ میں شامل ہیں، ان کی موجودگی بورڈ روم کے فیصلوں میں تکنیکی سنجیدگی پیدا کرے گی۔

ان کی شمولیت سے مستقبل کے ماڈلز کی عوامی ریلیز سے قبل سخت تکنیکی جانچ اور سیکیورٹی ٹیسٹنگ کے عمل کو یقینی بنانے میں مدد ملے گی۔ الائنمنٹ ریسرچ سینٹر کا تجربہ اوپن اے آئی کو خطرات کے جائزے اور تکنیکی کنٹرول کے نظام کو مزید مضبوط بنانے کا موقع فراہم کرے گا۔

اکثر پوچھے گئے سوالات

Who is Paul Christiano and why is his appointment to OpenAI's board significant?

Paul Christiano is an AI safety researcher who pioneered Reinforcement Learning from Human Feedback (RLHF) at OpenAI before founding the Alignment Research Center. His appointment places a prominent advocate for mitigating existential AI risks directly onto OpenAI's governing non-profit board.

What is the Alignment Research Center (ARC)?

The Alignment Research Center is a non-profit research institute founded by Paul Christiano in 2021 to solve theoretical AI alignment problems. ARC focuses on evaluating frontier AI models to determine whether they exhibit deceptive behaviors or dangerous autonomous capabilities.

How does the OpenAI Foundation board govern the company?

The non-profit OpenAI Foundation board holds ultimate fiduciary authority over OpenAI's commercial operations and capped-profit subsidiaries. Board members possess the legal mandate to prioritize the safe development of Artificial General Intelligence over corporate profit generation.