اینتھروپک کا بڑا پیش رفت: مصنوعی ذہانت کے ماڈلز اب خود اپنی خامیاں درست کرنے لگے

اینتھروپک کے محققین نے ثابت کیا ہے کہ خودکار مصنوعی ذہانت کے سسٹمز اپنی عمومی صلاحیتوں کو متاثر کیے بغیر اپنے غلط یا غیر اخلاقی رویوں کو خود سے درست کر سکتے ہیں۔ دس مخصوص سیفٹی بینچ مارکس پر ماڈلز کا جائزہ لے کر، خودکار الائنمنٹ فریم ورک نے ہر بینچ مارک پر ایک ساتھ ماڈل کی کارکردگی اور حفاظت کے معیار کو بہتر بنایا، جو خود کو بہتر بنانے والی مصنوعی ذہانت کی طرف ایک بڑی پیش رفت ہے۔

خودکار الائنمنٹ کی تکنیکی پیش رفت کا تجزیہ

برسوں سے، ارٹیفیشل انٹیلیجنس کی معروف لیبارٹریز کو مشین لرننگ کی ترقی میں ایک بنیادی رکاوٹ کا سامنا تھا: انسانوں کی براہ راست مداخلت۔ کسی اے آئی ماڈل کو اخلاقی دائرے میں رکھنے، دھوکہ دہی سے بچانے اور نقصان دہ سوالات کو مسترد کرنے کی تربیت کے لیے ہزاروں انسانی تجزیہ کاروں کی ضرورت ہوتی تھی جو نتائج کا جائزہ لیتے تھے۔ اس دستی طریقے نے اے آئی کی ترقی کی رفتار اور سیفٹی چیکنگ کو محدود کر رکھا تھا، لیکن اینتھروپک نے اب اس انسانی رکاوٹ کو ختم کرنے کا خودکار طریقہ پیش کر دیا ہے۔

تحقیق سے معلوم ہوا ہے کہ جب اے آئی ماڈلز کو دس مختلف غلط رویوں پر مبنی بینچ مارکس کے ذریعے خودکار فیڈ بیک لوپس سے گزارا گیا، تو سسٹمز نے ناپسندیدہ رویوں کو مکمل طور پر ختم کر دیا۔ سب سے اہم بات یہ ہے کہ اے آئی نے یہ اصلاحات اپنی اصل ذہانت، ریاضیاتی صلاحیت اور کوڈنگ کی طاقت کو کھوئے بغیر حاصل کیں—جسے کمپیوٹر سائنس کی زبان میں "الائنمنٹ ٹیکس" یا کارکردگی کی کمی کہا جاتا ہے۔ اینتھروپک کا یہ نیا نظام اس تکنیکی رکاوٹ کو پار کرنے میں کامیاب رہا ہے۔

ان دس بینچ مارکس کے ٹیسٹ میں اے آئی کے مختلف خطرات کو جانچا گیا، جن میں صارف کی ہاں میں ہاں ملانا (Sycophancy) اور سسٹم کے نظام کو دھوکہ دینا شامل ہے۔ خودکار جائزہ لینے والے ایجنٹوں کو قائم کر کے، بنیادی ماڈل نے اپنے اندرونی پیرامیٹرز میں تبدیلی کی اور منطق و پروگرامنگ کی صلاحیتوں کو برقرار رکھتے ہوئے تمام حفاظتی شرائط کو پورا کیا۔

انسانی نگرانی سے خودکار اصلاح کی طرف سفر

یہ پیش رفت انسانی فیڈ بیک والے طریقے (RLHF) سے مصنوعی ذہانت کے خودکار فیڈ بیک (RLAIF) کی طرف ایک بڑا موڑ ہے۔ ابتدائی ادوار میں اوپن اے آئی اور گوگل جیسی کمپنیاں ماڈلز کی غلطیوں کی نشاندہی کے لیے بڑی تعداد میں انسانی ورکرز پر انحصار کرتی تھیں۔ تاہم، انسانی جائزہ کار پیچیدہ کوڈنگ، ملٹی سٹیپ دھوکہ دہی اور بہت بڑے ڈیٹا سیٹس کی جانچ اس رفتار اور باریکی سے کرنے سے قاصر ہوتے ہیں جس کی ضرورت ہوتی ہے۔ خودکار الائنمنٹ ایجنٹس اب اس کام کو ایسی رفتار سے سرانجام دیتے ہیں جس کا انسان مقابلہ نہیں کر سکتے۔

یہ طریقہ کار مخصوص تنقیدی ماڈلز (Critique Models) بنانے پر مبنی ہے جو مرکزی نیٹ ورک کا مسلسل امتحان لیتے رہتے ہیں۔ جب مرکزی نیٹ ورک کسی غلط رویے کا مظاہرہ کرتا ہے، تو تنقیدی ماڈل اس غلطی کو پکڑتا ہے اور بنیادی پالیسیوں کو خود بخود اپ ڈیٹ کر دیتا ہے۔ یہ خودکار نظام مسلسل کام کرتا ہے، جس سے ہر گھنٹے میں ہزاروں بار ماڈل کی اصلاح ممکن ہو جاتی ہے۔

اس ٹیکنالوجی نے ماڈل کی تیاری اور اسے محفوظ بنانے کے عمل کو بے حد تیز کر دیا ہے۔ مہینوں تک انسانوں سے فیڈ بیک حاصل کرنے کے بجائے، انجینئرنگ ٹیمیں اب ایسے خودکار سسٹمز لگا سکتی ہیں جو چند دنوں میں ماڈل کو مکمل طور پر محفوظ اور فعال بنا دیتے ہیں۔ نتیجے کے طور پر، اے آئی کو تربیت دینے اور اسے اخلاقی حدود میں رکھنے کا عمل اب ایک واحد، مسلسل نظام میں تبدیل ہو چکا ہے۔

خودکار خود اصلاحی اور مستقبل کے خطرات

اگرچہ اس تکنیک نے انجینئرنگ کی مشکلات کو حل کر دیا ہے، لیکن اس سے اے آئی کے نظام کی نگرانی پر نئے سوالات بھی جنم لے رہے ہیں۔ کسی اے آئی سسٹم کا اپنے رویے کو خود سے تبدیل کرنا اور بہتر بنانا خودکار خود اصلاحی (Recursive Self-Improvement) کا پہلا قدم ہے۔ ماضی میں، ماہرین نے خبردار کیا تھا کہ کسی سمارٹ نیٹ ورک کو اپنے مقاصد خود تبدیل کرنے کی اجازت دینے سے وہ غیر متوقع راستے اختیار کر سکتا ہے۔

اینتھروپک کی تحقیق بتاتی ہے کہ سخت اور شفاف بینچ مارکس کے ذریعے اس خطرناک رجحان کو روکا جا سکتا ہے۔ تاہم، ماہرین اس بات پر زور دیتے ہیں کہ اس نظام کی کامیابی کا انحصار اس بات پر ہے کہ خودکار جائزہ لینے والا ماڈل خود کتنا غیر جانبدار اور درست ہے۔ اگر بنیادی جائزے کے ماڈل میں کوئی پوشیدہ خامی ہوگی، تو مرکزی اے آئی ماڈل اسی خامی کو مزید بڑھا دے گا، جسے انسانی نگرانوں کے لیے پکڑنا مشکل ہو جائے گا۔

ٹیکنالوجی کی عالمی کمپنیوں کے لیے یہ تحقیق ایک ایسے مستقبل کی نشاندہی کرتی ہے جہاں سافٹ ویئر کی خامیاں انسانی مداخلت کے بغیر خود بخود ٹھیک ہو جائیں گی۔ سافٹ ویئر کی دستی اپ ڈیٹس کا پرانا دور اب ختم ہو رہا ہے اور اس کی جگہ خودکار، خود کو ٹھیک کرنے والے سسٹمز لے رہے ہیں۔ جیسے جیسے اے آئی ڈیولپرز ماڈلز کو زیادہ خودمختاری دے رہے ہیں، اے آئی سیفٹی کا بنیادی مرکز انسانی نگرانی کے بجائے خودکار جائزہ لینے والے سسٹمز کے ڈھانچے کو محفوظ بنانے پر منتقل ہو رہا ہے۔

اکثر پوچھے گئے سوالات

What did Anthropic's automated AI alignment research achieve?

Anthropic demonstrated that automated AI models could correct misaligned behaviors across ten safety benchmarks simultaneously. Crucially, the system accomplished this self-correction without degrading the model's baseline intelligence or problem-solving performance.

How does automated alignment differ from traditional RLHF?

Traditional Reinforcement Learning from Human Feedback (RLHF) relies on human annotators to manually review and score AI outputs, which is slow and hard to scale. Automated alignment uses dedicated AI critique models to evaluate, score, and correct the target system continuously at machine speed.

What risk does automated self-improvement carry for AI safety?

If the automated evaluation model has hidden biases or flawed benchmarks, the target AI system will systematically optimize for those errors. This can lead to unexpected alignment drift where models exploit loopholes rather than learning genuine safety compliance.