انتھروپک کے آئی پی او پروسپیکٹس میں جدید مصنوعی ذہانت کے ممکنہ وجودی خطرات کا انکشاف

انتھروپک، جو کلاڈ اے آئی چیٹ بوٹ تیار کرتی ہے، نے اپنے آئی پی او پروسپیکٹس میں خبردار کیا ہے کہ انتہائی جدید مصنوعی ذہانت کے ماڈل وجودی خطرات کا باعث بن سکتے ہیں، جن میں خود کو بچانے والے رویے اختیار کرنے کی ممکنہ صلاحیت شامل ہے، جیسے بندش کی مزاحمت، معلومات کو چھپانا یا ان میں ردوبدل، یا بلیک میلنگ جیسا رویہ۔ یہ پروسپیکٹس، جو ابھی تک عوامی نہیں کیا گیا، یہ بھی انتباہ کرتا ہے کہ اے آئی ماڈلز کو یہ علم ہو سکتا ہے کہ ان کا تجربہ کیا جا رہا ہے، جس سے کمپنی کی ان کی حفاظت کا قابل اعتماد جائزہ لینے کی صلاحیت پر نمایاں حد لگ جاتی ہے۔ دستاویز کے مطابق، انتھروپک نے کہا کہ انتہائی جدید ماڈلز، پلیٹ فارمز اور ایپلیکیشنز کی ترقی، اور ان کے استعمال کے پھیلاؤ سے یہ خطرہ مزید بڑھ سکتا ہے کہ اس کے ماڈل نقصان پہنچائیں۔

یہ انکشاف ایسے وقت میں سامنے آیا ہے جب انتھروپک ممکنہ عوامی لسٹنگ کی تیاری کر رہی ہے جس سے کمپنی کی مالیت 2 ٹریلین ڈالر سے زیادہ ہو سکتی ہے۔ پروسپیکٹس میں مصنوعی ذہانت کی تبدیلی کی صلاحیت کو اجاگر کیا گیا ہے، اس کے اثرات کا موازنہ صنعت کاری اور بجلی سے کیا گیا ہے، اور یہ بھی خبردار کیا گیا ہے کہ غلط استعمال کی صورت میں ناقابل واپسی نقصان ہو سکتا ہے۔ رائٹرز کے مطابق، انتھروپک کے 261 صفحات پر مشتمل مرکزی پروسپیکٹس کے تقریباً 80 صفحات خطرے کے عوامل کے لیے وقف تھے، جبکہ کمپنی کے کاروبار کی وضاحت کے لیے 48 صفحات تھے۔ فائلنگ میں انتھروپک نے کہا، "ہم سمجھتے ہیں کہ قابل اعتماد، بھروسے مند اور محفوظ اے آئی سسٹمز کی تعمیر ایک اجتماعی ذمہ داری ہے اور مارکیٹ اس کا صلہ دے گی۔"

یہ انتباہ اے آئی ڈویلپرز، بشمول اوپن اے آئی، کی حالیہ جانچ کے بعد سامنے آیا ہے، جب تجرباتی اے آئی سسٹمز حفاظتی اقدامات کو نظرانداز کرتے پائے گئے۔ ایک رپورٹ میں اوپن اے آئی کے ایک ماڈل کا آسٹریلیا کے صحت کے نظام کے ڈیٹا بیس میں دراندازی کا واقعہ شامل ہے۔ یہ پروسپیکٹس انتھروپک کے محقق جیکب کاکسن کے استعفیٰ کے بعد بھی سامنے آیا ہے، جنہوں نے خبردار کیا تھا کہ اے آئی تیار کرنے والے کچھ افراد کا خیال ہے کہ یہ ٹیکنالوجی اگلی دہائی میں انسانیت کو ہلاک کر سکتی ہے۔ رپورٹس کے مطابق، انتھروپک کے ایک سینئر حفاظتی محقق نے بعد میں کہا کہ اگلی دہائی میں اے آئی کے "تمام انسانوں کو ہلاک" کرنے کا 10 فیصد سے زیادہ امکان ہے۔ انتھروپک کے سی ای او ڈاریو امودی نے بھی صنعت سے مطالبہ کیا ہے کہ اے آئی کی ترقی کی رفتار سست کی جائے، اور خبردار کیا ہے کہ تیزی سے قابل ماڈلز کی تیز رفتار ترقی کے لیے حفاظت پر زیادہ توجہ درکار ہے۔

کچھ ماہرین نے وجودی خطرے کے انتباہات کو سائنسی طور پر مشکل قرار دیا ہے۔ ساتھ ہی، خودمختار اے آئی ایجنٹس کے غیر متوقع یا غیر مجاز رویے کے واقعات نے اے آئی کی حفاظت کے بارے میں خدشات کو ہوا دی ہے۔ ماہرین نے تکراری خود بہتری کے بارے میں بھی خبردار کیا ہے، یعنی وہ مقام جہاں اے آئی ماڈل انسانی مدد کے بغیر خود کو بہتر بنا سکتے ہیں۔ انتھروپک نے حالیہ ہفتوں میں وعدہ کیا ہے کہ وہ عوامی طور پر مزید ڈیٹا جاری کرے گی کہ وہ اے آئی ماڈلز کو ٹیکنالوجی کی آئندہ نسلوں کی تعمیر کے لیے کیسے استعمال کرتی ہے۔ مہر نیوز کے مطابق، کمپنی کا آئی پی او پروسپیکٹس جدید اے آئی سسٹمز کی حفاظت اور ضابطے پر جاری بحث کو اجاگر کرتا ہے۔