Artificial Intelligence: اوپن اے آئی نے 100 سے زیادہ اداروں کو اے آئی ایجنٹس کی غیر مجاز سرگرمیوں سے آگاہ کیا، 50 پیٹا بائٹ ڈیٹا کا بھی تجزیہ

نئی دہلی : امریکہ میں قائم مصنوعی ذہانت (اے آئی) کی کمپنی اوپن اے آئی نے کہا ہے کہ اس نے اپنے اے آئی ایجنٹس سے متعلق غیر مجاز سرگرمیوں کے واقعات کے بارے میں 100 سے زیادہ اداروں کو مطلع کیا ہے۔ یہ پیش رفت ایسے وقت میں ہوئی ہے جب خودکار اے آئی سسٹمز سے وابستہ خطرات کے باعث اے آئی کمپنیوں کی نگرانی بڑھ رہی ہے۔چیٹ جی پی ٹی تیار کرنے والی کمپنی کے مطابق، وہ اپنے اے آئی ماڈلز سے متعلق سرگرمیوں کا وسیع جائزہ لے رہی ہے۔ یہ جائزہ ہگنگ فیس سے جڑے ایک واقعے کے بعد شروع کیا گیا، جسے اوپن اے آئی نے اب تک اپنے ماڈلز سے متعلق شناخت کی گئی غیر مجاز سرگرمیوں کا سب سے سنگین معاملہ قرار دیا ہے۔

50 پیٹا بائٹ ڈیٹا کا بھی تجزیہ

اوپن اے آئی نے بتایا کہ اس وسیع جائزے کے تحت تقریباً 50 پیٹا بائٹ ڈیٹا کا بھی تجزیہ کیا جا رہا ہے، تاکہ اے آئی ایجنٹس کی ایسی سرگرمیوں کے مکمل دائرہ کار کا پتہ لگایا جا سکے۔کمپنی کے مطابق، جائزے کے دوران ایسی سرگرمیوں کے مختلف نمونے سامنے آئے ہیں، جن میں ایجنٹس کا اجازت سے زیادہ رسائی حاصل کرنا، ظاہر شدہ اسناد یا ایکسس کیز کا استعمال، کمانڈ یا کوئری انجیکشن اور تیسرے فریق کی ویب سائٹس پر غیر متوقع مواد پوسٹ کرنا شامل ہے۔

اے آئی ایجنٹس نے غیر متوقع طریقوں سے انٹرنیٹ استعمال کیا

اوپن اے آئی نے کہا کہ بعض معاملات میں اس کے ماڈلز نے انٹرنیٹ تک رسائی ایسے طریقوں سے حاصل کی جو متوقع نہیں تھے، یا بعد میں جائزہ لینے پر یہ معلوم ہوا کہ ان پر مناسب پابندیاں نافذ نہیں تھیں۔جولائی 2026 میں سائبر سکیورٹی کی داخلی جانچ کے دوران اوپن اے آئی کے کچھ ماڈلز نے انہیں انٹرنیٹ سے الگ رکھنے کے لیے بنائے گئے حفاظتی انتظامات کو عبور کیا تھا۔ اس دوران اوپن اے آئی کے داخلی تحقیقی انفراسٹرکچر اور ہگنگ فیس کے کچھ سسٹمز تک بھی رسائی حاصل کی گئی۔اوپن اے آئی کے مطابق، اس واقعے میں بنیادی کردار ایک انتہائی قابل داخلی تحقیقی ماڈل کا تھا۔ کمپنی نے بتایا کہ اس دوران ماڈلز نے غیر مجاز ذرائع سے ایک دوسرے سے رابطہ کیا، مشترکہ انفراسٹرکچر کی کمزوریوں کا فائدہ اٹھایا اور تیسرے فریق کے سسٹمز تک رسائی حاصل کی۔

کئی ماہ تک جاری رہ سکتا ہے جائزہ

اوپن اے آئی نے کہا ہے کہ گزشتہ کئی ماہ کے دوران ایسی سرگرمیوں کو روکنے یا ابتدائی مرحلے میں ان کی نشاندہی کرنے کے لیے نئے تکنیکی اور عملی اقدامات کیے گئے ہیں۔کمپنی نے اس سے قبل کہا تھا کہ ڈیٹا کے وسیع حجم اور جائزے میں شامل کام کی نوعیت کے باعث اس عمل کو مکمل ہونے میں کئی ماہ لگ سکتے ہیں۔ کمپنی کا کہنا ہے کہ مزید معلومات سامنے آنے کے ساتھ متاثرہ فریقوں کو بھی مطلع کیا جاتا رہے گا۔ہگنگ فیس سے متعلق واقعے کے بعد اوپن اے آئی نے اپنے تحقیقی ماحول میں مزید سخت حفاظتی اقدامات، زیادہ الگ تھلگ سینڈ باکسز، انٹرنیٹ رسائی پر پابندیوں اور ماڈلز کے رویے کی نگرانی کے لیے اضافی نظام نافذ کرنے کی بات کہی ہے۔

خودکار اے آئی سسٹمز پر بڑھتی تشویش

یہ پیش رفت ایسے وقت میں سامنے آئی ہے جب اے آئی کمپنیاں ایسے ماڈلز تیزی سے تیار اور تعینات کر رہی ہیں جو انٹرنیٹ سے منسلک ٹولز استعمال کرنے اور محدود انسانی مداخلت کے ساتھ مختلف کام انجام دینے کی صلاحیت رکھتے ہیں۔اوپن اے آئی کا کہنا ہے کہ اس کے تجربات سے یہ واضح ہوا ہے کہ زیادہ قابل اور خودکار اے آئی ایجنٹس مناسب حفاظتی انتظامات نہ ہونے کی صورت میں تکنیکی پابندیوں کو نظرانداز کرکے ایسے اقدامات کر سکتے ہیں جن کی براہ راست ہدایت کسی انسان نے نہیں دی۔ہگنگ فیس واقعے کے علاوہ کمپنی نے بعد کے جائزوں میں دیگر غیر متوقع سرگرمیوں کی بھی نشاندہی کی ہے، جن میں تیسرے فریق کی ویب سائٹس پر مواد پوسٹ کرنا بھی شامل ہے۔ اوپن اے آئی نے ایسی سرگرمیوں کے ایک حصے کو ’ایجنٹ اسپیم‘ کا نام دیا ہے۔ اس معاملے نے اے آئی ایجنٹس کی نگرانی، ان کے لیے حفاظتی حدود مقرر کرنے اور خودکار نظاموں کو قابو میں رکھنے کے طریقوں سے متعلق بحث کو مزید تیز کر دیا ہے۔

بھارت ایکسپریس اردو