99.65% درستگی نے مجھے مصنوعی ذہانت کی سیکیورٹی کے بارے میں کیا سکھایا
چند سال پہلے میں ایک آن لائن فراڈ میں پیسے گنوا بیٹھا۔ بعد میں ایک رینسم ویئر حملے نے میری فائلیں لاک کر دیں۔ دونوں میں سے کوئی حملہ خاص ہوشیاری والا نہیں تھا، لیکن دونوں کامیاب رہے، اور دونوں نے میرے ذہن میں ایک ہی سوال چھوڑا: جو چیز آخری لمحے تک بالکل عام دکھائی دے، اسے روکا کیسے جائے؟
یہ سوال مصنوعی ذہانت میں میرے ایم ایس تک میرے ساتھ رہا۔ آج اس میں ایک نیا موڑ آ گیا ہے۔ آپ کو دھوکہ دینے والا پیغام اب کسی انسان کا لکھا ہونا ضروری نہیں۔ ایک لینگویج ماڈل چند سیکنڈ میں بینک کا قائل کر دینے والا الرٹ، نوکری کی جعلی پیشکش یا مدد کی دل کو چھو لینے والی اپیل لکھ سکتا ہے، درست گرامر کے ساتھ اور ان ہجے کی غلطیوں کے بغیر جنہیں پکڑنا ہم سب کو سکھایا گیا تھا۔
اسی لیے اپنے مقالے کے لیے میں نے ایک ڈیٹیکٹر بنانے کا فیصلہ کیا: ایسا ماڈل جو کوئی متن پڑھ کر بتائے کہ اسے انسان نے لکھا ہے یا مصنوعی ذہانت نے۔
میں نے کیا بنایا
میں نے تقریباً 5 لاکھ متن کے متوازن ڈیٹا سیٹ پر، جس کا آدھا حصہ انسانوں کا لکھا اور آدھا مصنوعی ذہانت کا بنایا ہوا تھا، ڈیپ لرننگ کے چار ماڈلز کو تربیت دی اور ان کا موازنہ کیا:
- LSTM، جو متن کو لفظ بہ لفظ پڑھتا ہے اور ساتھ ساتھ یادداشت رکھتا ہے؛
- فائن ٹیونڈ BERT، ایک ٹرانسفارمر جو ہر لفظ کو پورے پیراگراف کے سیاق و سباق میں دیکھتا ہے؛
- TF-IDF + BERT + LightGBM، جو الفاظ کے روایتی اعداد و شمار، BERT کی خصوصیات اور گریڈینٹ بوسٹنگ کلاسیفائر کو ملاتا ہے؛
- ہائبرڈ BERT + LSTM، جس میں BERT سیاق و سباق سمجھتا ہے اور اوپر لگا LSTM اسے ترتیب وار پڑھتا ہے۔
ہائبرڈ ماڈل جیت گیا: 99.65% درستگی اور 0.995 کا F1 اسکور۔
مجھے اس عدد پر فخر تھا، اور اب بھی ہے۔ لیکن جتنا میں نے سوچا کہ ایسا ڈیٹیکٹر حقیقت میں کہاں استعمال ہوگا، اتنا ہی مجھے احساس ہوا کہ یہ عدد سیکیورٹی کے سوال کا اختتام نہیں بلکہ اس کا آغاز ہے۔
پہلا سبق: درستگی کا انحصار اس پر ہے کہ دنیا کیسی ہے
میرا ڈیٹا سیٹ متوازن تھا: مصنوعی ذہانت کے ہر متن کے مقابلے میں ایک انسانی متن۔ ماڈلز کو تربیت دینے اور ان کا موازنہ کرنے کا یہی درست طریقہ ہے۔ لیکن کسی کا ان باکس ایسا نہیں ہوتا۔
ایک سادہ سی مثال لیں۔ فرض کریں 10,000 پیغامات ہیں جن میں سے صرف 100 مصنوعی ذہانت کے بنائے ہوئے ہیں، اور ڈیٹیکٹر دونوں قسم کے متن پر 0.35% بار غلطی کرتا ہے:
- یہ مصنوعی ذہانت کے تقریباً تمام 100 پیغامات پکڑ لیتا ہے؛
- لیکن 9,900 انسانی پیغامات میں سے تقریباً 35 کو بھی غلطی سے نشان زد کر دیتا ہے۔
تقریباً 135 نشان زد پیغامات میں سے لگ بھگ ایک چوتھائی اصل انسانوں کے ہیں جن پر مشین ہونے کا الزام لگ گیا۔ ماڈل میں کوئی تبدیلی نہیں آئی، صرف وہ دنیا بدلی جس میں وہ کام کر رہا ہے۔
سیکیورٹی میں اسے بیس ریٹ کا مسئلہ کہتے ہیں، اور یہی وجہ ہے کہ SOC کے تجزیہ کار غلط الارموں میں ڈوبے رہتے ہیں۔ کوئی ڈیٹیکٹر اتنا ہی مفید ہے جتنی اس کی غلط مثبت شرح اس پیمانے پر جس پر وہ چلتا ہے۔
دوسرا سبق: حملہ آور بھی وہی مقالے پڑھتے ہیں جو ہم پڑھتے ہیں
اسپام فلٹر یا میلویئر اسکینر کا مقابلہ کسی ایک جیسے دشمن سے نہیں ہوتا۔ اس کا سامنا ایسے شخص سے ہوتا ہے جو خود کو بدلتا رہتا ہے۔ مصنوعی ذہانت کے متن کی پہچان بھی مختلف نہیں۔ متن کو دوسرے الفاظ میں لکھنا، انسانی اور مشینی تحریر کو ملانا، یا کسی نئے ماڈل پر منتقل ہو جانا، یہ سب کل کے ڈیٹا پر تربیت یافتہ ڈیٹیکٹر سے بچ نکلنے کے طریقے ہیں۔
ٹیسٹ سیٹ پر اچھا اسکور بتاتا ہے کہ ماڈل ان حملوں کو کتنی اچھی طرح سنبھالتا ہے جو وہ پہلے دیکھ چکا ہے۔ جو حملے اس نے نہیں دیکھے، ان کے بارے میں یہ بہت کم بتاتا ہے۔ یہی ایڈورسیریل مشین لرننگ کا شعبہ ہے، اور یہی سب سے بڑی وجہ ہے کہ میں اپنا اگلا قدم خود مصنوعی ذہانت کی سیکیورٹی میں رکھنا چاہتا ہوں۔ ڈیٹیکٹر بنانا آدھا کام ہے۔ اسے اس وقت بھی مضبوط رکھنا جب کوئی جان بوجھ کر اسے توڑنے کی کوشش کر رہا ہو، باقی آدھا کام ہے۔
تیسرا سبق: زبان بھی سیکیورٹی کا خلا ہے
زیادہ تر عوامی ڈیٹا سیٹ اور پہچان کے ٹولز انگریزی کے لیے بنے ہیں۔ پاکستان میں لوگوں کو ملنے والے دھوکہ دہی کے پیغامات اکثر انگریزی میں نہیں ہوتے۔ وہ اردو میں آتے ہیں، یا رومن اردو میں، یعنی انگریزی حروف میں لکھی اردو، جس کے اپنے ہجے اور اپنی بول چال ہے۔
جس ڈیٹیکٹر نے کبھی “aap ka account block ho gaya hai” نہیں دیکھا، وہ ان لوگوں کی حفاظت نہیں کر سکتا جنہیں یہی پیغام ملتا ہے۔ اسی لیے میرا موجودہ منصوبہ انگریزی، اردو اور رومن اردو کے لیے دھوکہ دہی اور فشنگ کا ڈیٹیکٹر ہے۔ حملہ آور یہ زبانیں پہلے ہی بولتے ہیں، تو ہمارے دفاع کو بھی بولنی چاہییں۔
چوتھا سبق: ڈیٹیکٹر کو فیصلہ نہیں، اشارہ دینا چاہیے
پہلے تین سبق ایک ساتھ رکھیں تو ایک نتیجہ واضح ہو جاتا ہے۔ میرے جیسے ماڈل کو جج نہیں ہونا چاہیے۔ اسے کئی اشاروں میں سے ایک اشارہ ہونا چاہیے، اس کے ساتھ کہ پیغام کس نے بھیجا، لنک کہاں لے جاتا ہے اور کیا درخواست کوئی معنی رکھتی ہے۔ اور کسی بھی اہم معاملے کا آخری فیصلہ انسان کے پاس رہنا چاہیے۔
یہ “99.65% درست مصنوعی ذہانت ڈیٹیکٹر” جتنا دلچسپ نہیں لگتا، لیکن اچھی سیکیورٹی اسی طرح کام کرتی ہے: تہہ در تہہ حفاظت سے، کسی ایک جادوئی حل سے نہیں۔
آگے کیا
میرے مقالے نے مجھے ایسے ماڈل بنانا سکھایا جو اصلی اور جعلی کو الگ کرتے ہیں۔ اس نے یہ بھی دکھایا کہ ابھی کتنا کام باقی ہے: ایسے ڈیٹیکٹر جو حقیقی دنیا کے بیس ریٹ کو سنبھال سکیں، بدلتے حملہ آوروں کے سامنے ٹِک سکیں، اور ان زبانوں میں کام کریں جو لوگ واقعی استعمال کرتے ہیں۔
یہی وہ کام ہے جو میں آگے کرنا چاہتا ہوں، تحقیق میں بھی اور سیکیورٹی آپریشنز میں بھی۔ اگر آپ بھی ایسے مسائل پر کام کر رہے ہیں تو مجھے آپ سے بات کر کے خوشی ہوگی۔ آپ مجھ سے رابطہ فارم کے ذریعے رابطہ کر سکتے ہیں۔
میرے مقالے پر مبنی ایک تحقیقی مضمون تیاری کے مراحل میں ہے۔ شائع ہوتے ہی میں اسے یہاں شیئر کروں گا۔