Grok کا تصویری تنازعہ: دنیا نے پابندی لگائی، ایکس نے صفائیاں دیں — مصنوعی ذہانت کی حفاظت کا امتحان

مصنوعی ذہانت کی دنیا میں ایک بار پھر وہی پرانا سوال اٹھ کھڑا ہوا ہے: جب ایک AI ٹول لوگوں کی تصویروں کے ساتھ چھیڑ چھاڑ کرنے لگے تو ذمہ دار کون ہے؟ ایلون مسک کی کمپنی xAI کے چیٹ بوٹ Grok کی تصویری خصوصیت نے گزشتہ ہفتے دنیا بھر میں ہنگامہ برپا کر دیا، جب صارفین نے “اسے بکنی پہناؤ” اور “اس کے کپڑے اتارو” جیسے احکامات دے کر خواتین اور بچوں کی نازیبا تصاویر بنانا شروع کر دیں۔

پیرس کی غیر سرکاری تنظیم AI Forensics نے Grok سے بنائی گئی 20 ہزار سے زائد تصویروں کا تجزیہ کیا۔ نتائج پریشان کن تھے: نصف سے زیادہ تصویروں میں خواتین کو کم لباس میں دکھایا گیا تھا، اور تقریباً دو فیصد تصویریں ایسی تھیں جن میں بچے نظر آ رہے تھے۔

ردعمل تیزی سے آیا۔ کیلیفورنیا کے اٹارنی جنرل روب بونٹا نے بدھ 7 اکتوبر کو xAI کے خلاف تحقیقات کا اعلان کیا۔ ان کے الفاظ میں: “حالیہ ہفتوں میں xAI کی جانب سے تیار کردہ غیر رضامندی پر مبنی جنسی مواد کی رپورٹوں کا سیلاب حیران کن ہے۔” برطانیہ کے ریگولیٹر آف کام نے پیر 5 اکتوبر کو جانچ شروع کی کہ آیا ایکس نے برطانوی قانون کی خلاف ورزی کی۔

انڈونیشیا 3 اکتوبر کو Grok پر مکمل پابندی لگانے والا پہلا ملک بنا، اور ملائیشیا نے اگلے ہی روز اس کی پیروی کی۔ ملائیشیا کے وزیر مواصلات فہمی فاضل نے جمعرات کو کہا کہ ایکس کے اقدامات “مکمل نہیں” اور پابندی اس وقت تک برقرار رہے گی جب تک مسئلہ حل نہیں ہوتا۔ بھارت کی وزارتِ الیکٹرانکس نے بھی ایکس سے کارروائی کی رپورٹ طلب کی، جس کے بعد کمپنی نے ہزاروں پوسٹس اور سیکڑوں اکاؤنٹس ہٹائے۔

اٹھائیس سول سوسائٹی تنظیموں نے ایپل اور گوگل کے سربراہان کو خط لکھ کر مطالبہ کیا کہ X اور Grok کو ایپ اسٹورز سے ہٹایا جائے۔

دباؤ بڑھنے پر ایکس نے بدھ کو جواب دیا: کمپنی نے ان ممالک میں تصویری تخلیق کی صلاحیت کو “جیو بلاک” کر دیا جہاں یہ غیر قانونی ہے، اور Grok کے ذریعے تصویروں کی تخلیق اور ترمیم اب صرف ادا شدہ صارفین تک محدود کر دی گئی ہے۔ ایکس کی سیفٹی ٹیم کے مطابق: “ہم نے تکنیکی اقدامات نافذ کیے ہیں تاکہ Grok اکاؤنٹ کو حقیقی لوگوں کی بکنی جیسے کم لباس والی تصویروں میں ترمیم سے روکا جا سکے۔”

تجزیہ

یہ واقعہ صرف ایک چیٹ بوٹ کی خرابی نہیں — یہ مصنوعی ذہانت کی نگرانی کے پورے نظام کا امتحان ہے۔ دلچسپ بات یہ ہے کہ ردعمل کا نقشہ بھی بدل رہا ہے: پہلے صرف مغربی ریگولیٹر بولتے تھے، اب انڈونیشیا اور ملائیشیا جیسے ممالک براہِ راست پابندی لگا رہے ہیں۔ طاقت کا توازن بدل رہا ہے — پلیٹ فارم اب صرف واشنگٹن اور برسلز سے نہیں، جکارتہ اور کوالالمپور سے بھی جوابدہ ہیں۔

دوسرا اہم نکتہ ایکس کا “ادا شدہ صارفین” والا حل ہے۔ کیا پیسے دینے والا صارف کم خطرناک ہوتا ہے؟ یہ دلیل کمزور ہے — پابندی کی اصل وجہ ٹیکنالوجی کی خرابی تھی، نہ کہ صارف کی مفت یا ادا شدہ حیثیت۔ یہ اقدام مسئلے کے حل سے زیادہ، ریگولیٹروں کو مطمئن کرنے کی کوشش لگتا ہے۔

پاکستان کے لیے بھی یہ ایک سبق ہے: جب AI ٹولز ہر فون میں ہوں گے، تو ان کے غلط استعمال سے نمٹنے کے لیے قوانین اور ادارے پہلے سے تیار ہونے چاہئیں — بعد میں پابندی لگانا ہمیشہ مہنگا پڑتا ہے۔