مطالعہ سے پتہ چلتا ہے کہ AI سے تیار کردہ جعلی رپورٹس ماہرین کو بے وقوف بناتی ہیں

مطالعہ سے پتہ چلتا ہے کہ AI سے تیار کردہ جعلی رپورٹس ماہرین کو بے وقوف بناتی ہیں

سائبرسیکیوریٹی جیسے نازک شعبوں میں ماہرین کو بے وقوف بنانے کے لئے غلط معلومات پیدا کرنے میں انسانی ذہن کو کوئی ضرورت نہیں ہے گیٹی امیجز کے توسط سے iLexx / iStock

اگر آپ ایسی سوشل میڈیا ویب سائٹس کو بطور فیس بک اور ٹویٹر استعمال کرتے ہیں تو ، آپ کو غلط خطوط سے متعلق انتباہ کے ساتھ نشان زدہ پوسٹوں پر آنا پڑ سکتا ہے۔ اب تک ، سب سے زیادہ غلط معلومات جس کا مقصد عام عوام ہیں. سائنسی اور تکنیکی شعبوں جیسے سائبرسیکیوریٹی ، عوام کی حفاظت اور ادویات جیسے غلط معلومات - جو غلط یا گمراہ کن ہیں - غلط معلومات کے امکان کا تصور کریں۔

اس کے بارے میں بڑھتی ہوئی تشویش پائی جاتی ہے ان اہم شعبوں میں غلط معلومات پھیل رہی ہیں سائنسی ادب کی اشاعت میں مشترکہ تعصب اور عمل کے نتیجے میں ، یہاں تک کہ ہم مرتبہ جائزہ لینے والے تحقیقی مقالے میں بھی۔ کی طرح گریجویٹ طالب علم اور جیسا کہ فیکلٹی کے ارکان سائبرسیکیوریٹی میں تحقیق کرتے ہوئے ، ہم نے سائنسی برادری میں غلط معلومات کی نئی راہ کا مطالعہ کیا۔ ہم نے محسوس کیا ہے کہ مصنوعی ذہانت کے نظاموں کے لئے طب اور دفاع جیسے اہم شعبوں میں غلط معلومات پیدا کرنا ممکن ہے جو ماہرین کو بے وقوف بنانے کے لئے کافی قائل ہے۔

عام طور پر غلط معلومات کا مقصد اکثر کمپنیوں یا عوامی شخصیات کی ساکھ کو خراب کرنا ہوتا ہے۔ مہارت رکھنے والی جماعتوں میں غلط معلومات خوفناک نتائج کی صلاحیت رکھتی ہیں جیسے ڈاکٹروں اور مریضوں کو غلط طبی مشورے فراہم کرنا۔ اس سے جانیں خطرے میں پڑسکتی ہیں۔


 ای میل کے ذریعہ تازہ ترین معلومات حاصل کریں

ہفتہ وار رسالہ روزانہ الہام

اس خطرے کو پرکھنے کے ل we ، ہم نے سائبر سکیورٹی اور طبی برادریوں میں غلط معلومات پھیلانے کے اثرات کا مطالعہ کیا۔ ہم نے جعلی سائبرسیکیوریٹی نیوز اور COVID-19 میڈیکل اسٹڈیز بنانے کے لئے ٹب ٹرانسفارمر ڈب کے مصنوعی ذہانت کے ماڈلز کا استعمال کیا اور سائبرسیکیوریٹی کی غلط معلومات کو سائبرسیکیوریٹی ماہرین کو جانچ کے لئے پیش کیا۔ ہمیں معلوم ہوا ہے کہ ٹرانسفارمر سے تیار شدہ غلط معلومات سائبرسیکیوریٹی ماہرین کو بے وقوف بنانے کے قابل ہے۔

ٹرانسفارمرز

غلط معلومات کی شناخت اور ان کا انتظام کرنے کے لئے استعمال ہونے والی بیشتر ٹکنالوجی مصنوعی ذہانت سے چلتی ہے۔ اے آئی کمپیوٹر سائنس دانوں کو بڑی مقدار میں غلط معلومات کی فوری جانچ پڑتال کرنے کی اجازت دیتا ہے ، اس وجہ سے کہ لوگوں کی بہتات ہے کہ وہ ٹیکنالوجی کی مدد کے بغیر کھوج کرسکیں۔ اگرچہ اے آئی لوگوں کو غلط معلومات کا پتہ لگانے میں مدد کرتا ہے ، لیکن حالیہ برسوں میں یہ غلط طور پر غلط اطلاعات پیدا کرنے کے لئے بھی استعمال کیا جاتا ہے۔

اسمارٹ فون اسکرین پر متن کا ایک بلاک

اے آئی ہندوستان میں COVID-19 کے بارے میں ان جھوٹے دعوؤں کی طرح غلط معلومات کا پتہ لگانے میں مدد کرسکتا ہے - لیکن جب ہوتا ہے جب اے آئی کو غلط معلومات پیدا کرنے کے لئے استعمال کیا جاتا ہے۔

اے پی فوٹو / اشونی بھاٹیا

ٹرانسفارمرز ، جیسے برٹ گوگل سے اور جی پی ٹی اوپنآئی سے ، استعمال کریں قدرتی زبان پروسیسنگ متن کو سمجھنے اور ترجمے ، خلاصے اور ترجمانی پیش کرنے کے لئے۔ ان کا استعمال قص storyہ سنانے اور سوالوں کے جواب دینے ، متن پیدا کرنے میں انسان نما صلاحیتوں کی نمائش کرنے والی مشینوں کی حدود کو آگے بڑھانا جیسے کاموں میں کیا گیا ہے۔

ٹرانسفارمرز نے گوگل اور دیگر ٹکنالوجی کمپنیوں کی مدد کی ان کے سرچ انجنوں کو بہتر بنانا اور اس طرح کے عام مسائل سے نمٹنے میں عام لوگوں کی مدد کی ہے مصنفین کا بلاک لڑ رہا ہے.

ٹرانسفارمروں کو بھی مذموم مقاصد کے لئے استعمال کیا جاسکتا ہے۔ فیس بک اور ٹویٹر جیسے سوشل نیٹ ورک کو پہلے ہی چیلینجز کا سامنا کرنا پڑا ہے اے آئی سے تیار کردہ جعلی خبریں پلیٹ فارمز کے اس پار۔

تنقیدی غلط معلومات

ہماری تحقیق سے پتہ چلتا ہے کہ ٹرانسفارمر طب اور سائبرسیکیوریٹی میں بھی غلط معلومات کا خطرہ لاحق ہیں۔ یہ بتانے کے لئے کہ یہ کتنا سنجیدہ ہے ، ہم ٹھیک دیکھتے ہیں GPT-2 ٹرانسفارمر ماڈل آن ہے آن لائن ذرائع کھولیں سائبر سیکیورٹی کے خطرات اور حملہ کی معلومات پر تبادلہ خیال کرنا۔ سائبرسیکیوریٹی کا خطرہ کمپیوٹر سسٹم کی کمزوری ہے ، اور سائبرسیکیوریٹی اٹیک ایک ایسا عمل ہے جو کمزوری کا استحصال کرتا ہے۔ مثال کے طور پر ، اگر کمزور فیس بک کا کمزور پاس ورڈ ہے تو ، اس کا استحصال کرنے والا ایک ایسا ہیکر ہوگا جو آپ کے پاس ورڈ کا پتہ لگاتا ہے اور آپ کے اکاؤنٹ میں پھنس جاتا ہے۔

اس کے بعد ہم نے ماڈل کو سائبر تھریٹ انٹلیجنس نمونہ کے جملے یا فقرے کے ساتھ سیڈ کیا اور اس نے باقی خطرے کی تفصیل پیدا کردی۔ ہم نے اس پیدا شدہ تفصیل کو سائبر اسٹریٹ شکاریوں کے سامنے پیش کیا ، جو سائبر سیکیورٹی کے خطرات کے بارے میں بہت ساری معلومات تلاش کرتے ہیں۔ ممکنہ حملوں کی نشاندہی کرنے اور اپنے سسٹم کے دفاع کو ایڈجسٹ کرنے کے لئے یہ پیشہ ور خطرے کی تفصیل پڑھتے ہیں۔

ہمیں نتائج سے حیرت ہوئی۔ سائبرسیکیوریٹی کی غلط معلومات کے ان مثالوں کی جو ہم نے پیدا کیں وہ سائبر تھریٹ شکاریوں کو بے وقوف بنانے میں کامیاب ہوگئے ، جو ہر طرح کے سائبر سیکیورٹی حملوں اور خطرات سے آگاہ ہیں۔ اس منظر نامے کا سائبرتھریٹ انٹیلیجنس کے ایک اہم ٹکڑے کے ساتھ تصور کریں جس میں ایئر لائن انڈسٹری شامل ہے ، جسے ہم نے اپنے مطالعے میں تیار کیا ہے۔

ایئر لائنز پر سائبرسیکیوریٹی حملے کے بارے میں غلط معلومات والی تحریر کا ایک بلاک

اے آئی سے تیار کردہ سائبرسیکیوریٹی کی غلط معلومات کی ایک مثال۔

 

گفتگو، CC BY-ND

معلومات کے اس گمراہ کن ٹکڑے میں حساس وقت کے اڑان سے متعلق حساس اعداد و شمار والی ایئر لائنز میں سائبریٹیکس سے متعلق غلط معلومات شامل ہیں۔ یہ غلط معلومات سائبر تجزیہ کاروں کو جعلی سافٹ ویئر کیڑے کی طرف مبذول کر کے اپنے نظاموں میں جائز خطرات کو دور کرنے سے روک سکتی ہے۔ اگر کوئی سائبر تجزیہ کار حقیقی دنیا کے منظر نامے میں جعلی معلومات پر کام کرتا ہے تو ، ایئر لائن کو زیربحث ایک سنگین حملے کا سامنا کرنا پڑسکتا ہے جو ایک حقیقی ، بے ربط خطرے کا استحصال کرتا ہے۔

ایسا ہی ٹرانسفارمر پر مبنی ماڈل میڈیکل ڈومین میں معلومات پیدا کرسکتا ہے اور ممکنہ طور پر طبی ماہرین کو بیوقوف بنا سکتا ہے۔ CoVID-19 وبائی امراض کے دوران ، تحقیقی مقالوں کے پرنٹ پرنٹس جن کا ابھی تک سخت جائزہ نہیں لیا گیا ہے ، ایسی سائٹوں پر مستقل طور پر اپلوڈ کیے جارہے ہیں جیسے میڈر ایکس. ان کو نہ صرف پریس میں بیان کیا جارہا ہے بلکہ انہیں صحت عامہ کے فیصلوں کے لئے استعمال کیا جارہا ہے۔ مندرجہ ذیل پر غور کریں ، جو کچھ COVID-2 سے متعلقہ کاغذات پر ڈیفالٹ GPT-19 کی کم سے کم ٹھیک ٹوننگ کے بعد ہمارے ماڈل کے ذریعہ حقیقی نہیں بلکہ پیدا کیا گیا ہے۔

متن کا ایک بلاک جس میں صحت کی دیکھ بھال کی غلط معلومات دکھائی جارہی ہیں۔

اے آئی سے تیار کردہ صحت کی دیکھ بھال سے متعلق غلط معلومات کی ایک مثال۔

 

گفتگو، CC BY-ND

یہ ماڈل مکمل جملے تیار کرنے اور مبینہ طور پر COVID-19 ویکسی نیشنز کے ضمنی اثرات اور کئے گئے تجربات کو بیان کرنے کا خلاصہ تشکیل دینے میں کامیاب رہا۔ یہ دونوں طبی محققین کو پریشان کر رہے ہیں ، جو باخبر فیصلے کرنے کے لئے مستند معلومات پر مستقل انحصار کرتے ہیں ، اور عام لوگوں کے ممبروں کے لئے ، جو صحت کی اہم معلومات کے بارے میں جاننے کے لئے اکثر عوامی خبروں پر انحصار کرتے ہیں۔ اگر بطور درست قبول کیا جاتا ہے تو ، اس طرح کی غلط معلومات بایو میڈیکل ریسرچ کرنے والے سائنسدانوں کی کوششوں کو غلط سمت دے کر جانوں کو خطرے میں ڈال سکتی ہے۔

اے آئی میں غلط معلومات دینے والی اسلحہ کی دوڑ؟

اگرچہ ہمارے مطالعے سے ملنے والی ایسی مثالوں کو حقیقت سے پرکھا جاسکتا ہے ، لیکن ٹرانسفارمر سے تیار شدہ غلط معلومات انفارمیشن اوورلوڈ میں مدد کے لئے اے آئی کو اپنانے میں صحت کی دیکھ بھال اور سائبرسیکیوریٹی جیسی صنعتوں کی راہ میں رکاوٹ ہیں۔ مثال کے طور پر ، سائبرتھریٹ انٹیلیجنس سے ڈیٹا نکالنے کے لئے خودکار نظام تیار کیے جارہے ہیں جو اس کے بعد خود کار نظاموں کو ممکنہ حملوں کی شناخت کے ل inform آگاہ کرنے اور تربیت دینے کے لئے استعمال ہوتے ہیں۔ اگر یہ خودکار نظام ایسے غلط سائبرسیکیوریٹی ٹیکسٹ پر کارروائی کرتے ہیں تو ، وہ حقیقی خطرات کا پتہ لگانے میں کم کارگر ثابت ہوں گے۔

ہم سمجھتے ہیں کہ اس کا نتیجہ اسلحے کی دوڑ ثابت ہوسکتا ہے کیونکہ غلط معلومات پھیلانے والے لوگوں کو شناخت کرنے کے مؤثر طریقوں کے جواب میں غلط معلومات پیدا کرنے کے بہتر طریقے تیار کرتے ہیں۔

سائبرسیکیوریٹی محققین مختلف ڈومینز میں غلط معلومات کا پتہ لگانے کے طریقوں کا مستقل مطالعہ کرتے ہیں۔ خود بخود غلط معلومات پیدا کرنے کا طریقہ سمجھنے سے اس کو پہچاننے کا طریقہ سمجھنے میں مدد ملتی ہے۔ مثال کے طور پر ، خود بخود تیار کردہ معلومات میں باریک بار ٹھیک ٹھیک گرائمٹیکل غلطیاں ہوتی ہیں جن کا پتہ لگانے کے لئے سسٹم کو تربیت دی جاسکتی ہے۔ سسٹم متعدد ذرائع سے حاصل کردہ معلومات کو بھی باہم مربوط کرسکتے ہیں اور دوسرے ذرائع سے کافی حمایت نہ ہونے والے دعووں کی شناخت کرسکتے ہیں۔

حتمی طور پر ، ہر ایک کو اس بارے میں زیادہ چوکنا رہنا چاہئے کہ کون سی معلومات قابل اعتماد ہے اور اس بات سے آگاہ رہیں کہ ہیکر لوگوں کی ساکھ کا استحصال کرتے ہیں ، خاص طور پر اگر یہ معلومات معروف خبروں کے ذرائع یا شائع کردہ سائنسی کام کی نہیں ہے۔

پرینکا راناڈے ، بالٹیمور کاؤنٹی ، میری لینڈ یونیورسٹی ، کمپیوٹر سائنس اور الیکٹریکل انجینئرنگ میں پی ایچ ڈی کی طالبہ ہیں

 

کتابیں

یہ مضمون پہلے پر شائع گفتگو

دستیاب زبانیں

انگریزی ایفریکانز عربی بنگالی چینی (آسان کردہ) چینی (روایتی) ڈچ فلپائنی فرانسیسی جرمن ہندی انڈونیشی اطالوی جاپانی جاوی کوریا مالے مراٹهی فارسی پرتگالی روسی ہسپانوی سواہیلی سویڈش تامل تھائی ترکی یوکرینیائی اردو ویتنامی

فالو کریں

فیس بک آئیکنٹویٹر آئیکنیوٹیوب آئیکنانسٹاگرام آئیکنپینٹسٹ آئیکنآر ایس ایس آئیکن

 ای میل کے ذریعہ تازہ ترین معلومات حاصل کریں

ہفتہ وار رسالہ روزانہ الہام

نیچے دائیں اشتہار

نیا رویوں - نئے امکانات

InnerSelf.comآب و ہوا امپیکٹ نیوز ڈاٹ کام | اندرونی پاور ڈاٹ نیٹ
MightyNatural.com | WholisticPolitics.com | اندرون سیلف مارکیٹ
کاپی رائٹ © 1985 - 2021 InnerSelf کی مطبوعات. جملہ حقوق محفوظ ہیں.