ترانسفورماتورها و 1 چالش جدید برای کارشناسان امنیت سایبری : قدرت و فریب هوش مصنوعی!

cybersecurity in the healthcare sector

ترانسفورماتورها: اگر از وب سایت های شبکه های اجتماعی مانند فیسبوک و توییتر استفاده می کنید. ممکن است با پست هایی روبرو شده باشید که هشدارهایی در خصوص اطلاعات غلط داده اند. تاکنون بیشتر اطلاعات نادرست متوجه عموم مردم بوده است. احتمال وجود اطلاعات نادرست -کذب یا گمراه کننده – را در زمینه های علمی و فنی مانند امنیت سایبری ، امنیت عمومی و پزشکی تصور کنید.

نگرانی فزاینده ای در مورد گسترش اطلاعات غلطی که در زمینه های حیاتی و در نتیجه تعصبات و رویه های رایج در انتشار ادبیات علمی شکل گرفته است.در این مقاله اشخاصی به عنوان یک دانشجوی تحصیلات تکمیلی یا به عنوان عضو هیئت علمی در زمینه امنیت سایبری، راه جدید آزمون اطلاعات غلط را در جامعه علمی مورد مطالعه قرار داده اند. برای سیستم های هوش مصنوعی امکان تولید اطلاعات نادرست در زمینه های مهم مانند پزشکی و دفاعی وجود دارد که به اندازه کافی قانع کننده است تا متخصصان را فریب دهد.

مقصود از این اطلاعات غلط رایج غالباً خدشه دار کردن اعتبار شرکت ها یا شخصیت های عمومی است. اطلاعات نادرست در جوامع تخصصی می توانند نتایج ترسناکی مانند ارائه مشاوره پزشکی نادرست به پزشکان و یا بیماران را داشته باشند. این می تواند زندگی را در معرض خطر قرار دهد.

برای آزمایش این تهدید ، ما تأثیرات انتشار اطلاعات نادرست در امنیت سایبری و جوامع پزشکی را بررسی کردیم. ما از مدل های هوش مصنوعی با استفاده از ترانسفورماتور دوبله شده برای تولید اخبار جعلی امنیت سایبری و مطالعات پزشکی COVID-19 استفاده کردیم و اطلاعات غلط امنیت سایبری را برای آزمایش به کارشناسان امنیت سایبری ارائه دادیم. ما دریافتیم که اطلاعات نادرست تولید شده توسط ترانسفورماتور قادر به فریب کارشناسان امنیت سایبری میباشد.

ترانسفورماتورها: بیشتر فناوری مورد استفاده برای شناسایی و مدیریت اطلاعات غلط توسط هوش مصنوعی از این مجرا تأمین می شود. هوش مصنوعی به دانشمندان کامپیوتر اجازه می دهد تا مقدار زیادی از اطلاعات غلط را به سرعت بررسی کنند. با توجه به این که افراد تنها با کمک فناوری  قادر به شناسایی بیش از حد هستند. اگرچه هوش مصنوعی به مردم کمک می کند اطلاعات نادرست را کشف کنند ، اما از قضا در سال های اخیر برای تولید اطلاعات غلط نیز استفاده شده است.

ترانسفورماتورها ، مانند BERT شرکت Google و GPT از OpenAI ، از پردازش زبان طبیعی برای درک متن و تولید متن ترجمه شده، خلاصه متن و تفسیر آن استفاده می کنند. آنها در وظایفی مانند قصه گویی و پاسخ دادن به سوالات، با عبور از مرز تکلف های روباتی همانند قابلیت های انسانی در تولید متن ، مورد استفاده قرار گرفته اند. ترانسفورماتورها با بهبود موتورهای جستجوی خود به گوگل و سایر شرکت های فناوری کمک کرده اند و در مقابله با مشکلات رایج مانند مبارزه با بلاک نویسندگان به عموم مردم کمک نموده اند.


ab751df2 2a9a 4562 b6bd 664d2d7db11d ai misinfo




تحقیقات نشان می دهد که ترانسفورماتورها نیز به عنوان تهدیدی در نشر اطلاعات غلط در پزشکی و امنیت سایبری کاربرد دارند. برای نشان دادن این که این خبر چقدر جدی است.

این تیم تحقیقاتی مدل ترانسفورماتور GPT-2 را در منابع آنلاین، باز و در مورد آسیب پذیری های امنیت سایبری و اطلاعات حمله، دقیقا تنظیم نمودیم. آسیب پذیری امنیت سایبری ضعف سیستم رایانه ای است و حمله امنیت سایبری عملی است که از یک آسیب پذیری سو استفاده می کند.

به عنوان مثال ، اگر یک آسیب پذیری رمز عبور ضعیف فیسبوک باشد. حمله ای که از آن سو استفاده می کند این است که یک هکر می تواند رمز ورود شما را کشف کند و به حساب شما نفوذ کند.

ترانسفورماتورها همچنین می توانند برای اهداف بدخواهانه مورد استفاده واقع شوند. شبکه های اجتماعی مانند فیسبوک و توییتر قبلاً با چالش های اخبار جعلی تولید شده توسط AI در همه سیستم های عامل روبرو شده اند.

ما این مدل را با یک جمله یا عبارت و یا یک نمونه اطلاعاتی واقعی تحت حمله سایبری قرار دادیم و از آن برای تولید بقیه توضیحات تهدید استفاده کردیم. ما این مطلب تولید شده را به افراد آزاردهنده سایبری ارائه دادیم. این افراد برای شناسایی حملات احتمالی و تنظیم دفاعی سیستم های خود، توضیحات تهدید را می خوانند. 

نتایج تعجب برانگیز بود. نمونه های اطلاعات غلط مربوط به امنیت سایبری که ایجاد کردیم، قادر به فریب افراد آزاردهنده سایبری، که از انواع حملات و آسیب پذیری های امنیت سایبری آگاه هستند، بود. این سناریو را با بخش مهمی از هوش سایبری تصور کنید که شامل صنعت هواپیمایی است، و ما در مطالعه خود این را نیز تولید کرده بودیم. 

ما اعتقاد داریم که این نتیجه می تواند یک مسابقه همانند رقابتی تسلیحاتی باشد زیرا افرادی که اطلاعات نادرست را منتشر می کنند، در پاسخ به روشهای موثر برای شناخت آن ، مجددا روش های بهتری برای ایجاد اطلاعات غلط ایجاد می کنند و همیشه یک قدم از کشف آن جلوتر خواهند بود.

محققان امنیت سایبری به طور مداوم روش های تشخیص اطلاعات غلط در حوزه های مختلف را مطالعه می کنند. درک چگونگی تولید خودکار اطلاعات غلط به درک چگونگی تشخیص آن کمک می کند. به عنوان مثال ، اطلاعات ایجاد شده به صورت خودکار اغلب دارای اشتباهات نحوی جزئی است که می توان سیستم ها را برای شناسایی آنها آموزش داد. سیستم ها همچنین می توانند اطلاعات چندین منبع را با هم مرتبط کنند و ادعاهایی را که فاقد پشتیبانی قابل توجه از منابع دیگر هستند، شناسایی نماید.

درنهایت، همه باید در مورد مطمئن بودن اطلاعات هوشیارتر عمل کنند. و بایستی توجه داشته باشند که هکرها از اعتبار مردم سوءاستفاده می کنند. به خصوص اگر این اطلاعات از منابع خبری معتبر یا پروژه های علمی منتشر نشده باشد.

ویدیو: امنیت سایبری و ترانسفورماتورها

admin
admin

  • چنانچه دیدگاهی توهین آمیز باشد و متوجه اشخاص مدیر، نویسندگان و سایر کاربران باشد تایید نخواهد شد.
  • چنانچه دیدگاه شما جنبه ی تبلیغاتی داشته باشد تایید نخواهد شد.
  • چنانچه از لینک سایر وبسایت ها و یا وبسایت خود در دیدگاه استفاده کرده باشید تایید نخواهد شد.
  • چنانچه در دیدگاه خود از شماره تماس، ایمیل و آیدی تلگرام استفاده کرده باشید تایید نخواهد شد.
  • چنانچه دیدگاهی بی ارتباط با موضوع آموزش مطرح شود تایید نخواهد شد.

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

مطالب مرتبط

لینک کوتاه نوشته
0

سبد خرید چسبان