مقدمه

در دنیای امروز، یادگیری عمیق به عنوان یکی از تحولات کلیدی در حوزه هوش مصنوعی شناخته می‌شود و استفاده از مدل‌های پیچیده یادگیری برای تحلیل داده‌ها به طور فزاینده‌ای گسترش یافته است. اما این مدل‌ها نیز در برابر حملات سایبری خاصی قرار دارند که می‌تواند به عملکرد آن‌ها آسیب برساند. یکی از این حملات، حمله مسمومیت داده است که در آن با تغییر برچسب‌ها، هدف تغییر رفتار مدل قرار می‌گیرد. در این مقاله به تبیین و ساخت یک راهنمای کدنویسی جهت نمایش این نوع حملات می‌پردازیم، مخصوصاً با استفاده از دیتاست 10-CIFAR و فریمورک PyTorch.

مفهوم مسمومیت داده

مسمومیت داده به معنای تغییر عمدی داده‌های آموزشی است که به هدف اختلال در عملکرد مدل‌های یادگیری ماشین انجام می‌شود. با این نوع حملات، می‌توان برچسب‌ها را به گونه‌ای تغییر داد که مدل به نادرستی یاد بگیرد. به عنوان مثال، اگر ما بخواهیم به مدل بگوییم که یک تصویر گربه است اما در واقع تصویر یک سگ باشد، با تغییر برچسب آن، می‌توان عملکرد آن را تحت تأثیر قرار داد.

مقایسه مدل‌های آموزشی

در این آموزش، ما دو لوله‌کشی آموزش را به صورت همزمان ایجاد خواهیم کرد: یکی لوله‌کشی عادی و دیگری لوله‌کشی‌ای که در آن برچسب‌ها مسموم شده‌اند. این رویکرد به ما این امکان را می‌دهد که رفتار مدل را در شرایط مختلف بررسی کنیم و تأثیر مسمومیت داده‌ها را بهتر درک کنیم.

پیاده‌سازی کد در PyTorch

جهت انجام این آزمایش، ما از فریمورک PyTorch استفاده می‌کنیم که یکی از ابزارهای قوی برای توسعه مدل‌های یادگیری عمیق است. اولین قدم، بارگذاری دیتاست CIFAR-10 و آماده‌سازی آن برای آموزش مدل است.

بارگذاری دیتاست

import torchvision.transforms as transforms
from torchvision import datasets

transform = transforms.Compose([transforms.ToTensor()])
dataset = datasets.CIFAR10(root='./data', train=True, download=True, transform=transform)

برای اضافه کردن مسمومیت، ما نیاز داریم تا به شکل تصادفی تعدادی از برچسب‌ها را تغییر دهیم. این می‌تواند به سادگی با تغییر برخی از برچسب‌ها به برچسب‌های دیگری که به آن‌ها تعلق ندارند، انجام شود.

مسمومیت داده‌ها

import random

poison_fraction = 0.1  # درصد داده‌های مسموم
num_samples = len(dataset)

indices = random.sample(range(num_samples), int(poison_fraction * num_samples))

for i in indices:
    dataset.targets[i] = random.choice(range(10))  # تغییر برچسب به یک برچسب تصادفی

با این کار، حالا ما یک دیتاست مسموم داریم که می‌توانیم آن را برای آموزش مدل مورد استفاده قرار دهیم.

آزمایش و مشاهده نتایج

اکنون که مدل ما آماده است، باید آن را با دو مجموعه داده مختلف آموزش دهیم: یکی با برچسب‌های واقعی و دیگری با برچسب‌های مسموم. ما می‌توانیم عملکرد دو مدل را با یکدیگر مقایسه کنیم و نتایج را بررسی کنیم.

تحلیل نتایج

با استفاده از معیارهای مختلف مانند دقت و یادآوری، می‌توانید تأثیر مسمومیت داده‌ها را بر روی مدل خود مشاهده کنید. معمولاً مدل‌هایی که با داده‌های مسموم آموزش می‌بینند، دقت بسیار پایین‌تری خواهند داشت.

جمع‌بندی

حملات مسمومیت داده به وضوح نشان می‌دهند که حتی بهترین مدل‌های یادگیری عمیق نیز در برابر تغییرات جزئی در داده‌های خود آسیب‌پذیر هستند. این نوع حملات به ویژه در زمینه‌هایی با حساسیت بالا، مانند تشخیص پزشکی و امنیت سایبری، می‌تواند پیامدهای خطرناکی به همراه داشته باشد. با توجه به پیشرفت‌های روزافزون در حوزه هوش مصنوعی، درک این نوع از تهدیدات و روش‌های مقابله با آنها بسیار حائز اهمیت است.