امنیت ربات‌ها: وقتی داده‌های ورودی حسگرها دستکاری می‌شوند

مقدمه: وقتی ربات دقیقاً همان‌طور که طراحی شده عمل می‌کند، اما اشتباه می‌کند

ربات متحرکی در راهروی یک بیمارستان سرعت خود را کم می‌کند تا به فردی که در مسیر ایستاده آسیب نرساند. بازوی همکار در نزدیکی یک کارگر، حرکت خود را نرم‌تر می‌کند. ربات انسان‌نما توقف می‌کند تا عابری از کنارش بگذرد. همه این رفتارها بر پایه اطلاعاتی است که ربات از محیط یا از وضعیت خود دریافت می‌کند: یک خوانش فاصله، یک تخمین موقعیت، یا یک فرمان توقف.

حال تصور کنید یکی از این داده‌های ورودی نادرست باشد، اما ربات همچنان دقیقاً همان‌طور که برایش برنامه‌ریزی شده واکنش نشان دهد. ربات راهرو را خالی می‌بیند در حالی که هنوز کسی آنجا ایستاده است. بازو تخمین می‌زند که کارگر دورتر از واقعیت است. ربات انسان‌نما فرمان توقف را دریافت نمی‌کند. در همه این حالت‌ها، یک خرابی فنی می‌تواند علت ماجرا باشد، اما دستکاری عامدانه نیز می‌تواند همان نتیجه را بسازد. پرسش بنیادین این است: آیا سامانه‌هایی که وظیفه محافظت از انسان را دارند، در برابر اطلاعات دستکاری‌شده نیز مقاوم می‌مانند؟

زنجیره ادراک، تصمیم و عمل

یک ربات فقط محیط را اندازه نمی‌گیرد؛ آنچه را می‌بیند و می‌شنود تفسیر می‌کند و بر پایه آن تصمیم می‌گیرد. به همین دلیل، اطلاعاتی که در محیط ربات قرار داده می‌شود می‌تواند بر رفتار آن اثر بگذارد. این زنجیره از سه حلقه تشکیل شده است: حسگرها (sensors) که داده خام تولید می‌کنند، الگوریتم‌های ادراک (perception) که از داده خام، معنای موقعیتی می‌سازند، و کنترل‌گر (controller) که فرمان حرکت را صادر می‌کند.

آسیب‌پذیری می‌تواند در هر حلقه رخ دهد. اگر ورودی یک حلقه دستکاری شود، خروجی کل زنجیره تغییر می‌کند؛ آن هم بدون آنکه هیچ خطای نرم‌افزاری رخ داده باشد. ربات سالم است، برنامه سالم است، اما تصویر ربات از واقعیت نادرست است.

نمونه‌های واقعی از دستکاری ورودی

پژوهش‌های منتشرشده نشان می‌دهد این سناریو خیالی نیست. در آزمایش‌هایی روی سامانه‌های ادراک بینایی ربات، قرار دادن یک نشانه ساختگی در میدان دید دوربین، نرخ موفقیت انجام وظیفه را در آزمون‌های شبیه‌سازی کاهش داده است. در مطالعه‌ای دیگر، یک تصویر دستکاری‌شده باعث شد ربات دستورهای بعدی را نادیده بگیرد. روش‌ها متفاوت بودند، اما نتیجه یکسان بود: ورودی بصری می‌تواند در وظیفه موردنظر ربات اخلال ایجاد کند.

نمونه گویاتر، آزمایشی است که در آن متنی روی یک پوستر، به‌جای آنکه صرفاً یک نوشته بی‌جان باشد، به‌عنوان دستور تفسیر شد و مسیر حرکت یک ربات چهارپا را تغییر داد. در آزمون دیگری، صوتی طراحی شد که برای گوش انسان نامسموع است اما رفتار یک ربات خدماتی شبیه‌سازی‌شده در بیمارستان را عوض کرد. نکته کلیدی اینجاست: وظیفه تعیین‌شده برای ربات تغییر نکرد؛ فقط ورودی‌ها تغییر کردند.

لایه محافظتی هم خودش ورودی دارد

شاید بگویید سامانه حفاظتی مستقلی وجود دارد که در لحظه خطر، ربات را متوقف می‌کند. درست است، اما آن سامانه نیز به اطلاعات وابسته است: خوانش‌ها، تخمین‌ها و پیام‌هایی که به آن می‌گویند چه زمانی باید مداخله کند. اگر یکی از همین ورودی‌ها دستکاری شود، لایه محافظتی نیز فریب می‌خورد.

در یک رویداد شکار باگ رباتیک، پژوهشگران پیامی را در بستر ارتباطی ربات (ROS 2/DDS) تزریق کردند؛ رباتی که انتظار می‌رفت تحت یک تنظیم کنترل ایمن بی‌حرکت بماند، حرکت کرد. این نشان می‌دهد مرز میان امنیت سایبری و ایمنی فیزیکی، مرزی مصنوعی است.

فیزیک یک حمله صوتی به ژیروسکوپ

نمونه‌ای زیبا و آموزنده از پیوند فیزیک و امنیت، حمله صوتی به ژیروسکوپ است. ژیروسکوپ‌های ریزساخت‌شده (MEMS) که در ربات‌ها و پرنده‌های بدون سرنشین به کار می‌روند، یک سازه ارتعاشی مینیاتوری دارند که با فرکانس تشدید (resonance frequency) مشخصی نوسان می‌کند. اگر موج صوتی با همان فرکانس به سازه برسد، دامنه ارتعاش به‌شدت تقویت می‌شود، درست همان‌طور که هل دادن یک تاب در لحظه درست، دامنه نوسان آن را بزرگ می‌کند.

نتیجه این است که خروجی حسگر، نرخ چرخشی را گزارش می‌کند که هرگز رخ نداده است. کنترل‌گر تعادل بر پایه این گزارش نادرست، شیبی را جبران می‌کند که وجود ندارد و ربات از تعادل خارج می‌شود. پژوهشگران این زنجیره حمله را روی پرنده‌های بدون سرنشین با ژیروسکوپ آسیب‌پذیر نشان داده‌اند؛ هرچند سقوط ربات انسان‌نما با همین روش به‌طور مستند اثبات نشده است.

افزونگی حسگرها تضمین کافی نیست

یکی از راهبردهای رایج در طراحی ایمن، افزونگی (redundancy) است: اگر دو حسگر مستقل یک چیز را تأیید کنند، احتمال خطا کاهش می‌یابد. اما افزونگی در برابر خطای تصادفی طراحی شده است، نه در برابر دشمن هوشمند. اگر یک اقدام واحد بتواند هر دو ورودی را همزمان فریب دهد، توافق آن‌ها دیگر اطمینان‌بخش نیست.

در پژوهش‌های رانندگی خودکار، یک شیء فیزیکی ساختگی توانسته است سامانه‌ای را که ادراک دوربین و لیدار (LiDAR) را با هم ادغام می‌کند فریب دهد. این مطالعه ضعف یک ربات خاص را اثبات نمی‌کند، اما نشان می‌دهد تیم‌های طراحی باید بپرسند آیا یک دستکاری واحد می‌تواند چند بررسی ایمنی را همزمان بی‌اثر کند.

تفاوت خطای تصادفی با حمله عامدانه

ارزیابی‌های ایمنی سنتی بر احتمال خطا استوارند. احتمال آنکه دو حسگر مستقل، در یک لحظه مشخص و به‌طور همزمان خراب شوند، بسیار کم است؛ بنابراین چنین ترکیبی «نامحتمل» تلقی می‌شود. اما مهاجم، عامل احتمال نیست؛ او زمان حمله را انتخاب می‌کند و می‌تواند همان محرک را بی‌نهایت بار تکرار کند. این تفاوت، مدل ریسک را از بنیاد تغییر می‌دهد: آنچه نامحتمل بود، به امری قابل تکرار و برنامه‌ریزی‌شده تبدیل می‌شود. این به معنای حتمی بودن آسیب نیست، اما شیوه ارزیابی خطر سایبری باید بازنگری شود.

استانداردها و شواهد ایمنی

تیم‌های ایمنی برای سرعت، فاصله حفاظتی و محدوده مجاز فعالیت ربات، حدود مشخصی تعیین می‌کنند. شواهد پشتیبان این حدود باید نشان دهد وقتی اطلاعاتی که برای اجرای آن حدود استفاده می‌شود دستکاری شود، چه اتفاقی می‌افتد. استانداردهای تازه همین را هدف گرفته‌اند: استاندارد چین GB/T 45502-2025 درباره امنیت اطلاعات ربات‌های خدماتی، گزارش فنی IEC TS 63074 درباره تهدیدهای امنیتی مؤثر بر سامانه‌های کنترل مرتبط با ایمنی، و مقررات ماشین‌آلات اتحادیه اروپا که از ۲۰ ژانویه ۲۰۲۷ لازم‌الاجرا می‌شود و حفاظت سامانه‌ها و داده‌های مرتبط با ایمنی را الزامی می‌کند.

پنج پرسش برای تیم‌های ایمنی و امنیت

۱. هر کارکرد حفاظتی چه چیزی را می‌خواند؟ فهرست خوانش‌ها، تخمین‌ها، پیام‌ها و تأییدها را تهیه کنید و مشخص کنید کدام حفاظ، مستقل از پردازش تصمیم ربات عمل می‌کند.

۲. این اطلاعات چگونه می‌رسد؟ بررسی کنید ورودی‌ها کجا تولید، چگونه منتقل و تا چه حد اصالت‌سنجی (authentication) می‌شوند و در صورت گم شدن یا نامعقول بودن، چه رفتاری رخ می‌دهد.

۳. اگر یک ورودی دستکاری شود چه می‌شود؟ فاصله‌های نادرست، تخمین‌های موقعیت لغزان و سناریوهای مشابه را در برابر حدود ایمنی ربات بیازمایید.

۴. آیا یک اقدام می‌تواند چند ورودی را فریب دهد؟ بررسی کنید سامانه‌های ادغام حسگر یا حفاظ‌های ظاهراً مستقل، نقطه شکست مشترک دارند یا نه.

۵. شواهد چه زمانی باید بازبینی شوند؟ پس از هر تغییر در نرم‌افزار، حسگر یا شرایط کاری، ارزیابی را تکرار کنید.

نتیجه‌گیری

هدف نهایی تنها این نیست که نشان دهیم یک کارکرد حفاظتی کار می‌کند؛ باید شواهدی داشته باشیم که آن حفاظ، حتی وقتی اطلاعات پشت تصمیمش نادرست یا عامدانه دستکاری شده است، همچنان محافظ می‌ماند و حفاظ دیگری می‌تواند خطر پدیدآمده را بگیرد. ایمنی ربات، امروز دیگر فقط یک مسئله مکانیک و کنترل نیست؛ مسئله‌ای است در تقاطع فیزیک حسگرها، مهندسی سامانه‌های نهفته و امنیت سایبری. همان‌گونه که ربات‌ها تغییر می‌کنند، این شواهد نیز باید با آن‌ها تغییر کند.