ایمن‌سازی عامل‌های هوش مصنوعی: نوآوری بدون بازگشت به عقب
با شکوفایی حوزه هوش مصنوعی عاملی (Agentic AI)، پیامدهای امنیتی آن نیز با شدت مشابهی افزایش یافته‌اند. عامل‌های هوش مصنوعی اکنون قدرت انجام اقدامات چندمرحله‌ای، فراخوانی APIهای خارجی و تغییر داده‌های پشتیبان را دارند. اگر مجوزدهی برای این قدرت جدید با دقت طراحی نشود، می‌تواند به پیامدهایی بالقوه فاجعه‌بار منجر شود.
یکی از افرادی که به خوبی با واقعیت‌های امنیت API در عصر هوش مصنوعی آشناست، میخاو تروجانوسکی، مهندس بازاریابی محصول در شرکت Curity است. او درباره نحوه برخورد با Model Context Protocol (MCP) در سخنرانی خود صحبت خواهد کرد.
به گفته تروجانوسکی، در مسیر پذیرش سریع هوش مصنوعی عاملی و پروتکل‌های جدیدی مانند MCP، نباید از استانداردهای امنیتی تثبیت‌شده عقب‌نشینی کنیم.
گفت‌وگو با میخاو تروجانوسکی (Michał Trojanowski)
در سال‌های اخیر شما هر دو حوزه امنیت API و هوش مصنوعی را از نزدیک دنبال کرده‌اید. چه موضوعاتی باعث تعجب و نگرانی شما شدند؟
وقتی در برخی پیاده‌سازی‌های عامل‌های هوش مصنوعی و MCP گام‌هایی به عقب برداشتیم، واقعاً نگران شدم. برای مثال، یک SDK عاملی دیده‌ام که اجازه می‌داد پیام‌هایی را در توییتر ارسال کنید، با کمک یک مدل زبانی بزرگ (LLM). تنها کاری که لازم بود انجام دهید، وارد کردن نام کاربری و رمز عبور توییترتان در SDK بود! OAuth بیش از یک دهه پیش برای حل دقیق همین مشکل ایجاد شد — اینکه اعتبارنامه‌های سرویس A را مستقیماً به سرویس B ندهیم. علاوه بر ناامن بودن، این کار محدودیت‌هایی در استفاده از روش‌های امنیتی مدرن مانند MFA یا Passkey ایجاد می‌کند. باید مراقب باشیم امنیتی را که در طول سال‌ها به دست آورده‌ایم، فقط به‌خاطر شتاب در نوآوری از دست ندهیم.
در مورد MCP، آخرین تحولات در حوزه مجوزدهی چگونه است؟ آیا وضعیت به سمت امنیت بیشتر پیش می‌رود؟
نکته مثبت درباره MCP این است که جامعه آن از همان ابتدا به فکر گنجاندن مجوزدهی و امنیت بوده است. مشخصات این پروتکل، به‌ویژه در زمینه مجوزدهی، همچنان در حال توسعه فعال است. هنوز برخی بخش‌ها مانند توانایی درخواست افزایش سطح مجوز از کلاینت MCP در دست کار است، اما جامعه در حال افزودن این قابلیت‌هاست و بهبودهای قابل‌توجهی دیده می‌شود.
بدون افشای محتوای سخنرانی‌تان، آیا MCP را صرفاً به‌عنوان یک کلاینت OAuth دیگر می‌بینید یا نیاز به برنامه‌ریزی امنیتی بیشتری دارد؟
پاسخ ساده‌ای ندارد. این موضوع به قابلیت‌های سرور MCP بستگی دارد. در سخنرانی‌ام نشان خواهم داد که ما در دو سطح امنیتی عمل می‌کنیم و مشخصات پروتکل چطور به این سطوح پاسخ می‌دهد.
نقش IAM در ایمن‌سازی دسترسی عامل‌های هوش مصنوعی به APIها و داده‌های زیرساختی چیست؟ سازمان‌ها چگونه می‌توانند از افشای داده‌های حساس جلوگیری کنند؟
پاسخ در این مورد ساده‌تر است: باید همان اصول امنیتی را به کار گرفت که در هر API پیاده‌سازی می‌کنیم. برای مثال، حفاظت از تمام نقاط دسترسی، اجرای اصول «اعتماد صفر» و «حداقل سطح دسترسی»، و استفاده از مجوزدهی دقیق و سطح‌جزئی برای اعمال سیاست‌های مجوز مناسب.
چه روش‌هایی برای جداسازی و نظارت بر ترافیک MCP در حال شکل‌گیری هستند؟
وقتی ترافیک به سرور MCP با OAuth و توکن‌ها ایمن شود، می‌توان از Claimها برای شناسایی کلاینت‌های MCP استفاده کرد. این Claimها توسط دروازه‌های API و خود APIها برای تفکیک و نظارت بر ترافیک عامل‌های هوش مصنوعی استفاده می‌شوند. داده‌های به‌دست‌آمده از این ترافیک نیز می‌تواند برای پایش رفتار عامل‌ها مورد استفاده قرار گیرد.
در روز قبل از برگزاری Summit در API Security UnConference، چه موضوعاتی را پیش‌بینی می‌کنید که باید بیشتر مورد توجه قرار گیرند؟
در حال حاضر فعالیت‌های زیادی در زمینه مجوزدهی صحیح ترافیک در سیستم‌های توزیع‌شده وجود دارد، مخصوصاً زمانی که درخواست‌ها از طریق تعداد زیادی میکروسرویس پردازش می‌شوند. گروه کاری (Workload Identity in Multi System Environments) IETF WIMSE در حال تدوین استانداردهایی برای این سناریوهاست. امیدوارم گفت‌وگوهای جالبی درباره موضوعاتی داشته باشیم که مجوزدهی در سطح کسب‌وکار را با امنیت در سطح زیرساخت ترکیب می‌کنند.
در سال جاری در استکهلم منتظر چه چیزهایی هستید؟ آیا موضوع یا سخنرانی خاصی وجود دارد که هیجان‌زده‌تان کند؟
من همیشه از سخنرانی‌هایی که تجربیات واقعی را به اشتراک می‌گذارند لذت می‌برم. مشتاقم به سخنرانی «آندژی یارزینا» درباره مدیریت حاکمیت API در یک شرکت بیمه بزرگ و قدیمی گوش دهم. همچنین امیدوارم سخنرانی‌های «آرنو لورِه» و «دیوید بروسار» را ببینم، زیرا سخنرانان بسیار خوبی هستند.
در نهایت، چه چیزی شما را هر سال به استکهلم بازمی‌گرداند؟
ماه اکتبر زمان بسیار مناسبی برای بازدید از استکهلم است؛ هوای پاییزی ملایم دارد و روزها هنوز نسبتاً بلند هستند. از اینکه در این شهر آب everywhere وجود دارد لذت می‌برم — اینکه در چند دقیقه می‌توان به کنار آب رفت، پیاده‌روی کرد یا از یک وعده غذا یا قهوه لذت برد. همیشه برای این تجربه در سفر به استکهلم لحظه‌شماری می‌کنم.
