امنیت Agentic AI چیست؟

آنچه کسب‌وکارهای خدمات مالی باید بدانند

نکات زیادی وجود دارد که هنگام آماده‌سازی سازمان خود برای بهره‌گیری کامل از ظرفیت‌های هوش مصنوعی باید در نظر بگیرید. برای خدمات مالی و فین‌تک‌ها، امنیت، نظارت و انطباق همواره در رأس اولویت‌ها قرار دارد. این موضوع در مورد Agentic AI نیز کاملاً صدق می‌کند؛ فناوری‌ای که در کنار قابلیت‌های قدرتمند، ریسک‌های جدیدی را نیز وارد میدان می‌کند. در ادامه با تهدیدات خاص و استراتژی‌های کاهش ریسک مربوط به Agentic AI در حوزه مالی آشنا خواهید شد. همچنین خواهیم دید که چرا حاکمیت API نقشی اساسی در کاهش خطرات این منظر جدید هوش مصنوعی دارد و چگونه به ستون اصلی هر استراتژی AI در مؤسسات مالی تبدیل می‌شود.

Agentic AI اینجاست که بماند

سیستم‌های Agentic AI ترکیبی از مزایای مدل‌های زبانی بزرگ (LLM)، یادگیری ماشین و پردازش زبان طبیعی را با قابلیت‌های خودمختار عامل‌های هوش مصنوعی در اختیار قرار می‌دهند. به‌طور ساده، یک کاربر انسانی یا ماشینی، یک وظیفه را به عامل هوش مصنوعی اختصاص می‌دهد. سپس عامل تصمیم می‌گیرد که چگونه آن وظیفه را انجام دهد و اقدام به انجام آن می‌کند. عامل با استفاده از APIها به دیگر سیستم‌ها متصل می‌شود و مسیر خودکار خود را برای رسیدن به هدف طی می‌کند — حتی اگر لازم بداند وظایف را به عامل‌های دیگر تفویض می‌کند.

از کوپایلوت‌ها تا عامل‌های خودمختار

کوپایلوت‌ها، مانند آن‌هایی که ممکن است در سیستم‌های CRM یا مجموعه‌های بهره‌وری ببینید، نوعی از هوش مصنوعی کمکی هستند. آن‌ها می‌توانند پیشنهاد ارائه دهند و اطلاعات را تجمیع کنند اما همیشه تحت نظارت مستقیم انسان عمل می‌کنند. آن‌ها می‌توانند کارایی را افزایش دهند، اما همچنان ابزار انسان باقی می‌مانند. مسئولیت به وضوح بر عهده کاربر است و محدوده عملکردی آن‌ها محدود و مشخص است.

Agentic AI متفاوت است. عامل‌های هوش مصنوعی اختیار دارند که اقدامات را به‌صورت مستقل آغاز کنند و مرز روشن بین «انسان به‌عنوان عامل» و «هوش مصنوعی به‌عنوان ابزار» را مخدوش می‌کنند. اینجاست که پیچیدگی عملیاتی و امنیتی، و ریسک‌های مرتبط با آن‌ها افزایش می‌یابد.

مخاطرات بزرگ: حساسیت داده و فشارهای نظارتی

افزایش خودمختاری عامل‌های هوش مصنوعی، دسترسی آن‌ها به سیستم‌های مختلف و توانایی تصمیم‌گیری آن‌ها درباره روش انجام کارها، سوالات مهمی را برای خدمات مالی ایجاد می‌کند؛ جایی که قابلیت ردگیری و انطباق اهمیت حیاتی دارد. با وجود عامل‌های هوش مصنوعی، مسئولیت‌پذیری مبهم می‌شود و توانایی پیگیری اینکه چگونه و چرا تصمیمی اتخاذ شده است کاهش می‌یابد. این موضوع برای محیطی که شفافیت و دقت ضروری است، مناسب نیست — به‌ویژه با نبود نظارت انسانی مداوم.

با توجه به ماهیت بسیار حساس داده‌های مالی، تصور زنجیره‌ای از عامل‌های هوش مصنوعی که به‌صورت مستقل تصمیم‌گیری می‌کنند، به‌معنای تحول ریسک است، نه صرفاً افزایش آن. فشارهای نظارتی نیز به این مسئله ابعاد جدیدی می‌بخشد، بنابراین سازمان‌های مالی باید استراتژی‌های قوی برای کاهش این ریسک‌ها در پیش گیرند.

ریسک‌های امنیتی منحصربه‌فرد Agentic AI

مهاجمان پیش از این نیز هدف‌گیری زیرساخت‌های API در خدمات مالی را به‌طور مکرر انجام داده‌اند. گزارش Akamai در سال ۲۰۲۴ نشان می‌دهد:

• ۸۸.۷ درصد از شرکت‌های مالی در ۱۲ ماه گذشته حادثه امنیتی API داشته‌اند

• ۸۳۲,۸۰۰ دلار میانگین خسارت مالی هر حادثه

این آمار نشان‌دهنده وسعت تهدیداتی است که سازمان‌های مالی با آن مواجه‌اند — حتی پیش از ورود عامل‌های خودمختار.

این ریسک‌ها را می‌توان به سه حوزه اصلی تقسیم کرد:

• خودمختاری و اقدامات ناخواسته

• تزریق دستور و عدم همسویی اهداف

• دسترسی میان‌سیستمی از طریق APIها

در ادامه هر مورد را بررسی می‌کنیم.

خودمختاری و اقدامات ناخواسته

عامل‌های خودمختار هوش مصنوعی می‌توانند اهداف را با سرعت و کارایی بالا محقق کنند و نوآوری را تسریع بخشند. اما می‌توانند اهداف را اشتباه تفسیر کنند، اقداماتی انجام دهند که به کسب‌وکار آسیب می‌زند، بدون نظارت یا کنترل کافی وارد عملیات حساس شوند و بر اساس داده‌های ناقص، اثرات زنجیره‌ای مخربی در سیستم ایجاد کنند.

همان‌طور که سیستم‌های سنتی دارای نقش‌ها، مجوزها، تأییدها و نقاط کنترل هستند، سیستم‌های Agentic AI نیز باید چنین ساختارهایی را از ابتدا در طراحی خود داشته باشند.

نمونه:
یک عامل که مجاز به متعادل‌سازی پرتفوی‌هاست ممکن است نسبت به سیگنال‌های بازار بیش‌ازحد واکنش نشان دهد و اقدام به فروش زودهنگام دارایی‌ها کند — این یعنی آسیب به شهرت و مشکلات انطباقی برای کسب‌وکار.

تزریق دستور و عدم همسویی اهداف

بسیاری از سیستم‌های Agentic AI بر ورودی‌های زبانی تکیه دارند. این یعنی ورودی مخرب می‌تواند رفتار AI را تغییر دهد.

بنابراین باید در مقابل:

• حملات تزریق دستور (Prompt Injection)

• ناسازگاری اهداف با سیاست‌های سازمان

مقاوم باشید.

نمونه:
اگر به عامل پشتیبانی مشتری تنها هدف «بستن سریع‌تر تیکت‌ها» را بدهید، ممکن است:

• به‌صورت خودکار به همه مشتریان بازپرداخت دهد

• یا حتی بدتر: تمام تیکت‌ها را بدون رسیدگی ببندد

کنترل زمینه و ظرافت هدف‌گذاری، حیاتی است.

دسترسی میان‌سیستمی از طریق APIها

Agentic AI می‌تواند از APIها برای انجام اقدامات وسیع استفاده کند:

• کوئری پایگاه داده

• به‌روزرسانی سوابق مشتری

• شروع تراکنش مالی

• ایجاد سرویس جدید

این قابلیت‌ها تحول‌گرا — و پرخطر — هستند.

یک عامل معیوب می‌تواند آسیب گسترده‌ای ایجاد کند و ردیابی اقدام یا نیت آن دشوار باشد.

عامل‌ها می‌توانند:

• به‌صورت جانبی بین سیستم‌ها حرکت کنند

• APIهای سایه ایجاد کنند

• نظارت را دور بزنند

• از APIهای طراحی‌شده برای انسان سوءاستفاده کنند

بنابراین حداقل‌سازی سطح دسترسی و حاکمیت API ضروری است.

انطباق، مسئولیت‌پذیری و قابلیت ممیزی

برای کاهش ریسک‌های جدید، باید اهداف عامل‌های هوش مصنوعی را با نیت انسانی همسو کنید:

• محدودیت‌های انسان‌محور اعمال کنید

• اهداف واضح و محدود تعیین کنید

• کنترل دسترسی مبتنی بر نقش پیاده‌سازی کنید

• آزمون مداوم برای تشخیص اشتباهات

• ثبت و لاگ‌برداری کامل

• نظارت انسانی دائمی

در قلب این موضوع مدیریت API قرار دارد.

مدیریت API یعنی آمادگی برای AI.

با آن می‌توانید:

• کنترل دسترسی دقیق را اجرا کنید

• سیاست‌های امنیتی و انطباقی را اعمال کنید

• ممیزی و گزارش‌دهی متمرکز داشته باشید

• رفتار غیرمنتظره عامل‌ها را شناسایی و محدود کنید

این امر:

• از آسیب عملیاتی، مالی و اعتباری جلوگیری می‌کند

• انتظارات نهادهای نظارتی را برآورده می‌سازد

چرا امنیت API-first اهمیت دارد

حاکمیت قوی API به شما امکان می‌دهد رویکرد امنیت مبتنی بر API را پیاده‌سازی کنید. این امنیت از APIها به سمت سیستم‌های AI گسترش می‌یابد و به‌عنوان خط مقدم دفاع عمل می‌کند.

با استفاده از:

• کنترل دسترسی مبتنی بر نقش

• توکنیزاسیون

• تحلیل و بازرسی ترافیک

می‌توان داده‌ها، سرویس‌ها و موتورهای تصمیم‌گیری را محافظت و نظارت کرد.