تقویت ویژگیهای محصول با استفاده از هوش مصنوعی مولد (Boosting Product Features With Generative AI)
هوش مصنوعی نقش بزرگتری در توسعهی نرمافزار ایفا میکند، از کد تولیدشده توسط هوش مصنوعی گرفته تا ابزارهای هوش مصنوعی که بهصورت مستقل APIها را مصرف و اجرا میکنند. و اخیراً، هوش مصنوعی مولد بهطور فزایندهای در محصولات مصرفی نیز تعبیه شده است. همانطور که تحلیلگر سابق گارتنر، پل دوما، به ما گفت: «احتمالاً سال آینده، یا قطعاً سال پس از آن، حداقل ۷۰٪ هر محصول نرمافزاری که لمس میکنید یک مؤلفهی هوش مصنوعی در خود خواهد داشت.»
اگر اینطور باشد، و بهنظر میرسد که همینطور هم خواهد بود، توسعهدهندگان API بهزودی باید برای موجهای جدیدتری از اقدامات امنیتی، انطباق، و حاکمیت آماده شوند. هرچه زودتر بتوانیم شروع کنیم، بهتر است… حتی اگر بهترین شیوهها هنوز بهسرعت در حال تکامل باشند.
در نشست API آستین ۲۰۲۴ ما، روبن سیتبون، معمار ارشد راهکارها در آژانس فینتک Sipios، برای صحبت دربارهی تقویت ویژگیهای محصول با استفاده از هوش مصنوعی مولد به ما پیوست. او همچنین نقش توسعهدهندهی API در پروژههای هوش مصنوعی و چگونگی بستهبندی امنیت و انطباق در این معادله را پوشش داد.
در ادامه، نگاهی دقیقتر به یک چارچوب پیشنهادی توسط سیتبون خواهیم داشت. چند نکتهی قابلاقدام را برجسته میکنیم و بررسی میکنیم که آیندهی این حوزه چه شکلی خواهد بود.
چرخ را دوباره اختراع نکنید: استفاده، ادغام، و ترکیب
در سال ۲۰۲۳، بحث دربارهی هوش مصنوعی مولد حول چتباتهایی مانند Jasper، Prompt Genie، و Mobile-GPT میچرخید، سیتبون میگوید. «ما تنها چند محصول واقعاً تحولآفرین دیدهایم: ChatGPT، Perplexity.ai برای توسعهدهندگان، Claude، و غیره.»
ما همچنین شاهد برخی از اولین شکستهای هوش مصنوعی مولد در محیط تولید بودهایم. برای مثال، شرکت Air Canada مجبور شد تخفیفی را که یک چتبات وعده داده بود اعمال کند، با اینکه شرکت (ناموفقانه) ادعا کرده بود که چتبات یک شخصیت حقوقی جداگانه است. این مثال نشان میدهد که بسیاری از ابزارهای هوش مصنوعی در سیلوهایی عمل میکنند که به اطلاعات بهینه متصل نیستند. بنابراین، شرکتها باید هنگام تقویت ویژگیهای محصول با استفاده از هوش مصنوعی بسیار محتاط باشند.
در صورت امکان، سیتبون پیشنهاد میکند، باید از محصولات موجود یا سرویسهای آزمودهشده استفاده کنیم، بهجای اینکه وقت و هزینه را برای ساخت نمونههای جدید صرف کنیم. هنگامی که صحبت از استفاده از محصولات موجود باشد، ظرفیت استفاده از APIها کاملاً واضح است.
اتخاذ استراتژی مناسب هوش مصنوعی
در صحبتهایش، سیتبون توصیف میکند که مشتریانی نزد او میآیند و میگویند: «ما میخواهیم هوش مصنوعی مولد را در همه جای محصولمان قرار دهیم!» بسیاری از استارتاپها در حال ساخت محصولاتی هستند که هوش مصنوعی مولد در هستهی آنها قرار دارد، و بازیگران بزرگتر نیز در حال گسترش قابلیتهای محصولاتشان با استفاده از هوش مصنوعی هستند.
اما همانطور که دیدیم، این موضوع چیزی نیست که باید سبکسرانه به آن نزدیک شد. سیتبون فرآیند چهار مرحلهای زیر را برای ارزیابی مناسببودن و پیادهسازی هوش مصنوعی پیشنهاد میدهد:
۱. تعریف ابعاد لازم برای حل مسئله یا مسائل
۲. بخشبندی با مجموعه مهارتهای تیم
۳. تعیین جایگاه ابزارها روی آن نمودار
۴. مشخص کردن ناحیهی مرتبط برای هر ابزار
هرچه سفارشیسازی خروجی بیشتری لازم باشد، تخصص فنی بیشتری در هوش مصنوعی، مدلهای زبانی بزرگ، و مهندسی پرامپت لازم خواهد بود. همینطور، دامنهی گستردهتری از دانش تخصصی و همچنین دسترسی به اسناد خصوصی میتواند بر مهارتها و مجوزهای لازم تأثیر بگذارد.
بنابراین، سیتبون میپرسد: چه کسی میتواند مجموعه مهارتهای تیمهای محصول، مهندسان هوش مصنوعی، و عملیات را کنار هم بیاورد؟
او پیشنهاد میکند که در بسیاری از موارد، این فرد مهندس نرمافزار API است. توسعهدهندگان API میتوانند با ارائه ابزارهای مناسب، کمک به تیمهای فنی برای ارزیابی امنیت ایدههای محصول، و توسعهی پیادهسازی مقیاسپذیر هوش مصنوعی مولد با چارچوبهایی مانند LangChain به طراحی محصول کمک کنند.
نظارت، مشاهده، و تست برای کاهش تهدیدات
اگرچه تقویت محصولات با استفاده از هوش مصنوعی ممکن است ترسناک بهنظر برسد، بخش زیادی از آن به استفاده از بهترین شیوههای موجود برمیگردد. سیتبون میگوید: «ما همین حالا هم میدانیم چگونه حملات SQL injection و DDoS را مدیریت کنیم. و برای مدلهای زبانی بزرگ تقریباً همان است، پرامپتاینژکشن و حملات EDoS (محرومیت اقتصادی از پایداری).»
برای کاهش نگرانیهای امنیتی، میتوانیم قابلیت مشاهدهی سیستم را با استفاده از ابزارهایی مانند Fiddler افزایش دهیم؛ ابزاری تخصصی که بهطور خاص برای مشاهدهپذیری هوش مصنوعی در سطح سازمانی طراحی شده است. میتوانیم میانافزار سفارشی بسازیم، ورودی و خروجی را پایش کنیم، و غیره.
همچنین، سیتبون تأکید میکند که باید تستهای زیادی انجام دهیم و سطح حمله را با استفاده از معماری API-first محدود کنیم. برای مثال، تستهای دستی اجرا کنید. سیتبون پیشنهاد میدهد ده دوست باهوش خود را به چالش بکشید تا سعی کنند سیستمتان را بشکنند! تست یکپارچهسازی منظم میتواند پرامپتهایی را که درست کار نمیکنند یا قابل سوءاستفاده هستند شناسایی کند.
البته، تهدیدات اختصاصی هوش مصنوعی در آینده ظاهر خواهند شد. متأسفانه، همانطور که سیتبون اشاره میکند، هیچ «فرمول جادویی» برای جلوگیری از حمله به APIها یا هوش مصنوعی وجود ندارد، جز اینکه همهی اقدامات لازم را انجام دهید و تا حد ممکن هوشیار بمانید.
اطمینان حاصل کنید که میتوانید مقیاسپذیر شوید…
پیادهسازی هوش مصنوعی مولد بسته به عواملی مانند پیچیدگی محصول، قالبهای ورودی، و خروجیهای موردنظر میتواند بسیار متفاوت باشد. برای مثال، تفاوت میانیک پرامپت zero-shot بدون هیچ زمینهی اضافی و پرامپت چندمثالی (few-shot) با مثالهای زمینهای را در نظر بگیرید.
سیتبون همچنین برخی از سطوح مختلف معماری برای استقرار هوش مصنوعی مولد را توضیح میدهد که بسته به پیچیدگی پیادهسازی ممکن است با آنها روبهرو شوید، و نشان میدهد که چگونه یک چارچوب میتواند به رفع نیازهای هر یک از این سطوح کمک کند.
او از مثال LangChain استفاده میکند، که یک چارچوب ارکستراسیون متنباز است و یک رابط عمومی برای تقریباً هر مدل زبانی بزرگ ارائه میدهد و در هر دو کتابخانهی Python و JavaScript موجود است. همانطور که در ادامه اشاره میشود، این ابزار برای پروژههایی با هر سطح پیچیدگی ابزارهایی ارائه میدهد.
برای بهبود مشاهدهپذیری، برای مثال، سیتبون اشاره میکند که محصولات متنباز مانند LangSmith نیز وجود دارند. این سرویس SaaS از LangChain به شما اجازه میدهد پرامپتها را بازپخش کنید، زنجیرهها یا ایجنتهای جدید را اشکالزدایی کنید، تستهای رگرسیون اجرا کنید، و غیره.
عقب نمانید… یا عجله نکنید
ارزش دارد که به خاطر داشته باشیم از نظر نسبی، هنوز در روزهای ابتدایی استفاده از هوش مصنوعی برای تقویت ویژگیهای محصول هستیم. با این حال، استارتاپها و ارائهدهندگان SaaS نوآور قبلاً محصولاتی را با هستهی هوش مصنوعی عرضه کردهاند یا عملکرد آن را از طریق افزونهها و پلاگینها ادغام کردهاند.
با گذشت زمان، بازیگران بزرگتر (و کندتر) نیز به دنبال جبران عقبماندگی خواهند بود. همانطور که میدانیم، شرکتهای بزرگ معمولاً ریسکگریز هستند و امنیت و انطباق را بالاتر از هر چیز دیگری قرار میدهند. حرکت بیشازحد سریع، همانطور که دیدیم، میتواند برای شرکتها دردسرساز باشد.
اما پذیرش هوش مصنوعی به این زودیها کند نخواهد شد و درحالیکه احتمالاً پروژههای بیشتر متنباز و استانداردسازیهای دوفاکتو خواهیم دید، هنوز ظرفیت عظیمی برای شرکتهایی که میخواهند از موج هوش مصنوعی بهره ببرند وجود دارد.
بهعبارت دیگر، با گذشت زمان، انتظار داریم چارچوبها و ابزارهای بیشتری مانند LangChain ظهور کنند. و شاید، مانند هر دورهی رونق دیگر، تعداد زیادی از آنها پدیدار شوند…
اگر به دنبال پذیرش هوش مصنوعی مولد هستید، مهم نیست که چقدر وسوسهانگیز باشد که بلافاصله وارد کار شوید؛ یک رویکرد سنجیده همیشه بهترین رویکرد است. حتماً این فضا را دنبال کنید تا بهترین شیوهها و مطالعات جدید دربارهی اینکه هوش مصنوعی چگونه مصرف و توسعهی APIها را تغییر میدهد مشاهده کنید.
