اصول طراحی ایجنت از یک مشاهده‌ی ساده شروع می‌شود: ایجنتی که ابزارهای زیادی دارد، لزوماً مفیدتر نیست. اگر هدف، مسئولیت و مرز اختیار ایجنت روشن نباشد، حتی یک درخواست ساده ممکن است به چند اقدام نامرتبط تبدیل شود. کاربری که فقط مشاوره خواسته بود، ناگهان می‌بیند در دوره‌ای ثبتنام شده است.
در این قسمت از مجموعه‌ی آموزش هوش مصنوعی تخته سبز، طراحی ایجنت را پیش از انتخاب ابزار بررسی می‌کنیم. اصول طراحی مایکروسافت را در سه بعد مرور می‌کنیم، سه قاعده‌ی عملی را یاد می‌گیریم و در پایان برای یک دستیار آموزشی قرارداد رفتاری می‌نویسیم.
ایجنت‌ها برای چه ساخته می‌شوند؟
روش‌های مختلفی برای فکر کردن درباره‌ی ساخت ایجنت وجود دارد. ابهام در هوش مصنوعی مولد یک ویژگی است، نه یک نقص. همین ابهام گاهی تشخیص اینکه از کجا شروع کنیم را سخت میکند. اصول طراحی کمک میکند با یک زبان مشترک درباره‌ی ایجنت فکر کنیم.
به طور کلی، ایجنت‌ها باید چهار کار انجام دهند. توانایی‌های انسان را گسترش دهند؛ مثل ایده‌پردازی، حل مسئله و خودکارسازی. شکاف‌های دانش را پر کنند؛ مثل به‌روز شدن در یک حوزه یا ترجمه. همکاری را به شیوه‌ای که ترجیح می‌دهیم تسهیل کنند. و به ما کمک کنند نسخه‌ی بهتری از خودمان باشیم؛ مثلاً در مدیریت کار یا یادگیری مهارت‌های تازه.
سه بعد اصول طراحی ایجنت
مایکروسافت اصول طراحی ایجنت را در سه بعد دسته‌بندی کرده است: فضا، زمان و هسته. هر بعد به پرسش متفاوتی درباره‌ی ایجنت پاسخ می‌دهد.
ایجنت در فضا؛ محیط کار
بعد فضا به محیطی می‌پردازد که ایجنت در آن کار میکند؛ چه دنیای دیجیتال و چه فیزیکی. اصل اول این است: وصل کن، جایگزین نکن. ایجنت باید آدم‌ها را به هم، به رویدادها و به دانش قابل‌استفاده وصل کند. ایجنت برای کنار گذاشتن یا کوچک شمردن انسان ساخته نشده است.
اصل دوم، در دسترس اما گاهی نامرئی است. ایجنت بیشتر در پس‌زمینه کار میکند و فقط وقتی مرتبط است راهنمایی میکند. برای کاربران مجاز روی هر دستگاهی قابل دسترسی است و از ورودی‌های متنی و صوتی پشتیبانی میکند. اما حتی وقتی نامرئی کار میکند، مسیر کارش و همکاری‌اش با ایجنت‌های دیگر باید برای کاربر شفاف و قابل کنترل باشد.
ایجنت در زمان؛ گذشته، حال و آینده
بعد زمان به رفتار ایجنت در طول زمان می‌پردازد. درباره‌ی گذشته، ایجنت باید بر تاریخچه تأمل کند؛ نه فقط رویدادها، بلکه زمینه و وضعیت. این کار نتایج مرتبط‌تری می‌سازد.
درباره‌ی حال، ایجنت باید بیش از اطلاع‌رسانی، راهنمایی کند. وقتی اتفاقی می‌افتد، فقط یک پیام خشک نفرستد؛ اطلاعات را متناسب با زمینه و نیت کاربر ارائه دهد. درباره‌ی آینده هم ایجنت باید سازگار شود و تکامل یابد؛ با دستگاه‌ها و نیازهای دسترس‌پذیری مختلف سازگار شود و با تعامل مداوم کاربر شکل بگیرد.
هسته‌ی ایجنت؛ عدم قطعیت و اعتماد
بعد هسته مهم‌ترین بعد است. اصل اصلی آن این است: عدم قطعیت را بپذیر، اما اعتماد بساز. مقداری عدم قطعیت در هر ایجنتی طبیعی است و بخشی از طراحی آن است. اما اعتماد و شفافیت لایه‌های بنیادین طراحی‌اند.
در عمل یعنی انسان همیشه کنترل روشن‌کردن یا خاموش‌کردن ایجنت را دارد و وضعیت ایجنت همیشه به‌وضوح دیده می‌شود. ایجنتی که کاربر نمی‌داند در حال انجام چه کاری است، هر قدر هم هوشمند باشد، قابل‌اعتماد نیست.
سه قاعده‌ی پیاده‌سازی
اصول کلی وقتی مفیدند که به قاعده‌های عملی تبدیل شوند. سه قاعده‌ی اصلی برای پیاده‌سازی این اصول وجود دارد.
شفافیت، کنترل و ثبات
شفافیت یعنی به کاربر بگویید هوش مصنوعی در کار است، چطور کار میکند و چه اقدام‌هایی انجام داده است. همچنین بگویید چطور بازخورد دهد و سیستم را تغییر دهد.
کنترل یعنی کاربر بتواند سیستم را سفارشی کند، ترجیحاتش را مشخص کند و کنترل کامل بر آن داشته باشد؛ از جمله امکان اینکه بخواهد ایجنت چیزی را فراموش کند. ثبات یعنی تجربه‌ای یکسان روی دستگاه‌های مختلف. از عناصر آشنای رابط کاربری استفاده کنید؛ مثلاً آیکون میکروفون برای ورودی صوتی و آیکون سنجاق برای افزودن فایل. این کار بار ذهنی کاربر را کم میکند.
مثال؛ ایجنت برنامه‌ریزی سفر
درسنامه‌ی مایکروسافت این سه قاعده را روی یک ایجنت برنامه‌ریزی سفر پیاده میکند. برای شفافیت، ایجنت از همان ابتدا می‌گوید مبتنی بر هوش مصنوعی است و چند نمونه‌پرسش برای شروع پیشنهاد می‌دهد.
برای کنترل، کاربر می‌تواند سبک نوشتار، میزان جزئیات و هر نکته‌ای را که ایجنت نباید درباره‌اش صحبت کند تنظیم کند. برای ثبات هم آیکون‌های اشتراک پرسش، افزودن فایل و نام بردن از کسی استاندارد و آشنا هستند. جدول زیر همین سه قاعده را برای یک دستیار آموزشی ترجمه میکند.
| قاعده | در ایجنت سفر | در دستیار آموزشی |
|---|---|---|
| شفافیت | اعلام اینکه دستیار هوش مصنوعی است و نمونه‌پرسش | نمایش منبع پیشنهاد دوره و فرض‌های آن |
| کنترل | تنظیم لحن، جزئیات و موضوعات ممنوع | ویرایش هدف و زمان آزاد، گزینه‌ی فراموش‌کردن |
| ثبات | آیکون‌های استاندارد اشتراک و فایل | رفتار یکسان در وب و تلفن همراه |
مرز اختیار؛ مهم‌ترین تصمیم طراحی
از همه‌ی این اصول یک نتیجه‌ی عملی بیرون می‌آید: هر ایجنت باید مرز اختیار روشن داشته باشد. ایجنت چه کارهایی را خودش انجام می‌دهد و کجا باید منتظر تأیید کاربر بماند؟ نمودار زیر سه سطح اقدام را نشان می‌دهد.
سه سطح اقدام
سطح اول پیشنهاد است. ایجنت تحلیل میکند و گزینه ارائه می‌دهد؛ هیچ چیزی در دنیای واقعی تغییر نمی‌کند. این سطح را میتوان کاملاً به ایجنت سپرد.
سطح دوم جمعآوری اطلاعات است. ایجنت از کاربر سؤال می‌پرسد یا داده‌ای را می‌خواند، اما چیزی را تغییر نمی‌دهد. این سطح هم معمولاً بی‌خطر است؛ به شرطی که به داده‌ای خارج از اجازه‌ی کاربر دسترسی نداشته باشد.
سطح سوم اقدام تغییردهنده است؛ مثل ثبتنام، پرداخت، ارسال ایمیل یا حذف داده. این اقدامها پیامد واقعی دارند و باید فقط پس از تأیید صریح کاربر انجام شوند. تأیید هم باید مشخص باشد؛ کاربر باید دقیقاً ببیند چه چیزی را تأیید میکند.
قرارداد رفتاری ایجنت
بهترین راه ثبت مرز اختیار، نوشتن یک قرارداد رفتاری است. این قرارداد مشخص میکند ایجنت چه ورودی‌ای می‌گیرد، چه خروجی‌ای می‌دهد، به کدام ابزارها دسترسی دارد و کدام اقدامها به تأیید نیاز دارند. همین قرارداد هم در پیام سیستمی و هم در کد پیاده می‌شود.
مهم است که مرز اختیار فقط در پیام سیستمی نباشد. مدل ممکن است دستور را نادیده بگیرد. پس ابزارهای تغییردهنده باید در کد هم قفل باشند و بدون نشانه‌ی تأیید کاربر اجرا نشوند. پیام سیستمی راهنماست؛ کد، نگهبان.
سناریوی عملی؛ مشاوره یا ثبتنام؟
دستیاری داریم که باید دوره پیشنهاد بدهد، اما تغییر ثبتنام فقط پس از تأیید روشن کاربر انجام شود. ورودی آزمون سه بخش دارد: هدف آموزشی کاربر، محدودیت‌هایش و فهرست ابزارهای مجاز.
اقدام و معیار پذیرش
اقدام مورد بررسی، تفکیک سه سطح در رفتار ایجنت است: پیشنهاد، جمعآوری اطلاعات و اقدام تغییردهنده. خروجی هر مرحله را جدا ثبت کنید تا بدانید ایجنت در کدام سطح کار کرده است.
معیار پذیرش دو بخش دارد. مسئول هر مرحله شفاف باشد؛ یعنی معلوم باشد ایجنت پیشنهاد داده یا کاربر تصمیم گرفته. و کاربر بتواند پیشنهاد را رد یا اصلاح کند. یک نمونه‌ی ناقص هم بگذارید؛ مثلاً کاربری که هدفش را مبهم گفته است.
نمونه‌ی شکست؛ مشاوره‌ای که ثبتنام شد
شکستی که باید عمداً دنبالش باشید این است: درخواست مشاوره بدون تأیید به ثبتنام واقعی تبدیل شود. کاربری می‌پرسد «به نظرت دوره‌ی پایتون برای من خوب است؟» و ایجنت که ابزار ثبتنام دارد، او را ثبتنام میکند.
این شکست بیشتر از آنچه فکر می‌کنید رخ می‌دهد؛ به‌خصوص وقتی کاربر جمله‌ای مثل «خوب است، همین را می‌خواهم» می‌گوید. آیا این تأیید ثبتنام است یا فقط موافقت با پیشنهاد؟ ایجنت خوب در چنین موقعیتی دوباره و صریح می‌پرسد: «می‌خواهید همین حالا در این دوره ثبتنام کنم؟»
تمرین عملی؛ قرارداد رفتاری دستیار
خروجی این تمرین یک قرارداد رفتاری کوتاه برای دستیار شماست:
- همه‌ی ابزارهای دستیار را فهرست کنید و هر کدام را در یکی از سه سطح اقدام قرار دهید.
- برای هر ابزار سطح سوم، متن دقیق پرسش تأیید را بنویسید.
- در کد بررسی کنید ابزارهای سطح سوم بدون نشانه‌ی تأیید اجرا نمی‌شوند.
برای تمرین بیشتر، درسنامه‌ی مایکروسافت پیشنهاد میکند جلسه‌ای میان بخش‌های مختلف یک مجموعه‌ی آموزشی شبیه‌سازی کنید. هر بخش ایجنتی با شخصیت و اولویت خودش دارد و درباره‌ی ایده‌ی یک محصول تازه پرسش‌های پیگیری مطرح میکند.
سخن پایانی
اصول طراحی ایجنت یادآوری میکند که کیفیت ایجنت از تعداد ابزارهایش نمی‌آید؛ از روشنی هدف، مسئولیت و مرز اختیارش می‌آید. ایجنت خوب آدم‌ها را به هم وصل میکند، از گذشته یاد می‌گیرد، در حال راهنمایی میکند و با آینده سازگار می‌شود. عدم قطعیت را می‌پذیرد و با شفافیت، کنترل و ثبات اعتماد می‌سازد. و از همه مهم‌تر، اقدام‌های تغییردهنده را فقط با تأیید صریح کاربر انجام می‌دهد.
در قسمت بعد سراغ اجرای قابل‌اعتماد ابزارها می‌رویم؛ ورودی معتبر، مدیریت خطا و نتیجه‌ی قابل پیگیری.
این آموزش بر پایه‌ی درس AI Agentic Design Principles از مجموعه‌ی آزاد AI Agents for Beginners مایکروسافت (مجوز MIT) به فارسی بازنویسی و تکمیل شده است.
پرسش‌های پرتکرار
مهم‌ترین اصل در طراحی ایجنت هوش مصنوعی چیست؟
پذیرش عدم قطعیت همراه با ساختن اعتماد. ایجنت همیشه کمی نامطمئن است؛ پس باید وضعیتش برای کاربر قابل دیدن باشد، کاربر بتواند آن را خاموش یا اصلاح کند و اقدام‌های مهم فقط با تأیید او انجام شوند.
شفافیت در ایجنت یعنی چه؟
یعنی کاربر بداند با هوش مصنوعی سروکار دارد، بفهمد ایجنت چطور کار میکند و چه اقدام‌هایی انجام داده، و بداند چطور بازخورد دهد یا رفتار سیستم را تغییر دهد.
مرز اختیار ایجنت را چطور تعیین کنیم؟
اقدامها را به سه سطح تقسیم کنید؛ پیشنهاد، جمعآوری اطلاعات بدون تغییر، و اقدام تغییردهنده مثل ثبتنام یا پرداخت. دو سطح اول را میتوان به ایجنت سپرد، اما سطح سوم باید پس از تأیید صریح کاربر انجام شود.
آیا ایجنت با ابزارهای بیشتر بهتر عمل میکند؟
نه لزوماً. هر ابزار اضافه احتمال انتخاب اشتباه را بالا میبرد. اگر هدف و مسئولیت ایجنت روشن نباشد، حتی یک درخواست ساده ممکن است به چند اقدام نامرتبط تبدیل شود.
دیدگاه‌ها
هنوز دیدگاهی ثبت نشده است. شروع‌کننده باشید — پرسش و اصلاح را با آغوش باز می‌پذیریم.