گارتنر 2024: ساخت و به کارگیری هوش مصنوعی مولد
به گزارش پردیس هوش مصنوعی و نوآوری دیجیتال ایران؛ در دنیایی که هوش مصنوعی مولد (GenAI) به‌سرعت در حال تبدیل‌شدن به زیرساخت تفکر، تولید و تصمیم‌گیری است، چارچوبی که گارتنر در ۲۰۲۴ ارائه کرده، نه فقط نقشه‌ای برای درک فنی GenAI، بلکه راهنمایی برای طراحی آینده‌ای قابل اعتماد با این فناوری است.
این چارچوب سه لایه کلیدی دارد که در کنار هم، شکل‌گیری، کنترل و استفاده مؤثر از GenAI را ممکن می‌کنند:
لایه مرکزی: مدل مولد
در مرکز این ساختار، مدل یادگیرنده‌ای قرار دارد که با حجم عظیمی از داده‌ها آموزش دیده و توانایی تولید متن، تصویر، صدا یا کد را دارد. این مدل، پایه تمام توانمندی‌های GenAI است، اما برای عملکرد هدفمند و ایمن، نیاز به لایه‌های تنظیم‌گر دارد.
لایه عملکردی سه مسیر تعامل و اصلاح مدل
1. مهندسی پرامپت (Prompt Engineering):
طراحی ورودی‌های دقیق و هدفمند برای هدایت مدل در تولید خروجی مطلوب. این مهارت تعیین می‌کند که خروجی مدل دقیق، مفید یا حتی اخلاقی باشد یا نه.
2. ریزتنظیم (Fine-Tuning):
بازآموزی مدل با داده‌های خاص یک حوزه (مثل پزشکی، امنیت، فرهنگ یا صنعت). این مرحله، هوش مصنوعی را از یک مدل عمومی به یک مدل بومی‌شده و متخصص تبدیل می‌کند.
3. یادگیری تقویتی با بازخورد انسانی (RLHF):
افزودن لایه انسانی به آموزش مدل برای انطباق با ارزش‌ها، حساسیت‌ها و قواعد انسانی. این مسیر، کلید افزایش اعتماد و کاهش خطاهای خطرناک است.
لایه بیرونی: حکمرانی(Governance)
در بیرونی‌ترین لایه، سازوکارهای حکمرانی قرار دارند، از نظارت و ممیزی گرفته تا شفافیت، امنیت و پاسخ‌گویی. بدون این لایه، GenAI می‌تواند ناعادلانه، غیرشفاف و حتی مخرب باشد. حکمرانی ، پایه اعتماد عمومی و پیش‌شرط استقرار پایدار GenAI در نهادهاست.