در مدیر ملی، بخش هوش مصنوعی روی مفاهیمی تمرکز میکند که با عوضشدن نام محصولات از بین نمیروند: مدل زبانی چگونه کار میکند، داده چگونه به نمایش برداری تبدیل میشود، RAG چگونه دانش بیرونی را وارد پاسخ میکند و دسترسی مدل به ابزار چه تغییری در ریسک و طراحی سامانه ایجاد میکند.
اسناد و داده ابتدا باید قابل بازیابی شوند؛ embedding و retrieval فقط بخش انتخاب زمینهاند. بعد مدل زبانی روی همان زمینه پاسخ میسازد و اگر به ابزار متصل باشد، یک شاخهٔ جدا برای اقدام بیرونی شکل میگیرد. هر شاخه معیار خطا و کنترل خودش را میخواهد.
این تصویر یک نقشهٔ مفهومی است، نه معماری اجباری برای همه سامانهها.
هر مدخل تعریف، کاربرد، محدودیت و منبع اصلی خودش را دارد. هدف این است که «مدل»، «دانش»، «بازیابی» و «اقدام» در ذهن مدیر یکی نشوند.
مدل زبانی بزرگ یا LLM مدلی آماری و عصبی برای برآورد توزیع دنبالههای زبانی است که با داده و ظرفیت محاسباتی زیاد آموزش میبیند و معمولاً متن را با پیشبینی واحد بعدی زبان تولید یا امتیازدهی میکند. بسیاری از LLMهای امروزی بر معماری ترنسفورمر بنا شدهاند، اما «بزرگ» یک مرز عددی ثابت و علمی ندارد.
ترنسفورمر یک معماری شبکه عصبی برای پردازش دنبالههاست که هسته آن بر سازوکار توجه (attention) تکیه دارد. این سازوکار به مدل اجازه میدهد هنگام ساخت نمایش هر بخش از ورودی، وزن متفاوتی به بخشهای دیگر بدهد. این معماری در شکلهای رمزگذار (encoder)، رمزگشا (decoder) یا ترکیب رمزگذار-رمزگشا به کار میرود و پایه بسیاری از مدلهای زبانی جدید است.
تعبیهٔ برداری روشی برای نمایش یک شیء مانند واژه، جمله، سند یا تصویر بهصورت برداری از اعداد است؛ بهگونهای که ساختار و شباهتهای آموختهشده در داده تا حدی در هندسه این فضا بازتاب پیدا کند. شباهت برداری ابزار محاسباتی مفیدی است، اما معادل فهم انسانی یا رابطه علّی نیست.
RAG خانوادهای از معماریهاست که پیش از یا هنگام تولید پاسخ، اطلاعات مرتبط را از یک منبع بیرونی بازیابی میکند و آن زمینه را در اختیار مدل مولد میگذارد. در شکل رایج، یک پرسش به نمایش قابل بازیابی تبدیل میشود، اسناد یا قطعههای مرتبط انتخاب میشوند و مدل پاسخ را با اتکا به آن زمینه تولید میکند.
استفاده از ابزار یعنی مدل زبانی بهجای محدودماندن به تولید متن، بتواند در چارچوبی کنترلشده یک ابزار بیرونی مانند جستوجو، پایگاه داده، ماشینحساب یا رابط برنامهنویسی کاربردی (API) را انتخاب و فراخوانی کند و نتیجه را دوباره وارد فرایند پاسخ یا تصمیم کند. ابزار، توانایی بیرونی اضافه میکند؛ اما اختیار و سطح دسترسی باید جداگانه کنترل شود.
نام مدلها، رتبهبندیها، رابطهای محصول و قیمتها سریع تغییر میکنند؛ برای یک دانشنامه مرجع انتخاب خوبی نیستند. در عوض، معماری ترنسفورمر، مدلسازی زبانی، نمایش برداری، بازیابی اطلاعات و اتصال مدل به ابزار مفاهیمیاند که برای فهم نسل بزرگی از سامانهها کاربرد دارند.
این به معنی ثابتبودن همه جزئیات فنی نیست. پژوهش ادامه دارد، اما این مفاهیم یک زبان مشترک میدهند تا بتوانید درباره طراحی، ریسک و ارزیابی سامانه حرف بزنید بدون اینکه صفحه به نام یک محصول خاص وابسته شود.
در کاربرد سازمانی بهتر است سامانه را لایهلایه ببینید: مدل پایه، دستور و زمینه، منبع دانشی، retrieval، ابزارها و APIها، سیاست دسترسی، ثبت رویداد، ارزیابی و کنترل انسانی. خطا ممکن است در هرکدام از این لایهها شکل بگیرد.
برای همین مقایسه صرفِ مدلها کافی نیست. یک مدل قوی با retrieval ضعیف، داده قدیمی یا اختیار بیش از حد میتواند سامانه نامطمئنی بسازد؛ برعکس، معماری کنترلشده با منبع روشن و ارزیابی دامنهای ممکن است برای یک کار محدود ارزش بیشتری داشته باشد.
پیش از خرید یا ساخت سامانه، مسئله را از فناوری جدا کنید. اول روشن کنید چه تصمیم یا کاری قرار است بهتر شود؛ سپس منبع داده، سطح اختیار، پیامد خطا و سازوکار ارزیابی را مشخص کنید.
وقتی مدل زبانی به حافظه، ابزار، API و حلقه اقدام متصل میشود، بحث فقط کیفیت متن نیست؛ سطح اختیار، ثبت رویداد، مسئولیت خطا، امکان توقف و نظارت انسانی وارد مسئله حکمرانی میشوند. معماریهای عاملمحور سریع تغییر میکنند، بنابراین این موضوع در مدیر ملی بهصورت brief منبعدار و سناریویی نگهداری میشود.
مدل زبانی بزرگ، ترنسفورمر، embedding، RAG و استفاده از ابزار را جداگانه بخوانید.
برای دیدن سناریوهای نهادی، سطح اختیار و ریسک سامانههای عاملمحور در بخش عمومی.
برای فهم قدرت، پاسخگویی، اختیار و هماهنگی که با عاملهای نرمافزاری دوباره صورتبندی میشوند.
برای بررسی چند آینده ممکن بهجای فرضکردن یک مسیر قطعی برای هوش مصنوعی.