Large Language Model

مدل زبانی بزرگ (LLM) چیست؟

مدل زبانی بزرگ یا LLM مدلی آماری و عصبی برای برآورد توزیع دنباله‌های زبانی است که با داده و ظرفیت محاسباتی زیاد آموزش می‌بیند و معمولاً متن را با پیش‌بینی واحد بعدی زبان تولید یا امتیازدهی می‌کند. بسیاری از LLMهای امروزی بر معماری ترنسفورمر بنا شده‌اند، اما «بزرگ» یک مرز عددی ثابت و علمی ندارد.

چرا مدل زبانی بزرگ (LLM) مهم است؟

LLM موتور زبانی بسیاری از سامانه‌های مولد، دستیارها و عامل‌های نرم‌افزاری است. فهم اینکه خروجی آن حاصل مدل‌سازی احتمالاتی زبان است کمک می‌کند توانایی زبانی را با حافظه واقعی، پایگاه دانش قطعی یا استدلال بی‌خطا اشتباه نگیریم.

چگونه از آن استفاده کنیم؟

  1. مسئله را مشخص کنید: تولید متن، طبقه‌بندی، استخراج، تبدیل یا گفت‌وگو.
  2. ورودی و دستور را طوری طراحی کنید که زمینه و محدودیت لازم را روشن کند.
  3. برای اطلاعات بیرونی یا به‌روز، مدل را به منبع یا بازیابی متصل کنید.
  4. خروجی را متناسب با ریسک مسئله ارزیابی و در کارهای حساس با کنترل انسانی همراه کنید.
  5. کیفیت را با مجموعه آزمون واقعی خودتان بسنجید، نه فقط چند نمونه نمایشی.

محدودیت و خطای رایج

روانی متن نشانه صحت نیست. مدل می‌تواند پاسخ سازگار و قانع‌کننده‌ای تولید کند که از نظر واقعیت، منبع یا منطق نادرست باشد. اندازه بیشتر نیز به‌تنهایی تضمین‌کننده کیفیت، ایمنی یا تناسب با مسئله نیست.

منابع برای پیگیری

تعریف و توضیح این مدخل با اتکا به منابع زیر تدوین شده است. برای پژوهش یا استناد دانشگاهی، نسخه اصلی منبع را نیز بررسی کنید.

  1. Language Models are Few-Shot LearnersBrown, T. B., et al. (2020). Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems, 33.
  2. Attention Is All You NeedVaswani, A., et al. (2017). Attention Is All You Need. Advances in Neural Information Processing Systems, 30.

جای این مفهوم در نقشه یادگیری

این مدخل بخشی از حوزه هوش مصنوعی است. برای دیدن مفاهیم نزدیک و جای این مفهوم در یک مسئله بزرگ‌تر، صفحه مادر این حوزه را ببینید.

Transformer Architecture

معماری ترنسفورمر

ترنسفورمر یک معماری شبکه عصبی برای پردازش دنباله‌هاست که هسته آن بر سازوکار توجه (attention) تکیه دارد. این سازوکار به مدل اجازه می‌دهد هنگام ساخت نمایش هر بخش از ورودی، وزن متفاوتی به بخش‌های دیگر بدهد. این معماری در شکل‌های رمزگذار (encoder)، رمزگشا (decoder) یا ترکیب رمزگذار-رمزگشا به کار می‌رود و پایه بسیاری از مدل‌های زبانی جدید است.

Vector Embedding

تعبیهٔ برداری (Embedding)

تعبیهٔ برداری روشی برای نمایش یک شیء مانند واژه، جمله، سند یا تصویر به‌صورت برداری از اعداد است؛ به‌گونه‌ای که ساختار و شباهت‌های آموخته‌شده در داده تا حدی در هندسه این فضا بازتاب پیدا کند. شباهت برداری ابزار محاسباتی مفیدی است، اما معادل فهم انسانی یا رابطه علّی نیست.

Retrieval-Augmented Generation (RAG)

تولید تقویت‌شده با بازیابی (RAG)

RAG خانواده‌ای از معماری‌هاست که پیش از یا هنگام تولید پاسخ، اطلاعات مرتبط را از یک منبع بیرونی بازیابی می‌کند و آن زمینه را در اختیار مدل مولد می‌گذارد. در شکل رایج، یک پرسش به نمایش قابل بازیابی تبدیل می‌شود، اسناد یا قطعه‌های مرتبط انتخاب می‌شوند و مدل پاسخ را با اتکا به آن زمینه تولید می‌کند.

یادداشت برای دور بعدی

چه چیزی در این صفحه درست نیست؟

یادداشت روی همین هاست ثبت می‌شود و در صف خصوصیِ بازخورد می‌ماند تا در نوبت بعدی به فهرست اقدام منتقل شود.