چرا استفادهٔ مدل زبانی از ابزار مهم است؟
این الگو یکی از پایههای فنی سامانههای عاملمحور است. بسیاری از کارهای واقعی به داده تازه، محاسبه یا اقدام در یک سیستم دیگر نیاز دارند؛ چیزی که مدل زبانی صرف بدون ابزار نمیتواند با اطمینان انجام دهد.
چگونه از آن استفاده کنیم؟
- فهرست ابزارهای مجاز و سطح دسترسی هرکدام را حداقلی تعریف کنید.
- ورودی و خروجی ابزار را با طرح ساختاری داده (schema) روشن و قابل اعتبارسنجی محدود کنید.
- عملیات خواندن را از نوشتن، پرداخت، حذف یا تغییر وضعیت جدا کنید.
- برای اقدامهای پرریسک تأیید انسانی و ثبت رویداد بگذارید.
- موفقیت را بر اساس انجام درست کار و کنترل خطا بسنجید، نه صرفاً کیفیت متن.
محدودیت و خطای رایج
دسترسی به ابزار دامنه خطا را از «متن نادرست» به «عمل نادرست» گسترش میدهد. اصل کمترین اختیار، محدودیت دامنه، ثبت اقدام، کنترل ورودی و امکان توقف باید بخشی از طراحی باشد.
منابع برای پیگیری
تعریف و توضیح این مدخل با اتکا به منابع زیر تدوین شده است. برای پژوهش یا استناد دانشگاهی، نسخه اصلی منبع را نیز بررسی کنید.
- Toolformer: Language Models Can Teach Themselves to Use ToolsSchick, T., Dwivedi-Yu, J., Dessì, R., et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. Advances in Neural Information Processing Systems, 36.
- ReAct: Synergizing Reasoning and Acting in Language ModelsYao, S., Zhao, J., Yu, D., et al. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. International Conference on Learning Representations.
جای این مفهوم در نقشه یادگیری
این مدخل بخشی از حوزه هوش مصنوعی است. برای دیدن مفاهیم نزدیک و جای این مفهوم در یک مسئله بزرگتر، صفحه مادر این حوزه را ببینید.
مفاهیم مرتبط
مدل زبانی بزرگ (LLM)
مدل زبانی بزرگ یا LLM مدلی آماری و عصبی برای برآورد توزیع دنبالههای زبانی است که با داده و ظرفیت محاسباتی زیاد آموزش میبیند و معمولاً متن را با پیشبینی واحد بعدی زبان تولید یا امتیازدهی میکند. بسیاری از LLMهای امروزی بر معماری ترنسفورمر بنا شدهاند، اما «بزرگ» یک مرز عددی ثابت و علمی ندارد.
تولید تقویتشده با بازیابی (RAG)
RAG خانوادهای از معماریهاست که پیش از یا هنگام تولید پاسخ، اطلاعات مرتبط را از یک منبع بیرونی بازیابی میکند و آن زمینه را در اختیار مدل مولد میگذارد. در شکل رایج، یک پرسش به نمایش قابل بازیابی تبدیل میشود، اسناد یا قطعههای مرتبط انتخاب میشوند و مدل پاسخ را با اتکا به آن زمینه تولید میکند.