Buckets:
| # Введение | |
|  | |
| Добро пожаловать в первый **Бонусный раздел**, в котором вы научитесь **дообучать Большую Языковую Модель (LLM) вызову функций**. | |
| С точки зрения LLM, вызов функций быстро становится *обязательной* техникой. | |
| Идея заключается в том, что вместо того, чтобы полагаться только на подходы, основанные на подсказках, как мы делали в разделе 1, вызов функций обучает вашу модель **предпринимать действия и интерпретировать наблюдения на этапе обучения**, делая ваш AI более надежным. | |
| > **Когда мне следует выполнить этот Бонусный раздел?** | |
| > | |
| > Этот раздел является **опциональным** и более продвинутым, чем Раздел 1, поэтому не стесняйтесь либо выполнить этот раздел сейчас, либо вернуться к нему, когда ваши знания улучшатся благодаря этому курсу. | |
| > | |
| >Но не волнуйтесь, в этом бонусном разделе собрана вся необходимая информация, поэтому мы расскажем вам обо всех основных концепциях дообучения модели вызову функций, даже если вы еще не изучили механизм дообучения. | |
| Лучший способ для вас пройти этот Бонусный Раздел - это: | |
| 1. Знать, как дообучить LLM трансформер, если это не так [изучите это](https://huggingface.co/learn/nlp-course/chapter3/1?fw=pt) | |
| 2. Знать, как использовать `SFTTrainer` для дообучения нашей модели, чтобы узнать об этом больше [ изучите документацию](https://huggingface.co/learn/nlp-course/en/chapter11/1) | |
| --- | |
| ## Что вы узнаете | |
| 1. **Вызов функций** | |
| Как современные **LLM эффективно структурируют свои диалоги, позволяя запускать **Инструменты**. | |
| 2. **LoRA (Low-Rank Adaptation)**. | |
| **Легкий и эффективный** метод дообучения, сокращающий накладные расходы на вычисления и хранение данных. LoRA делает обучение больших моделей *быстрым, дешевым и простым* в развертывании. | |
| 3. **Цикл «Мысль → Действие → Наблюдение» в моделях вызова функций | |
| Простой, но мощный подход к структурированию того, как ваша модель решает, когда (и как) вызывать функции, отслеживать промежуточные шаги и интерпретировать результаты, полученные от внешних инструментов или API. | |
| 4. **Новые специальные токены**. | |
| Мы введем **специальные маркеры**, которые помогут модели различать: | |
| - Внутренние рассуждения "цепочки мыслей" | |
| - Исходящие вызовы функций | |
| - Ответы, поступающие от внешних инструментов | |
| --- | |
| К концу этого раздела вы сможете: | |
| - **Понимать** внутреннюю работу API, когда речь идет об инструментах. | |
| - **Дообучать** модели с помощью техник LoRA. | |
| - Имплементировать** и **модифицировать** цикл "Мысль → Действие → Наблюдение" для создания надежных и поддерживаемых рабочих процессов вызова функций. | |
| - **Разрабатывать и использовать** специальные токены, чтобы легко отделить внутренние рассуждения модели от ее внешних действий. | |
| И вы **доработаете свою собственную модель для вызова функций** 🔥. | |
| Давайте погрузимся в **вызов функций**! | |
Xet Storage Details
- Size:
- 4.97 kB
- Xet hash:
- 31e497cf4a1d9bc9db0e47a12c5101320b54465ae84d12405a7ccb26c46f1feb
·
Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.