Синтаксис:
Существует множество сервисов, которые предоставляет Hugging Face, но одним из широко используемых сервисов является «API». API позволяет взаимодействовать предварительно обученному ИИ и большим языковым моделям с различными приложениями. Hugging Face предоставляет API для различных моделей, перечисленных ниже:
- Модели генерации текста
- Модели перевода
- Модели для анализа настроений
- Модели разработки виртуальных агентов (интеллектуальных чат-ботов)
- Классификация и регрессионные модели
Давайте теперь узнаем, как получить наш персонализированный API вывода от Hugging Face. Для этого нам сначала нужно зарегистрироваться на официальном сайте Hugging Face. Присоединяйтесь к этому сообществу Hugging Face, зарегистрировавшись на этом веб-сайте со своими учетными данными.
Как только мы получим учетную запись на Hugging Face, нам нужно запросить API вывода. Чтобы запросить API, перейдите в настройки учетной записи и выберите «Токен доступа». Откроется новое окно. Выберите опцию «Новый токен», а затем сгенерируйте токен, сначала указав имя токена и его роль «ЗАПИСЬ». Генерируется новый токен. Теперь мы должны сохранить этот токен. До этого момента у нас есть наш токен от Hugging Face. В следующем примере мы увидим, как мы можем использовать этот токен для получения API вывода.
Пример 1. Как создать прототип с API-интерфейсом Hugging Face Inference
До сих пор мы обсуждали метод начала работы с Hugging Face и инициализировали токен из Hugging Face. В этом примере показано, как мы можем использовать этот недавно сгенерированный токен, чтобы получить API вывода для конкретной модели (машинное обучение) и делать прогнозы на его основе. На домашней странице Hugging Face выберите любую модель, с которой вы хотите работать и которая имеет отношение к вашей проблеме. Допустим, мы хотим работать с классификацией текста или моделью анализа настроений, как показано в следующем фрагменте списка этих моделей:
Мы выбираем модель анализа настроений из этой модели.
После выбора модели появится карточка ее модели. Эта карточка модели содержит информацию о деталях обучения модели и характеристиках модели. Наша модель — это roBERTa-base, которая обучена на 58 млн твитов для анализа настроений. Эта модель имеет три метки основных классов и классифицирует каждый вход по соответствующим меткам классов.
После выбора модели, если мы выберем кнопку развертывания, которая находится в правом верхнем углу окна, откроется раскрывающееся меню. В этом меню нам нужно выбрать опцию «Inference API».
Затем API вывода дает полное объяснение того, как использовать эту конкретную модель с этим выводом, и позволяет нам быстро создать прототип модели ИИ. В окне API вывода отображается код, написанный на языке Python.
Мы копируем этот код и выполняем этот код в любой из Python IDE. Для этого мы используем Google Colab. После выполнения этого кода в оболочке Python он возвращает результат с оценкой и прогнозом метки. Эта метка и оценка даны в соответствии с нашими данными, поскольку мы выбрали модель «анализа текстовых настроений». Затем входные данные, которые мы даем модели, представляют собой положительное предложение, и модель была предварительно обучена на трех классах меток: метка 0 означает отрицательное значение, метка 1 означает нейтральное значение, а метка 2 имеет положительное значение. Поскольку наши входные данные являются положительным предложением, предсказание оценки по модели больше, чем у двух других меток, что означает, что модель предсказала предложение как «положительное».
Импортировать ЗапросыAPI_URL '=' 'https://api-inference.huggingface.co/models/cardiffnlp/twitter-roberta-base-sentiment'
заголовки '=' { 'Авторизация' : 'Носитель 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' }
деф запрос ( полезная нагрузка ) :
ответ '=' Запросы. почта ( API_URL , заголовки '=' заголовки , json '=' полезная нагрузка )
возвращаться ответ. json ( )
выход '=' запрос ( {
'входы' : «Мне хорошо, когда ты со мной» ,
} )
Выход:
Пример 2: Модель суммирования посредством логического вывода
Мы выполняем те же шаги, что и в предыдущем примере, и создаем прототип шины модели суммирования, используя ее API вывода от Hugging Face. Модель суммирования — это предварительно обученная модель, которая суммирует весь текст, который мы даем ей в качестве входных данных. Перейдите в учетную запись Hugging Face, нажмите на модель в верхней строке меню, а затем выберите модель, которая имеет отношение к обобщению, выберите ее и внимательно прочитайте карточку модели.
Выбранная нами модель — это предварительно обученная модель BART, которая точно настроена на набор данных ежедневной почты CNN. BART — это модель, наиболее похожая на модель BERT, которая имеет кодировщик и декодер. Эта модель эффективна, когда она точно настроена для задач понимания, обобщения, перевода и генерации текста.
Затем нажмите кнопку «развертывание» в правом верхнем углу и выберите API вывода в раскрывающемся меню. API вывода открывает другое окно, содержащее код и инструкции по использованию этой модели с этим выводом.
Скопируйте этот код и выполните его в оболочке Python.
Модель возвращает выходные данные, которые представляют собой обобщение входных данных, которые мы ей передали.
Заключение
Мы работали над API-интерфейсом Hugging Face Inference и узнали, как можно использовать программируемый интерфейс этого приложения для работы с предварительно обученными языковыми моделями. Два примера, которые мы привели в статье, были в основном основаны на моделях НЛП. Hugging Face API может творить чудеса, если мы хотим разработать быстрый прототип, обеспечивая быструю интеграцию моделей ИИ в наши приложения. Короче говоря, у Hugging Face есть решения для всех ваших проблем, от обучения с подкреплением до компьютерного зрения.