huggingface-transformers

英文: Hugging Face model deployment 问题 我的问题与如何部署Hugging Face模型相关。我最近下载了Falcon 7B Instruct模型，并在我的Colab中...

英文: how to add exception handling during inference with hugging face? 问题 import torch from transform...

英文: stucking at downloading shards for loading LLM model from huggingface 问题 我只会为您提供翻译，不会回答关于如何解决问题的...

英文: IndexError: Index out of range in self while implementing transformer model for translation 问题 我...

英文: Unpredictable multithreading behavior using HuggingFace and FastAPI with Uvicorn workers 问题 以下是翻...

英文: How to get the embedding of any vocabulary token in GPT? 问题 I have a GPT model model = BioGptFor...

英文: How to get the vector embedding of a token in GPT? 问题 我有一个GPT模型 model = BioGptForCausalLM.from_p...

英文: How to chain multiple PromptNodes together in a Haystack GenerativeQAPipeline 问题 我正在尝试使用Haystack...

英文: How to create a dataset for a model like Falcon-7b/40b? 问题 我有docx文件作为数据，并希望使用它们来对Falcon模型进行微调。从我...

英文: OutOfMemoryError: CUDA out of memory despite available GPU memory 问题 我在使用具有24 GB VRAM的GPU在训练GPT-...