# GPU云服务器 #
0
关注
6927内容
入门生成式语言模型（Generative Language Models）
入门生成式语言模型涉及理解基本概念、学习NLP基础知识、掌握相关工具和框架、训练与评估模型、实践项目和案例，以及持续学习。关键步骤包括预训练、微调（如SFT、LoRA、Prefix Tuning）、模型选择（如LLaMA、ChatGLM、Bloom等）和优化部署（量化、剪枝）。训练策略包括Pretrain、SFT、LoRA等，模型如Qwen、GPT-3、OPT等，评估数据集有SuperGLUE、CLUEbenchmark等。此外，有专门的加速和分布式框架如DeepSpeed、Megatron、FairScale等，以及部署工具vLLM、TensorRT-LLM。
在有GPU的windows上安装TensorFlow
在有GPU的windows上安装TensorFlow
GPU_nvidia-container-toolkit安装和配置
GPU_nvidia-container-toolkit安装和配置
TensorFlow检测GPU是否可用
TensorFlow检测GPU是否可用
Batch Size 对神经网络训练的影响
Batch Size 对神经网络训练的影响
每个程序员都应该知道的 40 个算法（四）（1）
每个程序员都应该知道的 40 个算法（四）
联合XTuner，魔搭社区全面支持数据集的长文本训练
XTuner和魔搭社区（SWIFT）合作引入了一项长序列文本训练技术，该技术能够在多GPU环境中将长序列文本数据分割并分配给不同GPU，从而减少每个GPU上的显存占用。通过这种方式，训练超大规模模型时可以处理更长的序列，提高训练效率。魔搭社区的SWIFT框架已经集成了这一技术，支持多种大模型和数据集的训练。此外，SWIFT还提供了一个用户友好的界面，方便用户进行训练和部署，并且支持评估功能。
免费试用