MIT License
AI 技术解读 AI 生成
以下内容由 AI 大模型基于项目 README 与元信息生成，仅供技术选型参考， 具体以项目官方文档为准。
相关仓库
了解如何设计大型系统。准备系统设计面试。 包括Anki抽认卡。
bigscience-workshop/petals
仓库概览、指标与主题
关于
在家运行LLM，以BitTorrent方式。微调和推断速度比卸载快10倍
简要分析
热度分
22084
价值分
7471
活跃状态
活跃
主题数量
20
语言Python
默认分支main
大小4.2 MB
更新2024年9月7日
bloomchatbotdeep-learningdistributed-systemsfalcongptguanacolanguage-modelslarge-language-modelsllamamachine-learningmixtralneural-networksnlppipeline-parallelismpretrained-modelspytorchtensor-parallelismtransformervolunteer-computing
编辑推荐
社区关注度与协作度较高，适合实践与生产使用。
语言占比
Dockerfile
Python
Shell
Release
- v2.2.0: Falcon, macOS support, and more2023年9月7日
- v2.1.0: 🤗 .generate(), faster loading, responsive inference, and more2023年8月25日
- v2.0.1: Inference of longer sequences, Python 3.11 support, bug fixes2023年7月23日
- v2.0.0: LLaMA 1 and 2, Guanaco, 4-bit, shortest-path routing, direct server-to-server communication2023年7月20日
- v1.1.5: Faster fine-tuning, bug fixes, and more2023年5月10日
评论