Text generation web UI

A Gradio web UI for Large Language Models.

只能執行本地模型，不支援外部模型 API。

支援以下多重功能的 AI 平台

• Chat
• Fine-Tune Model
• Multiple model backends: Transformers, llama.cpp (through llama-cpp-python), ExLlamaV2, AutoGPTQ, AutoAWQ, GPTQ-for-LLaMa, QuIP#.
• OpenAI-compatible API server with Chat and Completions endpoints

教學

• GitHub: https://github.com/oobabooga/text-generation-webui 
• GitHub: https://github.com/Atinoda/text-generation-webui-docker 
• 大型語言模型LLMs課程教學 課程大綱 (三) - HackMD
  
  • YOUTUBE [啟動 TextGen]
  • YOUTUBE [上架大型語言模型]
  • YOUTUBE [指派AI人設]
  • YOUTUBE [模型微調]
  • YOUTUBE [上架微調模型]
  • 程式碼 Z01_TextGen_Colab.ipynb
  • 預設密碼在程式碼裡面 (account:nchc password:nchc) 請自行修改