Learning AI

AI 常見專用名詞

Gen AI (生成式 AI)

人工智慧 (AI) 藉由使用機器學習與環境互動並執行工作來模擬人類行為，而不需明確指示輸出的內容。

生成式 AI 是人工智慧的分支，可根據自然語言輸入來建立新內容。 生成式 AI 通常內建於軟體應用程式中，並使用經過大量文字資料定型的語言模型，以產生人類般的自然語言回應，甚至是原始影像。 這類應用程式的其中一個熱門範例是 ChatGPT，這是 OpenAI 所建立的聊天機器人，這是一家與 Microsoft 緊密合作的 AI 研究公司。

生成式 AI 是由遠超過人類一輩子閱讀量的文字、影像、聲音所訓練而成，但卻缺乏普通人類的價值觀及基本判斷能力。「他」就像是個博學多聞、過目不忘的孩子，卻缺乏生活常識；偶爾胡說八道，又時常過度坦誠，因而需要隨時照料。因此，無論單純利用 AI 產生內容，或是將 AI 包裝為自家服務的公司，都應該特別小心謹慎。

LLM (大型語言模型)

語言模型支援的一般自然語言處理(NLP) 工作包括:

• 文字分析，例如擷取關鍵詞或識別文字中的具名實體。
• 情感分析和意見挖掘，將文字分類為 正面 或 負面。
• 機器翻譯，其中文字會自動從一種語言翻譯到另一種語言。
• 摘要，其中摘要說明大型文字主體的主要重點。
• 對話式 AI 解決方案，例如 聊天機器人 或 數位助理，其中語言模型可以解譯自然語言輸入，並傳回適當的回應。

其他

• Agent (代理/專員): 扮演介於用戶與 AI 之間的中間人，使 LLM 透過外部資源存取、執行指令及管理工作流程來執行更複雜的任務
• Token (詞元): 模型能一次處理運算的文字長度單位
• Tokenizer (分詞器)
• TOPS: AI 性能基礎計算單位，類似遊戲性能的 FPS、磁碟存取性能的 IOPS。

Introduction

• 關於生成式 AI，產品經理（PM）需要知道的 20 個關鍵字 - ALPHA Camp
• 用 AI 提高工程師的生產力，初階、資深與獨立開發者的三種不同做法 - ALPHA Camp
• Prompt Engineering 提示工程是什麼？新手必學指南 - ALPHA Camp
• 我的大型語言模型應用開發 - 學習歷程 - ALPHA Camp
• 看影片學習 AI 知識與最新趨勢，為你精選四個 YouTube 頻道 - ALPHA Camp
• AI工程師是什麼？生成式AI工程師要掌握哪些技能？ - ALPHA Camp

Medium Articles

• ChiChieh Huang – Medium

Course/HandBook

Google AI Courses for Free

• Beginner: Introduction to Generative AI Learning Path
• Machine Learning | Resources  |  Google for Developers

Microsoft

• Microsoft Learn
• Generative AI for Beginners (microsoft.github.io)

國網中心(NCHC)教學

• 快速了解模型訓練原理：Taichung.py 2024/04/23 Meetup, 在自己的電腦上建立專屬大型語言模型知識庫機器人 - YouTube 
• 大型語言模型LLMs介紹與操作教學 20231228 - YouTube
• 大型語言模型-[初階]建立基於RAG方案的專屬私有知識庫教學 - YouTube
• 大型語言模型-[初階]建立基於RAG方案的專屬私有知識庫教學 Q&A - YouTube

LLM Tokenizer 分詞器

• OpenAI Platform
• The Tokenizer Playground - a Hugging Face Space by Xenova

PyImageSearch 教學 (英文)

• 1: Harnessing Power at the Edge: An Introduction to Local Large Language Models - PyImageSearch
• 2: Inside Look: Exploring Ollama for On-Device AI - PyImageSearch
• 3: Integrating Local LLM Frameworks: A Deep Dive into LM Studio and AnythingLLM - PyImageSearch
• 4: Exploring Oobabooga Text Generation Web UI: Installation, Features, and Fine-Tuning Llama Model with LoRA - PyImageSearch

AI 各類資源大匯集

• Toolify.ai - 收集各種不同類型的 AI 應用網站目錄與詳細資訊
• 全世界最好的中文LLM资料总结
• llm-course - 收集了大量各項有關 AI 的資源，適合進階開發者來這挖寶。
• 各類 中文 LLM 總整理
• Open Source LLM Tools

資策會

下載指引：下載專區 | 資策會 (iii.org.tw)

• 生成式AI企業大腦開發指引
• 生成式AI輔助之軟體開發指引
• 2023企業應具備的AI素養-生成式AI導入指引

Open Source MLOps platform

• Pezzo - A fully cloud-native and open-source LLMOps platform. Seamlessly observe and monitor your AI operations, troubleshoot issues, save up to 90% on costs and latency, collaborate and manage your prompts in one place, and instantly deliver AI changes.
• MLflow - Build better models and generative AI apps on a unified, end-to-end,
  open source MLOps platform