Search Results

Discover, download, and run local LLMs. With LM Studio, you can ... 🤖 - Run LLMs on your laptop, entirely offline 👾 - Use models through the in-app Chat UI or an OpenAI compatible local server 📂 - Download any compatible model files from HuggingFace 🤗 rep...

檢索增強生成 - Retrieval Augmented Generation RAG 主要用來解決大型語言模型（LLM）實際應用時的兩大侷限：幻覺/錯覺（hallucination）與資料時限。RAG 結合「資訊檢索（retrieval）」和「生成（generation）」：在文字生成之前，先從資料庫中檢索相關的資料放入上下文，以確保 LLM 可依照正確的最新資訊生成結果。 RAG 優點： 降低 AI 幻覺 提升資料數據安全 減少模型微調 改善資料時限 流程示意圖 Introducti...

模型微調工作流程 準備資料集(訓練資料) 準備基礎模型 匯入資料集 開始微調作業 (Fine-Tune) 評估新模型損失曲線 以新模型做實際推論 準備資料集 開始微調模型之前，您必須先建立用來微調模型的資料集。為獲得最佳效能，資料集內的範例必須具有高品質、多元且代表真實輸入和輸出的要素。 格式 資料集中包含的範例應符合您預期的實際工作環境流量。如果您的資料集含有特定格式、關鍵字、操作說明或資訊，則實際工作環境資料的格式應相同，並含有相同的指示。 例如，如果資料集中的範例包含 "quest...

Cherry Studio Cherry Studio is a desktop client that supports for multiple LLM providers, available on Windows, Mac and Linux. Support for Multiple LLM Providers. Allows creation of multiple Assistants. Enables creation of multiple topics. Allows usin...

ngrok - put localhost on the internet 應用場景： 安全的連線至客戶的網路環境 連線至 dev/test 環境，例如測試整合 webhook、與團隊一起預覽開發網站、測試驗證手機後端程式 Pyngrok ngrok SDK for Python pyngrok - a Python wrapper for ngrok — pyngrok 7.1.6 documentation GitHub: https://github.com/alexdlaird/p...

AI Develop Framework LangChain (python + node.js) LlamaIndex (python) Haystack (python) Phidata (python) - LlamaIndex Ollama <> Mistral <> LlamaIndex Cookbook (ipynb) Data Analysis (Chat with CSV) LangChain: Chat with a CSV | LangChain Agents...

AI 常見專用名詞 Gen AI (生成式 AI) 人工智慧 (AI) 藉由使用機器學習與環境互動並執行工作來模擬人類行為，而不需明確指示輸出的內容。 生成式 AI 是人工智慧的分支，可根據自然語言輸入來建立新內容。 生成式 AI 通常內建於軟體應用程式中，並使用經過大量文字資料定型的語言模型，以產生人類般的自然語言回應，甚至是原始影像。 這類應用程式的其中一個熱門範例是 ChatGPT，這是 OpenAI 所建立的聊天機器人，這是一家與 Microsoft 緊密合作的 AI 研究公司。 生成式 AI 是由...

Red Hat® Enterprise Linux® AI is a foundation model platform to seamlessly develop, test, and run Granite family large language models (LLMs) for enterprise applications. Red Hat Enterprise Linux AI brings together: The Granite family of open source-lice...

Tutorials Microsoft: 10 Lessons teaching everything you need to know to start building AI Agents AgentGPT AgentGPT allows you to configure and deploy Autonomous AI agents. Name your own custom AI and have it embark on any goal imaginable. AgentGPT G...

LLM API Fireworks.ai - Fast, Affordable, Customizable Gen AI Platform Blog: https://blog.fireworks.ai/  Docs: https://readme.fireworks.ai/docs/quickstart  Models: https://fireworks.ai/models  Fireworks.ai: Fast, Affordable, Customizable Gen AI Platfor...

Prompt Engineering - 提示工程 生成式 AI 應用程式傳回的回應品質不僅取決於模型本身，也取決於其所提供的提示類型。 「提示工程」一詞描述提示改善的流程。 設計應用程式的開發人員和使用這些應用程式的取用者，都可以考慮使用提示工程來改善生成式 AI 的回應品質。 提示是我們告知應用程式預期執行操作的方式。 工程師可以利用提示來新增程式的指示。 例如，開發人員可以為教師建置生成式 AI 應用程式，以建立與學生閱讀文字相關的複選問題。 在應用程式開發期間，開發人員可以新增其他規則，定義程式應該根據...

PyGWorker Turn your pandas dataframe into an interactive UI for visual analysis. Alternative to Tableau. Support for Jupyter Notebook/ CoLab/Streamlit/Kaggle. GitHub: PyGWalker: Turn your pandas dataframe into an interactive UI for visual analysis (github.c...

180 v.s. 183 Code 180 and 183 are both SIP response codes used to indicate the progress of a call. While they may seem similar, they have distinct differences in their meanings and usage. Code 180: Ringing The 180 Ringing response code indicates that ...

LLM（Large Language Model）的一個新功能是 Function Calling（函數呼叫）。這項功能允許LLM直接呼叫外部函數，並將其結果整合到模型的輸出中。下面是它的工作原理和應用：  工作原理  Function Calling 的工作原理是，LLM 在生成輸出時，可以 reconocize 具體的函數名稱和參數，並將其傳遞給外部函數執行。外部函數執行後，將結果返回給LLM，LLM 則將其整合到輸出中。這個過程可以重複多次，實現多個函數的呼叫和整合。 範例 例如，假設有一個L...

LLM Model API LMStudio from langchain.llms import OpenAI #set llm for langchain using model from lmstudio llm = OpenAI( openai_api_base='http://localhost:1234/v1', openai_api_key='NULL' ) import streamlit as st from openai impor...

Developer Roadmaps 開發者學習路線圖 Developer Roadmaps - roadmap.sh Dev Community A constructive and inclusive social network for software developers. With you every step of your journey. DEV Community Level Up Coding Medium Articles by gitconnected.com...

ANPR 車牌辨識 Automatic License/Number Plate Reader (ANPR) Automatic License Plate Reader Using OCR in Python - PyImageSearch

使用 LLM 實現語言翻譯 PDFMathTranslate 完整保留排版的 PDF 檔案全文雙語翻譯，支援 Google/DeepL/Ollama/OpenAI 翻譯。 GitHub: https://github.com/Byaidu/PDFMathTranslate  LiteLLM + 反思提示 + 工作流 GitHub: https://github.com/wshuyi/workflows_with_litellm_pub  Translation Agent GitH...

Alternatives 變更 python 指令的預設路徑 alternatives --set python /usr/bin/python3 # Or alternatives --config python # Check the list alternatives --list Poetry Doc: https://python-poetry.org/docs/  Poetry 應該要安裝在 Python 虛擬環境，與主要系統間做隔離。 curl -sSL https:/...

登入 RedHat 系統時，可使用 Windows AD 帳號。 RedHat 7/8 (不加入網域) 這個方式需要先建立相同名稱的本機帳號，通常這個會違反資安規範。 Chapter 7. Configuring a RHEL host to use AD as an authentication provider Red Hat Enterprise Linux 8 | Red Hat Customer Portal 安裝需要的套件 yum install sssd sssd-tools krb...