Building RAG Agents with LLMs

Building RAG Agents with LLMs https://learn.nvidia.com/courses/course-detail?course_id=course-v1:DLI+S-FX-15+V1

RAG：檢索增強生成（Retrieval-Augmented Generation, RAG）是一種結合了搜尋檢索和生成能力的自然語言處理架構。透過這個架構，模型可以從外部知識庫搜尋相關信息，然後使用這些信息來生成回應或完成特定的NLP任務。

參考文章

RAG https://blog.infuseai.io/rag-retrieval-augmented-generation-introduction-a5854cb6393e
Lang Chain https://aict.nkust.edu.tw/digitrans/?p=5466
Scaling Law的本質是：模型最終效能可以藉由模型參數量、Dataset大小、訓練計算量來預測。因此我們可以藉由小模型、少量Data的訓練，來快速驗證我們的想法。

名詞翻譯

Retrieval Agents 檢索代理(服務)

LLM orchestration LLM協作(機制)

Augemented 增強

LangChain 是一種開放原始碼的架構，串聯其他的服務

dividng resource 資源劃分

Containerization with Docker 使用Docker做容器化

Compartmentalizing Functionality Into Microservices 劃分各種功能到微服物

Scaling Containerized Applications 縮放容器化的應用

Gradio 這是用來展示AI模型的介面

Standalone Environment LLM 獨立環境的LLM

Large Model Hosting Platforms 大型模型平台

From Raw Requests to LangChain Model 從原始需求給LangChain模型

Page updated

Google Sites

Report abuse