EvoClass

Học thông minh hơn

Quay lại Khóa học
AI008 Professional

Mô hình Ngôn ngữ lớn cho Mọi người: Từ Cơ bản đến Ứng dụng Thực tiễn (Bản cập nhật 2026)

Khóa học này là một hướng dẫn thực tế, thân thiện với người mới bắt đầu về các Mô hình Ngôn ngữ lớn (LLMs) như ChatGPT và Gemini. Được thiết kế cho người học từ mọi lĩnh vực, khóa học giải thích cách các LLM hoạt động ở cấp độ cao, những gì chúng có thể và không thể làm, cũng như cách sử dụng hiệu quả chúng trong học tập, công việc và cuộc sống hàng ngày. Qua các minh họa thực hành và bài tập hướng dẫn, bạn sẽ học được các kỹ thuật lập trình câu lệnh (prompt), cách đánh giá đầu ra một cách phê phán, xử lý hiện tượng sai lệch thông tin (hallucinations) và thiên kiến, và cách sử dụng các công cụ phổ biến (ví dụ: tài liệu, tóm tắt, dịch thuật, xử lý dữ liệu) một cách an toàn và có trách nhiệm. Kết thúc khóa học, bạn sẽ có thể xây dựng một quy trình cá nhân dựa trên LLM để thực hiện các nhiệm vụ thực tế—viết văn, nghiên cứu, lập kế hoạch và tăng năng suất—mà không cần kỹ năng lập trình nâng cao.

4.9
21h
671 học viên
0 lượt thích
Trí tuệ nhân tạo
Bắt đầu học

Bài học

Tổng quan khóa học

📚 Tóm tắt nội dung

Khóa học này là một hướng dẫn thực tế, thân thiện với người mới bắt đầu về các Mô hình Ngôn ngữ Lớn (LLMs) như ChatGPT và Gemini. Được thiết kế dành cho người học từ mọi nền tảng, khóa học giải thích cách LLM hoạt động ở cấp độ cao, những gì chúng có thể làm và không thể làm, cũng như cách sử dụng hiệu quả chúng trong học tập, công việc và cuộc sống hàng ngày. Qua các minh họa trực tiếp và bài tập định hướng, bạn sẽ học kỹ thuật lập trình câu lệnh (prompt), cách đánh giá đầu ra một cách phê phán, xử lý hiện tượng ảo giác (hallucinations) và thiên kiến, đồng thời biết cách sử dụng các công cụ phổ biến (ví dụ: tài liệu, tóm tắt, dịch thuật, xử lý dữ liệu) một cách an toàn và có trách nhiệm. Đến cuối khóa học, bạn sẽ có khả năng xây dựng một "quy trình làm việc LLM cá nhân" để thực hiện các nhiệm vụ thực tế—viết văn, nghiên cứu, lập kế hoạch và tăng năng suất—mà không cần kỹ năng lập trình nâng cao.

Từ logic toán học cơ bản đến điều phối hệ thống phân tán của các tác nhân: định hình những kiến trúc sư hệ thống đẳng cấp hàng đầu cho thời đại mô hình lớn.

🎯 Mục tiêu học tập

  1. Nhận thức: Hiểu các trụ cột toán học của ML (đại số tuyến tính, giải tích, xác suất) và dòng lịch sử kiến trúc thần kinh từ Perceptrons đến LSTMs.
  2. Kỹ năng: Điều hướng máy chủ từ xa bằng lệnh Unix shell và triển khai các đồ thị tính toán cơ bản bằng động cơ tự động đạo hàm.
  3. Cảm xúc: Trân trọng tầm quan trọng của "cơ sở lý thuyết" hơn là "tổng quát hóa vội vàng" khi sửa lỗi các hệ thống phức tạp như bùng nổ gradient.
  4. Được sinh ra
  5. Nhận thức: Giải thích cơ chế của quy trình sau đào tạo, bao gồm sự khác biệt giữa SFT (Fine-tuning được giám sát) và các khuôn khổ học tăng cường (RL) như GRPO.
  6. Kỹ năng: Thiết kế một pipeline đào tạo đa giai đoạn — từ khởi đầu lạnh đến định hướng cuối cùng — sử dụng các kỹ thuật PEFT như LoRA.
  7. Cảm xúc: Trân trọng sự thay đổi từ xem AI như một "hộp đen kỳ diệu" sang một hệ thống được thiết kế gồm các lớp cơ khí và suy luận nội bộ có chủ ý.
  8. Nhận thức: So sánh các khung tích hợp tuyến tính với các phương pháp tổ chức vòng lặp dựa trên đồ thị và phân biệt các giao thức tích hợp dọc (MCP) và ngang (A2A).
  9. Kỹ năng: Định nghĩa các nút chuyên dụng và các cạnh điều kiện bằng nguyên lý lý thuyết đồ thị và triển khai máy chủ MCP bằng FastMCP để kết nối các tác nhân với dữ liệu bên ngoài.
  10. Cảm xúc: Trân trọng tầm quan trọng của "thực thi vòng lặp" và quản lý trạng thái trong việc mô phỏng các quy trình nhận thức phức tạp của con người.

🔹 Bài học 1: Giới thiệu về LLMs: Từ Khái niệm đến Thực tế

Tổng quan: ## 1. Chuẩn bị Câu hỏi lớn: Việc phát triển LLM có chỉ đơn thuần là nghệ thuật "lập trình câu lệnh", hay nó đòi hỏi một hiểu biết nghiêm túc, toàn diện về sự tiến hóa toán học và kiến trúc dẫn đến sự ra đời của nó?

Mục tiêu học tập (SWBAT):

  • Nhận thức: Hiểu các trụ cột toán học của ML (đại số tuyến tính, giải tích, xác suất) và dòng lịch sử kiến trúc thần kinh từ Perceptrons đến LSTMs.
  • Kỹ năng: Điều hướng máy chủ từ xa bằng lệnh Unix shell và triển khai các đồ thị tính toán cơ bản bằng động cơ tự động đạo hàm.
  • Cảm xúc: Trân trọng tầm quan trọng của "cơ sở lý thuyết" hơn là "tổng quát hóa vội vàng" khi sửa lỗi các hệ thống phức tạp như bùng nổ gradient.

2. Các thành phần kiến thức cốt lõi (Thành phần chính)

A. Các khái niệm chính (Danh từ):

  • Quy trình tác nhân
  • Cơ học tensor dưới kiến trúc
  • Định hướng sau đào tạo
  • Các giao thức tổ chức tác nhân phân tán
  • Không gian vector chiều cao
  • Phân tích giá trị riêng
  • Đạo hàm ngược
  • Tensor nhiều chiều (PyTorch)
  • Đồ thị tính toán
  • Định lý Xấp xỉ Vạn năng
  • Vấn đề gradient tiệm cận
  • Cơ chế chú ý

B. Các nguyên tắc cốt lõi (Quy tắc):

  • Nền tảng bất khả tranh cãi: Không thể nắm vững kỹ thuật LLM chỉ qua API; cần có nền tảng giải tích và đại số tuyến tính để tối ưu hóa phần cứng và sửa lỗi.
  • Định lý Xấp xỉ Vạn năng: Một mạng nơ-ron truyền thẳng với một tầng ẩn duy nhất có thể xấp xỉ bất kỳ hàm liên tục nào (tùy thuộc vào kích thước tầng ẩn và rủi ro tổng quát hóa).
  • Hạn chế RNN: Mạng nơ-ron hồi tiếp bị giới hạn bởi vấn đề gradient tiệm cận và khả năng nội tại không thể song song hóa xử lý dữ liệu tuần tự.

C. Kỹ năng thiết yếu (Động từ):

  • Sửa lỗi bùng nổ gradient.
  • Tối ưu hóa sử dụng phần cứng.
  • Triển khai hàm mất mát tùy chỉnh.
  • Thực hiện các thao tác vector hóa (NumPy).
  • Quản lý môi trường học sâu (Unix shell).
  • Biểu diễn các mô hình đầu vào - đầu ra (một-đối-một, nhiều-đối-một, một-đối-nhiều, nhiều-đối-nhiều).

3. Các khối giảng dạy (Dòng chảy)

Khối 1: Kích hoạt (Lỗi của API) Hoạt động: Thảo luận nghiên cứu trường hợp về "điểm thất bại" trong giáo dục AI hiện đại. Phân tích rủi ro của "bọc cấp cao" và thảo luận các tình huống mà kiến thức về API là chưa đủ (ví dụ: chuyển đổi từ kiến trúc monolithic sang microservices cục bộ).

Khối 2: Tiếp thu (Nền tảng toán học và lịch sử) Nội dung: Bài giảng về bốn trụ cột (Đại số tuyến tính, Xác suất, Thống kê, Giải tích nhiều biến). Theo dõi dòng lịch sử kiến trúc từ Perceptron năm 1958 đến các mạng truyền thẳng, rồi đến giới hạn của RNN/LSTM.

Khối 3: Thực hành (Trôi chảy chương trình) Hoạt động: Phòng thí nghiệm mã hóa thực hành. Đi vượt quá cú pháp Python để tập trung vào các thao tác vector hóa trong NumPy. Sử dụng "micrograd" của Andrej Karpathy để xây dựng một Mạng Perceptron đa tầng (MLP) cơ bản và trực quan hóa cách gradient lưu thông qua mạng trong quá trình tối ưu hóa.

Khối 4: Áp dụng (Biểu đồ hóa mô hình) Hoạt động: Phân tích cấu trúc của việc ánh xạ dữ liệu. Học sinh phải phân loại các nhiệm vụ thực tế khác nhau (ví dụ: phân loại nhị phân so với dịch máy) vào các mô hình đầu vào - đầu ra: một-đối-một, nhiều-đối-một, một-đối-nhiều, và nhiều-đối-nhiều.

4. Ôn tập & Mở rộng

Sai lệch phổ biến:

  • Huyền thoại "bứt phá kỳ diệu": Ý tưởng rằng LLM là phát hiện cô lập chứ không phải kết quả của hàng thập kỷ nghiên cứu.
  • Con đường tắt API: Giả định sai lầm rằng có thể trở thành kỹ sư hệ thống mà không hiểu rõ về phép nhân ma trận và đạo hàm riêng phần.

Phân biệt:

  • Hỗ trợ: Sử dụng các công cụ học tập trực quan (ví dụ: loạt video neural network của 3Blue1Brown) và công cụ trực giác hình học cho không gian chiều cao.
  • Thách thức: Chuyển từ mảng chuẩn sang tensor nhiều chiều trong PyTorch để triển khai các mô hình sơ cấp từ đầu.

Kết quả học tập:

  • Nhận thức: Hiểu các trụ cột toán học của ML (đại số tuyến tính, giải tích, xác suất) và dòng lịch sử kiến trúc thần kinh từ Perceptrons đến LSTMs.
  • Kỹ năng: Điều hướng máy chủ từ xa bằng lệnh Unix shell và triển khai các đồ thị tính toán cơ bản bằng động cơ tự động đạo hàm.
  • Cảm xúc: Trân trọng tầm quan trọng của "cơ sở lý thuyết" hơn là "tổng quát hóa vội vàng" khi sửa lỗi các hệ thống phức tạp như bùng nổ gradient.

🔹 Bài học 2: Bên trong LLM: Cách LLM Xử lý và Dự đoán Văn bản

Tổng quan: # Bên trong: Cách LLM Xử lý và Dự đoán Văn bản

1. Chuẩn bị

Câu hỏi lớn: Làm thế nào để chúng ta thu hẹp khoảng cách giữa việc "đọc thụ động" các bài báo học thuật và đạt được sự hiểu biết kỹ thuật thực sự về trái tim toán học của Transformer?

Mục tiêu học tập (SWBAT):

  • Nhận thức: Hiểu lý do toán học đằng sau cơ chế chú ý sản phẩm chấm quy mô, bao gồm việc sử dụng các yếu tố điều chỉnh để ổn định gradient và ngăn chặn vấn đề "gradient vô hạn nhỏ" trong hàm softmax.
  • Kỹ năng: Triển khai một Transformer được tiền đào tạo một cách sinh thành (GPT) từ đầu bằng Python và PyTorch, chuyển từ cơ chế vòng lặp sang các phép nhân ma trận song song hóa cao.
  • Cảm xúc: Trân trọng tầm quan trọng của việc triển khai từng dòng code thay vì đọc lý thuyết để làm sáng tỏ "độ mờ" vốn có của không gian ẩn chiều cao.

2. Các thành phần kiến thức cốt lõi (Thành phần chính)

A. Các khái niệm chính (Danh từ):

  • Kiến trúc: Transformer (Vaswani et al.), BERT (Đại diện mã hóa hai chiều từ Transformer), Kiến trúc chỉ mã hóa, GPT (Transformer được tiền đào tạo một cách sinh thành), Mixture-of-Experts (MoE).
  • Cơ chế: Chú ý tự thân, Chú ý sản phẩm chấm quy mô, Chú ý đa đầu, Sinh ra theo tự hồi tiếp.
  • Cấu trúc dữ liệu: Ma trận truy vấn (Q), khóa (K), và giá trị (V); Vector mật độ; Vector nhúng; Không gian ẩn.
  • Thành phần: Bộ phân tích token Byte Pair Encoding (BPE), Mã hóa vị trí (hàm sin/cos), Mạng nơ-ron truyền thẳng, Kết nối dư thừa, Chuẩn hóa lớp (LayerNorm).
  • Tính năng nâng cao: Bộ nhớ khóa-giá trị (KV caching), Chú ý nhóm truy vấn.

B. Các nguyên tắc cốt lõi (Quy tắc):

  • Quy tắc quy mô hóa: Điểm chú ý thô phải chia cho căn bậc hai của kích thước chiều khóa để tránh điểm tích vô hướng tăng quá mức.
  • Quy tắc tiêm chuỗi: Cần mã hóa thủ công các hàm sin và cos để tiêm thứ tự chuỗi vào mô hình.
  • Quy tắc ổn định: Các kết nối dư thừa và LayerNorm phải được áp dụng để chống lại sự dịch chuyển nội bộ và đảm bảo ổn định huấn luyện.
  • Tối ưu hóa: Chuyển từ vòng lặp đơn giản sang phép nhân ma trận là thiết yếu để song song hóa.

C. Kỹ năng thiết yếu (Động từ):

  • Phân tích: Phân rã kiến trúc Transformer thành các cơ chế cốt lõi.
  • Triển khai: Viết mã bộ phân tích token, ma trận QKV và mạng nơ-ron truyền thẳng từ đầu.
  • Xây dựng: Định nghĩa toán học và chương trình điểm chú ý.
  • Theo dõi: Theo dõi trực quan hành trình từ từ ngữ thô đến token rồi đến vector nhúng bằng công cụ tương tác.
  • Tăng tốc: Sử dụng KV caching để tăng tốc suy luận.

3. Các khối giảng dạy (Dòng chảy)

Khối 1: Kích hoạt (Trực quan hóa độ mờ)

  • Hoạt động: Khám phá tương tác. Học sinh dùng công cụ như "Transformer Explainer" hoặc "AnimatedLLM" nhập các lời nhắc văn bản và quan sát tương tác thời gian thực của các thành phần bên trong. Điều này giải quyết "thách thức giảng dạy" về độ mờ của không gian ẩn.

Khối 2: Tiếp thu (Nền tảng toán học)

  • Nội dung: Tương tác sâu với thuật toán "Attention Is All You Need". Tập trung vào việc xây dựng ma trận Q, K, V và toán học cụ thể phía sau yếu tố điều chỉnh (\sqrt{d_k}) nhằm ổn định gradient.

Khối 3: Thực hành (Phân tích chương trình)

  • Hoạt động: Dự án "Từ đầu". Hướng dẫn bởi tài liệu như "Let’s build GPT" của Andrej Karpathy, học sinh thực hiện nhập dữ liệu (ví dụ: bộ dữ liệu "The Wizard of Oz") và triển khai bộ phân tích token BPE và mã hóa vị trí bằng tay.

Khối 4: Áp dụng (Quy mô hóa và Tối ưu hóa)

  • Hoạt động: Cải tiến kiến trúc nâng cao. Học sinh chuyển mã của mình từ chú ý vòng lặp sang các phép nhân ma trận song song hóa. Sau đó, tích hợp các cải tiến tiên tiến như Grouped-Query Attention và cơ chế định tuyến MoE để phù hợp với thiết kế mô hình năm 2026.

4. Ôn tập & Mở rộng

Sai lệch phổ biến:

  • Lý thuyết vs. Thực hành: Tin rằng đọc tài liệu học thuật là đủ để thành thạo kỹ thuật (văn bản yêu cầu rõ ràng phải triển khai từng dòng).
  • Hiệu quả: Dùng vòng lặp đơn giản cho chú ý thay vì phép nhân ma trận song song hóa.
  • Vấn đề gradient: Bỏ qua yếu tố điều chỉnh, dẫn đến gradient siêu nhỏ trong hàm softmax.

Phân biệt:

  • Hỗ trợ: Sử dụng "The Illustrated Transformer" của Jay Alammar hoặc "The Annotated Transformer" của Harvard NLP để có hướng dẫn toán học trực quan và có chú thích.
  • Thách thức: Giao nhiệm vụ cho người học tiên tiến triển khai KV caching để tăng tốc suy luận hoặc mã hóa cơ chế định tuyến MoE phức tạp.

Kết quả học tập:

  • Đã sinh ra

🔹 Bài học 3: Định hướng và Tư duy: Làm sao AI Trở Thành Người Hỗ trợ Hữu ích

Tổng quan: # Định hướng và Tư duy: Làm sao AI Trở Thành Người Hỗ trợ Hữu ích

1. Chuẩn bị

Câu hỏi lớn: Khi việc tiền đào tạo quy mô lớn trở thành một tiện ích "đã thương mại hóa", kỹ sư phải làm gì để biến một mô hình gốc, không thể đoán trước thành một hệ thống tư duy đáng tin cậy, có khả năng tuân theo ý định phức tạp của con người?

Mục tiêu học tập (SWBAT):

  • Nhận thức: Giải thích cơ chế của quy trình hậu đào tạo, bao gồm sự khác biệt giữa Fine-tuning được giám sát (SFT) và các khuôn khổ học tăng cường (RL) như GRPO.
  • Kỹ năng: Thiết kế một pipeline đào tạo đa giai đoạn — từ khởi đầu lạnh đến định hướng cuối cùng — sử dụng các kỹ thuật PEFT như LoRA.
  • Cảm xúc: Trân trọng sự thay đổi từ xem AI như một "hộp đen kỳ diệu" sang một hệ thống được thiết kế gồm các lớp cơ khí và suy luận nội bộ có chủ ý.

2. Các thành phần kiến thức cốt lõi (Thành phần chính)

A. Các khái niệm chính (Danh từ):

  • Pipeline hậu đào tạo: Giai đoạn nơi hành vi mô hình được định hình và định hướng.
  • Fine-tuning được giám sát (SFT): Huấn luyện trên các cặp hướng dẫn - phản hồi đã được chọn lọc.
  • Fine-tuning hiệu quả tham số (PEFT): Các phương pháp như LoRA và QLoRA đưa vào các ma trận phân tích rank có thể huấn luyện trong khi giữ nguyên trọng số ban đầu.
  • Chain-of-Thought (CoT): Giai đoạn suy nghĩ nội bộ trước khi tạo ra đầu ra cuối cùng.
  • Tối ưu hóa chính sách nhóm (GRPO): Một khuôn khổ loại bỏ "mô hình đánh giá viên" bằng cách xếp hạng phản hồi đối với trung bình nhóm.
  • Chiến lược tiến hóa (ES): Một lựa chọn thay thế cho backpropagation, đột biến và tái tổ hợp tham số.

B. Các nguyên tắc cốt lõi (Quy tắc):

  • Quy tắc giới hạn phần cứng: Cập nhật toàn bộ tham số là không khả thi về mặt tính toán; PEFT là bắt buộc cho phần cứng tiêu dùng.
  • Quy tắc hiệu quả GRPO: RL hiện đại có thể loại bỏ các mô hình đánh giá tốn bộ nhớ bằng cách sử dụng hệ thống thưởng tự động, dựa trên quy tắc.
  • Quy tắc ống tư duy: Xây dựng mô hình tư duy đòi hỏi một trình tự bốn giai đoạn cụ thể: Khởi đầu lạnh, RL thuần túy, Tạo dữ liệu tổng hợp, và SFT thứ cấp.

C. Kỹ năng thiết yếu (Động từ):

  • Fine-tune: Điều chỉnh mô hình cho các lĩnh vực cụ thể (ví dụ: y tế hoặc pháp lý).
  • Chèn: Chèn các ma trận phân tích vào các tầng transformer.
  • Đánh giá: Đánh giá tính mạch lạc logic và độ chính xác toán học qua hệ thống tự động.
  • Đột biến: Thay đổi tuần tự tham số mô hình để tối ưu hóa cho các nhiệm vụ dài hạn.

3. Các khối giảng dạy (Dòng chảy)

Khối 1: Kích hoạt (Phá vỡ hộp đen)

  • Hoạt động: Khám phá phòng thí nghiệm số. Dùng công cụ trực quan (ví dụ: Transformer Explainer, 3D LLM Walkthrough) để quan sát tính toán điểm chú ý và phân bố logit thời gian thực.
  • Mục tiêu: Cắt đứt khoảng cách giữa "đại số ma trận" và "giao diện kỳ diệu" của trợ lý AI.

Khối 2: Tiếp thu (Kiến trúc hậu đào tạo)

  • Nội dung: Tìm hiểu sâu về SFT và PEFT. So sánh chi phí cao của cập nhật toàn bộ tham số với hiệu quả của LoRA/QLoRA.
  • Mô hình chính: Phân tích kiến trúc của Llama 3.2, Qwen3, và Gemma như mục tiêu tạo trợ lý tùy chỉnh.

Khối 3: Thực hành (Cuộc cách mạng tư duy)

  • Hoạt động: Bản đồ Pipeline DeepSeek-R1. Nhóm nhỏ học sinh phải vẽ sơ đồ quy trình đào tạo 4 giai đoạn:
    1. Khởi đầu lạnh: Ngăn ngừa suy giảm khả năng đọc.
    2. RL thuần túy: Phát triển kỹ năng CoT thông qua GRPO.
    3. Lấy mẫu loại trừ: Tạo bộ dữ liệu nhãn tổng hợp từ đầu ra chất lượng cao.
    4. Định hướng cuối cùng: Kết hợp dữ liệu tổng hợp với bộ dữ liệu thực tế và sáng tạo.

Khối 4: Áp dụng (Quy mô hóa và Độ bền)

  • Hoạt động: Cuộc tranh luận tối ưu hóa. So sánh Reinforcement Learning (PPO/GRPO) với Evolution Strategies (ES).
  • Nhiệm vụ: Xác định phương pháp nào vượt trội cho "nhiệm vụ thưởng hiếm, dài hạn" và kháng "hack thưởng" dựa trên nghiên cứu năm 2026 từ Phòng thí nghiệm Cognizant AI.

4. Ôn tập & Mở rộng

Sai lệch phổ biến:

  • Huyền thoại "Cập nhật toàn bộ": Tin rằng fine-tuning chất lượng cao đòi hỏi cập nhật tất cả tỷ tham số (Sửa chữa: LoRA/QLoRA đạt được điều đó thông qua phân tích rank).
  • Sự cần thiết của mô hình đánh giá viên: Cho rằng RL luôn cần một LLM riêng biệt làm nhà đánh giá (Sửa chữa: GRPO sử dụng xếp hạng nhóm và hệ thống quy tắc).

Phân biệt:

  • Hỗ trợ: Dùng AnimatedLLM để hình dung khái niệm không kỹ thuật về huấn luyện dự đoán từ tiếp theo.
  • Thách thức: Triển khai một pipeline phân loại văn bản bằng QLoRA trên một tập dữ liệu ngành cụ thể (ví dụ: xem xét hợp đồng pháp lý) để chứng minh việc tạo "trợ lý tùy chỉnh".

Kết quả học tập:

  • Nhận thức: Giải thích cơ chế của quy trình hậu đào tạo, bao gồm sự khác biệt giữa Fine-tuning được giám sát (SFT) và các khuôn khổ học tăng cường (RL) như GRPO.
  • Kỹ năng: Thiết kế một pipeline đào tạo đa giai đoạn — từ khởi đầu lạnh đến định hướng cuối cùng — sử dụng các kỹ thuật PEFT như LoRA.
  • Cảm xúc: Trân trọng sự thay đổi từ xem AI như một "hộp đen kỳ diệu" sang một hệ thống được thiết kế gồm các lớp cơ khí và suy luận nội bộ có chủ ý.

🔹 Bài học 4: Kỹ thuật lập trình câu lệnh và Định hướng với RAG

Tổng quan: # Kỹ thuật lập trình câu lệnh và Định hướng với RAG

1. Chuẩn bị

Câu hỏi lớn: Làm thế nào để chúng ta chuyển từ các "kỹ thuật thử nghiệm" mang tính nghiên cứu sang xây dựng các hệ thống AI đáng tin cậy, cấp sản phẩm, giúp mô hình định hướng vào dữ liệu thực tế và hạ tầng kiên cường?

Mục tiêu học tập (SWBAT):

  • Nhận thức: Hiểu chu kỳ sống của pipeline Retrieval-Augmented Generation (RAG) và nhu cầu tổ chức đa nhà cung cấp LLM để đảm bảo độ tin cậy sản xuất.
  • Kỹ năng: Triển khai phân tích nâng cao (phân tích ngữ nghĩa và chia khối tác nhân), đánh giá độ chính xác truy xuất bằng các chỉ số chương trình (MRR, NDCG), và thiết kế bộ định tuyến giao thông chịu lực cho hệ thống đa mô hình.
  • Cảm xúc: Trân trọng sự chuyển đổi từ các "kỹ thuật lập trình câu lệnh" mơ hồ sang một ngành kỹ thuật nghiêm túc bao gồm kiểm soát phiên bản và ý thức an ninh mạng.

2. Các thành phần kiến thức cốt lõi (Thành phần chính)

A. Các khái niệm chính (Danh từ):

  • Cơ sở hạ tầng RAG: Mô hình nhúng mật độ cao, Biểu diễn vector chiều cao, Cơ sở dữ liệu vector chuyên dụng (Pinecone, Deep Lake, Milvus), FAISS, đồ thị HNSW.
  • Phương pháp chia khối: Chia khối ngữ nghĩa, Chia khối chồng lấn, Chia khối tác nhân.
  • Chỉ số đánh giá: Recall@K, Precision@K, Mean Reciprocal Rank (MRR), Normalized Discounted Cumulative Gain (NDCG).
  • Kiến trúc nâng cao: Sinh thành bổ sung bộ nhớ (CAG), Định tuyến truy vấn đa lần, RAG phân cấp, RAG đa phương tiện.
  • Tổ chức và Câu lệnh: LLMOps, Bộ điều khiển lưu lượng (Routers), Lớp cổng thống nhất, Sàn đỡ suy luận, Các lỗ hổng đối kháng, Kiểm soát phiên bản câu lệnh.

B. Các nguyên tắc cốt lõi (Quy tắc):

  • Nguyên tắc định hướng: LLM vốn dĩ mắc phải hiện tượng ảo giác và cắt đứt kiến thức theo thời gian; RAG là bắt buộc để nối chúng với các cơ sở tri thức bên ngoài.
  • Nguyên tắc độ bền kiến trúc: Phụ thuộc vào một nhà cung cấp API bên thứ ba là mối nguy hiểm nghiêm trọng; hệ thống phải triển khai tổ chức đa nhà cung cấp và logic chuyển đổi tự động.
  • Nguyên tắc nghiêm túc kỹ thuật: Kỹ thuật lập trình câu lệnh phải chuyển từ "kỹ thuật" sang một ngành kỹ thuật chính thức, bao gồm các đặc tả đầu ra nghiêm ngặt (ví dụ: JSON hợp lệ) và các bước tuần tự rõ ràng.

C. Kỹ năng thiết yếu (Động từ):

  • Nhập dữ liệu: Chuyển văn bản không cấu trúc thành biểu diễn vector qua mô hình nhúng mật độ cao.
  • Phân tích: Chia văn bản dựa trên ý nghĩa (ngữ nghĩa) hoặc điểm dừng do AI xác định (tác nhân), chứ không phải theo số ký tự.
  • Đo lường: Đo lường độ chính xác truy xuất một cách nghiêm túc bằng bộ kiểm thử chương trình.
  • Định tuyến: Hướng dẫn câu lệnh đến các mô hình (ví dụ: Claude 3.5 Sonnet hay mô hình nguồn mở) dựa trên chi phí, độ trễ và độ sâu suy luận.
  • Bảo mật: Phát hiện và giảm thiểu các lỗ hổng đối kháng nơi logic định dạng được dùng để vượt qua các rào cản.

3. Các khối giảng dạy (Dòng chảy)

Khối 1: Kích hoạt (Thực tế sản xuất)

  • Hoạt động: "Kiểm toán 2026." Tham gia phân tích một tình huống một script LLM dựa trên API đơn giản thất bại do thiếu cập nhật kiến thức hoặc sự cố của nhà cung cấp. Thảo luận: Tại sao các mô hình "thô" là không đủ cho phần mềm sản xuất?

Khối 2: Tiếp thu (RAG nâng cao & LLMOps)

  • Nội dung: Bài giảng về chu kỳ sống RAG: từ nhập dữ liệu đến cơ sở dữ liệu vector (FAISS/HNSW). So sánh chia khối kích thước cố định đơn giản với chia khối ngữ nghĩa và tác nhân. Giới thiệu các kiến trúc được tối ưu hóa cao như Cache-Augmented Generation (CAG).

Khối 3: Thực hành (Chỉ số và Định tuyến)

  • Hoạt động: "Phòng thí nghiệm Nhà Đánh giá." Cho một tập dữ liệu, học sinh chọn và biện minh cho việc sử dụng các chỉ số cụ thể (MRR so với NDCG) để đo lường thành công truy xuất. Sau đó, thiết kế bản đồ "Logic Định tuyến" xác định liệu có nên gửi truy vấn đến mô hình suy luận nâng cao (như OpenAI o3-mini) hay mô hình nguồn mở tiết kiệm chi phí.

Khối 4: Áp dụng (Thiết kế Hệ thống Chịu lực)

  • Hoạt động: "Kỹ sư Pipeline." Học sinh lập kế hoạch kiến trúc hệ thống cho môi trường có rủi ro cao. Thiết kế phải bao gồm:
    1. Một pipeline RAG với chia khối tác nhân.
    2. Một lớp cổng thống nhất với logic chuyển đổi tự động.
    3. Một hướng dẫn lập trình câu lệnh sử dụng sàn đỡ suy luận và đặc tả đầu ra JSON nghiêm ngặt.

4. Ôn tập & Mở rộng

Sai lệch phổ biến:

  • Chia khối kích thước cố định là "đủ tốt": Thực tế đòi hỏi chia khối ngữ nghĩa hoặc tác nhân để duy trì ngữ cảnh xuyên suốt ranh giới.
  • Lập trình câu lệnh chỉ là viết sáng tạo: Thực tế đòi hỏi nó phải là một ngành kỹ thuật chính thức với kiểm soát phiên bản và quy trình rõ ràng.
  • RAG chỉ là tìm kiếm văn bản: RAG hiện đại bao gồm tích hợp đa phương tiện (hình ảnh và văn bản) và bộ đệm tối ưu (CAG).

Phân biệt:

  • Hỗ trợ: Tập trung vào chuyển đổi từ "kỹ thuật" sang các mẫu định dạng cơ bản và các chỉ số truy xuất đơn giản.
  • Thách thức: Giao nhiệm vụ cho người học tiên tiến nối kết lập trình câu lệnh và an ninh mạng AI bằng cách thiết kế hệ thống phát hiện/ngăn chặn các cuộc tấn công định dạng đối kháng.

Kết quả học tập:

  • Đã sinh ra

🔹 Bài học 5: Bình yên, Đạo đức và Điều hướng các Mô hình Nguồn Mở

Tổng quan: # Bình yên, Đạo đức và Điều hướng các Mô hình Nguồn Mở

1. Chuẩn bị

Câu hỏi lớn: Trong thời đại các LLM đám mây hiệu suất cao, tại sao việc chuyển hướng sang triển khai địa phương và "Mở Trọng số" đang trở thành yêu cầu không thể thỏa hiệp cho AI cấp doanh nghiệp?

Mục tiêu học tập (SWBAT):

  • Nhận thức: Phân biệt giữa "Nguồn mở" (theo định nghĩa OSI) và mô hình "Mở Trọng số", và xác định ba động lực chính cho triển khai địa phương (bảo mật, chi phí, khả năng hoạt động ngoại tuyến).
  • Kỹ năng: Liên kết các yêu cầu sản xuất (như tăng cường tri thức hoặc độ tin cậy câu lệnh) với các giải pháp tổ chức cụ thể như Cơ sở dữ liệu Vector, Bộ định tuyến chuyển đổi, và Đánh giá Đối kháng.
  • Cảm xúc: Trân trọng tầm quan trọng của các giới hạn bảo mật dữ liệu và kiểm tra an toàn đạo đức trong phát triển AI chuyên nghiệp.

2. Các thành phần kiến thức cốt lõi (Thành phần chính)

A. Các khái niệm chính (Danh từ):

  • Cơ sở dữ liệu Vector: Pinecone, Deep Lake.
  • Thành phần hạ tầng: Mô hình nhúng, Bộ định tuyến chuyển đổi, Cổng.
  • Chỉ số đánh giá: MRR (Mean Reciprocal Rank), Precision@K, LLM-as-a-Judge.
  • Danh mục giấy phép: Nguồn mở (định nghĩa OSI), Mở Trọng số.
  • Công cụ an toàn: Đánh giá Đối kháng, Kiểm soát phiên bản, Đặc tả Định dạng Đầu ra.

B. Các nguyên tắc cốt lõi (Quy tắc):

  • Nguyên tắc định hướng: Hệ thống phải định hướng câu trả lời vào dữ liệu riêng tư cụ thể để giảm mạnh tỷ lệ ảo giác.
  • Nguyên tắc triển khai: Yêu cầu bảo mật công ty nghiêm ngặt, chi phí token tích lũy, và nhu cầu hoạt động ngoại tuyến khiến triển khai địa phương là bắt buộc.
  • Tinh tế về giấy phép: Một mô hình chỉ được coi là "Nguồn mở" nếu bao gồm mã huấn luyện và quyền lợi không hạn chế; nếu không, nó chỉ là "Mở Trọng số".
  • Nguyên tắc độ bền: Hệ thống doanh nghiệp phải định tuyến câu lệnh một cách linh hoạt để tối ưu hóa chi phí và thời gian hoạt động.

C. Kỹ năng thiết yếu (Động từ):

  • Tổ chức: Quản lý hệ thống đa nhà cung cấp và cổng.
  • Đánh giá: Triển khai các quy trình tự động để giám sát độ chính xác truy xuất và chất lượng sinh ra.
  • Phân biệt: Làm rõ sự khác biệt tinh tế về giấy phép giữa các loại mô hình.
  • Bảo mật: Thực hiện kiểm thử lỗ hổng đối kháng (Đánh giá Đối kháng).

3. Các khối giảng dạy (Dòng chảy)

Khối 1: Kích hoạt (Lý do của AI Địa phương)

  • Hoạt động: "Kiểm toán Chi phí-Bảo mật." Học sinh phân tích một tình huống giả định nơi một công ty phải đối mặt với hóa đơn token khổng lồ và rò rỉ dữ liệu. Thảo luận cách triển khai địa phương giải quyết những thách thức "Giai đoạn 5" này.

Khối 2: Tiếp thu (Kiến trúc Giải pháp)

  • Nội dung: Phân tích bảng Yêu cầu Sản xuất.
    • Tăng cường tri thức: Sử dụng Cơ sở dữ liệu Vector để giảm ảo giác.
    • Tính sẵn sàng: Sử dụng Bộ định tuyến chuyển đổi để đảm bảo hoạt động liên tục.
    • An toàn: Sử dụng Đánh giá Đối kháng và Kiểm soát phiên bản.
    • Đánh giá: Hiểu các chỉ số MRR và Precision@K.

Khối 3: Thực hành (Giấy phép & Logic)

  • Hoạt động: "Sắp xếp Nguồn mở vs. Mở Trọng số." Cho danh sách đặc điểm mô hình (ví dụ: "Trọng số công khai," "Có mã huấn luyện," "Hạn chế thương mại"), học sinh phải phân loại đúng dựa trên định nghĩa được cung cấp.

Khối 4: Áp dụng (Thiết kế Hệ thống)

  • Hoạt động: "Bản vẽ Kế hoạch Hệ thống Chịu lực." Học sinh thiết kế kiến trúc hệ thống cấp cao bao gồm một Mô hình nhúng cho việc định hướng dữ liệu riêng và một pipeline LLM-as-a-Judge để giám sát liên tục.

4. Ôn tập & Mở rộng

Sai lệch phổ biến:

  • Huyền thoại "Mở": Cho rằng bất kỳ mô hình nào có trọng số công khai đều là "Nguồn mở." (Sửa chữa: Nó có thể chỉ là "Mở Trọng số" nếu mã huấn luyện/quyền hạn bị hạn chế).
  • Sự vượt trội của đám mây: Tin rằng mô hình đám mây luôn tốt hơn. (Sửa chữa: Mô hình địa phương là thiết yếu cho quy mô, kiểm soát chi phí và bảo mật).

Phân biệt:

  • Hỗ trợ: Cung cấp từ điển cho các chỉ số đánh giá (MRR, Precision@K) cho học sinh mới bắt đầu với khoa học dữ liệu.
  • Thách thức: Yêu cầu các nhà phát triển cấp cao thiết kế logic "Tổ chức Đa-Nhà cung cấp" chuyển đổi giữa mô hình địa phương và đám mây dựa trên hiệu suất "Precision@K" so với "Chi phí Token".

Kết quả học tập:

  • Đã sinh ra

🔹 Bài học 6: Quy trình Tác nhân: Tự động hóa Nhiệm vụ Phức tạp

Tổng quan: # Quy trình Tác nhân: Tự động hóa Nhiệm vụ Phức tạp

1. Chuẩn bị

Câu hỏi lớn: Làm thế nào để chúng ta chuyển từ các hệ thống AI chỉ sinh văn bản theo một lần sang các tác nhân tự chủ có thể suy luận, sử dụng công cụ và hợp tác qua các microservice phân tán?

Mục tiêu học tập (SWBAT):

  • Nhận thức: So sánh các khung tích hợp tuyến tính với các phương pháp tổ chức đồ thị vòng lặp và phân biệt giữa các giao thức tích hợp dọc (MCP) và ngang (A2A).
  • Kỹ năng: Định nghĩa các nút chuyên dụng và cạnh điều kiện bằng nguyên lý lý thuyết đồ thị và triển khai máy chủ MCP bằng FastMCP để kết nối tác nhân với dữ liệu bên ngoài.
  • Cảm xúc: Trân trọng tầm quan trọng của "thực thi vòng lặp" và quản lý trạng thái trong việc mô phỏng quy trình nhận thức phức tạp của con người.

2. Các thành phần kiến thức cốt lõi (Thành phần chính)

A. Các khái niệm chính (Danh từ):

  • Đặc điểm Tác nhân AI: Tự chủ, Sử dụng Công cụ, Bộ nhớ, Suy luận.
  • Khung tổ chức: LangGraph, CrewAI (so với LangChain sớm).
  • Kiến trúc đồ thị: Nút (nhiệm vụ/gọi công cụ), Cạnh điều kiện (đường đi quyết định), Sơ đồ trạng thái (Python TypedDict).
  • Các giao thức tương tác: Giao thức Model Context Protocol (MCP), Giao thức Agent2Agent (A2A).
  • Công cụ triển khai: Ollama (CLI), LM Studio (GUI), FastMCP, LocalAI.
  • Mô hình: Llama 3, Qwen2.5, DeepSeek-R1 (đã định lượng).

B. Các nguyên tắc cốt lõi (Quy tắc):

  • Sự chuyển đổi mô hình: Chuyển từ các quy trình sinh tĩnh, một lần duy nhất sang các quy trình tự chủ, có mục tiêu cao.
  • Thực thi vòng lặp: Tác nhân phải thực hiện hành động, đánh giá kết quả, rồi quay lại để sửa lỗi hoặc thu thập thông tin.
  • Tích hợp dọc vs. ngang: MCP đóng vai trò như "USB-C" để kết nối mô hình với dữ liệu (dọc); A2A đóng vai trò ngôn ngữ chung để giao tiếp giữa các tác nhân qua các hệ sinh thái (ngang).
  • Kiến trúc Microservice: MCP và A2A bổ trợ nhau, không phải cạnh tranh.

C. Kỹ năng thiết yếu (Động từ):

  • Tổ chức: Quản lý chuỗi logic phức tạp và vòng lặp ra quyết định có trạng thái.
  • Triển khai: Chạy mô hình địa phương trên phần cứng tiêu dùng với độ trễ bằng 0.
  • Cung cấp: Cung cấp công cụ (API), tài nguyên (dữ liệu chỉ đọc), và câu lệnh qua máy chủ MCP.
  • Thương lượng: Cho phép các tác nhân độc lập khám phá khả năng và chia sẻ kết quả có cấu trúc một cách chương trình.

3. Các khối giảng dạy (Dòng chảy)

Khối 1: Kích hoạt (Từ Tĩnh đến Tác nhân) Hoạt động: So sánh tương tác câu lệnh - phản hồi thông thường với một nhiệm vụ đa bước (ví dụ: "Nghiên cứu một chủ đề và viết báo cáo"). Học sinh xác định bốn đặc điểm tác nhân cốt lõi (Tự chủ, Sử dụng Công cụ, Bộ nhớ, Suy luận) cần thiết để tự động hóa nhiệm vụ sau.

Khối 2: Tiếp thu (Tiến hóa Khung & Lý thuyết Đồ thị) Nội dung: Bài giảng về giới hạn của các chuỗi tuyến tính (LangChain sớm) trong xử lý các vòng quyết định. Giới thiệu nguyên lý LangGraph: định nghĩa nút cho nhiệm vụ và cạnh điều kiện cho kiểm soát luồng. Giải thích cách TypedDict của Python duy trì trạng thái xuyên suốt các bước này để đảm bảo "lịch sử quyết định" được lưu giữ.

Khối 3: Thực hành (Tích hợp Dọc với MCP) Hoạt động: Mô-đun thực hành sử dụng FastMCP trong Python. Học sinh xây dựng một máy chủ MCP địa phương cung cấp ba khả năng (Công cụ, Tài nguyên, Câu lệnh). Họ sẽ kết nối một tác nhân với cơ sở dữ liệu PostgreSQL địa phương hoặc một API trực tiếp (như Hacker News) để minh họa mở rộng khả năng vượt khỏi dữ liệu huấn luyện tĩnh.

Khối 4: Áp dụng (Tổ chức Ngang với A2A) Hoạt động: Thiết kế kiến trúc microservice nơi một "tác nhân nghiên cứu" (xây dựng trên LangGraph) dùng MCP để truy cập dữ liệu, sau đó dùng giao thức A2A để truyền kết quả tìm thấy tới một "tác nhân ra quyết định" (chạy trên máy chủ riêng). Thực hành sử dụng Server-Sent Events (SSE) để truyền cập nhật luồng giữa các tác nhân này.

4. Ôn tập & Mở rộng

Sai lệch phổ biến:

  • Tuyến tính: Học sinh thường nghĩ một chuỗi đơn giản các câu lệnh là một "tác nhân". Hướng dẫn phải nhấn mạnh rằng tác nhân cần thực thi vòng lặp và logic điều kiện.
  • Cạnh tranh giao thức: Làm rõ rằng MCP và A2A không phải đối thủ; một xử lý truy cập công cụ nội bộ (MCP), còn một xử lý hợp tác tác nhân bên ngoài (A2A).

Phân biệt:

  • Hỗ trợ: Dùng GUI của LM Studio để học sinh gặp khó khăn với môi trường dòng lệnh có thể khám phá và điều chỉnh mô hình.
  • Thách thức: Các nhà phát triển tiên tiến nên triển khai LocalAI như thay thế API OpenAI hoặc dùng text-generation-webui để tích hợp các tiện ích mở rộng phong phú cho quy trình tác nhân của họ.

Kết quả học tập:

  • Nhận thức: So sánh các khung tích hợp tuyến tính với các phương pháp tổ chức đồ thị vòng lặp và phân biệt giữa các giao thức tích hợp dọc (MCP) và ngang (A2A).
  • Kỹ năng: Định nghĩa các nút chuyên dụng và cạnh điều kiện bằng nguyên lý lý thuyết đồ thị và triển khai máy chủ MCP bằng FastMCP để kết nối tác nhân với dữ liệu bên ngoài.
  • Cảm xúc: Trân trọng tầm quan trọng của "thực thi vòng lặp" và quản lý trạng thái trong việc mô phỏng quy trình nhận thức phức tạp của con người.

🔹 Bài học 7: Tổng kết: Xây dựng Hệ thống Sản xuất LLM Cá nhân của Bạn

Tổng quan: # Tổng kết: Xây dựng Hệ thống Sản xuất LLM Cá nhân của Bạn

1. Chuẩn bị

Câu hỏi lớn: Làm thế nào để bạn chuyển từ người tiêu dùng thụ động của trí tuệ nhân tạo sang một kiến trúc sư chính, có khả năng xây dựng các hệ thống AI vững chắc, bền bỉ và tự chủ?

Mục tiêu học tập (SWBAT):

  • Nhận thức: Hiểu các phức tạp kiến trúc của các giao thức giao tiếp tác nhân (LangGraph, MCP, A2A) và nền tảng toán học của định hướng hậu đào tạo (Nhóm Tối ưu hóa Chính sách).
  • Kỹ năng: Xây dựng một bộ sưu tập toàn diện bao gồm các pipeline NLP địa phương, ứng dụng RAG an toàn và các hệ thống doanh nghiệp đa tác nhân phân tán.
  • Cảm xúc: Phát triển "trực giác kỹ thuật" bằng cách vượt qua các API đám mây bề ngoài để đối mặt với các cơ chế thấp cấp như thao tác tensor và tổ chức phân tán.

2. Các thành phần kiến thức cốt lõi (Thành phần chính)

A. Các khái niệm chính (Danh từ):

  • Giao thức: Giao thức Model Context Protocol (MCP), Bus giao tiếp Agent-to-Agent (A2A).
  • Kiến trúc: Pipeline NLP cơ bản, Kiến trúc RAG nâng cao, Quy trình tác nhân tự chủ, Tổng kết Hệ thống Phân tán.
  • Công cụ: Hugging Face (transformers/datasets), Ollama, LM Studio, Pinecone (Cơ sở dữ liệu Vector), LangGraph.
  • Chỉ số: MRR (Mean Reciprocal Rank), Precision@K.
  • Mô hình: Mô hình nguồn mở đã định lượng, DeepSeek V3/R1, Mô hình Ngôn ngữ-Hình ảnh-Hành động.

B. Các nguyên tắc cốt lõi (Quy tắc):

  • Ứng dụng thực nghiệm: Kiến thức lý thuyết suy giảm nếu không được áp dụng nghiêm túc trong các cơ sở mã nguồn công khai, có thể kiểm chứng.
  • Giảm ảo giác: Các hệ thống RAG địa phương phải sử dụng bộ kiểm thử tự động để chứng minh thực tế giảm ảo giác so với mô hình gốc.
  • Đường đi phức tạp: Kỹ năng phải được xây dựng từng bước, nối kết đại số tuyến tính và thao tác tensor với tổ chức hệ thống cấp cao.
  • Giáo dục liên tục: Kỹ năng kỹ thuật đòi hỏi cập nhật thường xuyên với các bài báo nổi bật (ICLR/ICML) và báo cáo kỹ thuật.

C. Kỹ năng thiết yếu (Động từ):

  • Chia token: Chuyển đổi các bộ dữ liệu văn bản tùy chỉnh để mô hình có thể sử dụng.
  • Chia khối: Triển khai các chiến lược chia khối chồng lấn nâng cao cho các bộ dữ liệu lớn.
  • Ủy thác: Dùng giao thức A2A để chuyển nhiệm vụ giữa các tác nhân chuyên biệt (ví dụ: Tác nhân Triage sang Tác nhân Dữ liệu).
  • Truy vấn: Truy cập cơ sở dữ liệu SQL giả lập an toàn qua các máy chủ MCP chuyên dụng.
  • Suy luận: Xây dựng các vòng lặp tự chủ thực hiện kiểm tra nội bộ cho đến khi báo cáo đạt chuẩn xuất bản.

3. Các khối giảng dạy (Dòng chảy)

Khối 1: Kích hoạt (Sự chuyển đổi sang Kỹ thuật viên Chuyên gia)

  • Hoạt động: Thảo luận "Vượt ngoài Câu lệnh". So sánh giới hạn của kỹ thuật lập trình câu lệnh cơ bản và API đám mây riêng tư với yêu cầu của kỹ thuật "chuyên gia" (lý thuyết toán học, thao tác tensor, hệ thống phân tán).

Khối 2: Tiếp thu (Tài liệu & Cơ sở kỹ thuật)

  • Nội dung: Tìm hiểu sâu các bài báo nền tảng và báo cáo kỹ thuật. Học sinh xem xét các đột phá ICLR/ICML và báo cáo kỹ thuật DeepSeek V3/R1 để hiểu "cận biên" của kiến trúc mô hình và kỹ thuật định hướng như Group Relative Policy Optimization.

Khối 3: Thực hành (Xây dựng Dự án Từng Bước)

  • Hoạt động 1: Pipeline NLP: Tải mô hình đã được huấn luyện trước một cách địa phương để thực hiện sinh văn bản và phân loại (ví dụ: Dự đoán khách hàng rời bỏ).
  • Hoạt động 2: Kiến trúc RAG: Xây dựng một RAG địa phương bằng Ollama/LM Studio và Pinecone. Học sinh phải triển khai chia khối chồng lấn và sử dụng MRR/Precision@K để đo hiệu suất.

Khối 4: Áp dụng (Tổng kết Hệ thống Phân tán)

  • Hoạt động: Triển khai Hệ thống "Triage-Data Agent". Xây dựng môi trường đa tác nhân nơi một "Tác nhân Triage" chính nhận yêu cầu và dùng giao thức A2A để ủy thác truy vấn cơ sở dữ liệu an toàn cho một "Tác nhân Dữ liệu" chạy trên quy trình riêng qua máy chủ MCP.

4. Ôn tập & Mở rộng

Sai lệch phổ biến:

  • Bẫy API: Tin rằng gọi API đám mây riêng tư tương đương với kỹ thuật AI.
  • Hỏi đáp tĩnh: Nghĩ rằng hệ thống AI chỉ giới hạn ở hỏi đáp tĩnh thay vì các quy trình tác nhân tự chủ, nhiều bước.
  • Lý thuyết vs. Thực hành: Cho rằng đọc bài báo là đủ mà không cần phát triển "các cơ sở mã nguồn công khai, có thể kiểm chứng".

Phân biệt:

  • Hỗ trợ: Sử dụng các nguồn học trực quan như "LLM Transformer Model Visually Explained" và các trực quan hóa tương tác (AnimatedLLM) để nắm bắt các thao tác cơ học như dòng tensor và chia token.
  • Thách thức: Chuyển từ tác nhân cơ bản sang xây dựng các "Quy trình Tác nhân Tự chủ" chuyên biệt, có khả năng quyết định động để sử dụng công cụ tìm kiếm web hoặc thực thi Python nhằm đáp ứng mục tiêu rộng (ví dụ: phân tích báo cáo tài chính SEC).