Tự cài AI lập trình offline với OpenCode, Ollama và Qwen: hướng dẫn cho người mới

Vì sao nên thử AI lập trình ngay trên máy?

Bạn muốn AI giải thích một file code, đề xuất sửa lỗi hoặc tạo một công cụ nhỏ mà không cần gửi toàn bộ dự án lên một dịch vụ AI từ xa? Có thể bắt đầu bằng bộ ba Ollama + Qwen3.5 9B + OpenCode. Ollama chạy mô hình trên máy; Qwen3.5 9B là mô hình đa dụng có khả năng hỗ trợ lập trình; OpenCode là giao diện để trò chuyện và thao tác với dự án.

Xem bài thực hành AI offline

Đây là phương án đáng thử với người học code, người thích vibe coding hoặc muốn thực hành với dữ liệu cục bộ. Tuy nhiên, offline không đồng nghĩa miễn mọi chi phí: máy cần đủ RAM, dung lượng lưu trữ, điện và tài nguyên tính toán. Bản thân các việc cài phần mềm và tải model phải có Internet ban đầu.

Tư liệu do nguồn công bố: latent.space.

Tư liệu do nguồn công bố: latent.space.

Chuẩn bị trước khi cài

• Một máy Windows, macOS hoặc Linux có thể cài Ollama. Trên Windows, tài liệu OpenCode khuyến nghị WSL để tương thích tốt nhất.
• Dung lượng trống đủ cho mô hình. Thư viện Ollama hiện liệt kê Qwen3.5 9B khoảng 6,6 GB dữ liệu tải về; mô hình lớn hơn cần phần cứng mạnh hơn nhiều.
• Một dự án thử nghiệm không chứa mật khẩu hoặc token thật; sao lưu hoặc commit Git trước khi cho AI thay đổi tệp.

Bước 1 - Cài Ollama

Truy cập trang tải Ollama, chọn hệ điều hành và hoàn tất cài đặt theo hướng dẫn chính thức. Sau đó mở Terminal/PowerShell và kiểm tra:

ollama

Ollama cung cấp giao diện dòng lệnh và khả năng quản lý mô hình. Khi tải mô hình đã xong, việc suy luận với mô hình cục bộ không bắt buộc phải gửi prompt lên nhà cung cấp API.

Bước 2 - Tải và chạy Qwen3.5 9B

Theo bài thực hành gốc, có thể tải mô hình Qwen3.5 9B trước khi ngắt mạng bằng:

ollama pull qwen3.5:9b

Lần đầu sẽ tải dữ liệu mô hình, khoảng 6,6 GB theo trang thư viện Ollama; phần RAM khi chạy cần thêm dung lượng cho ngữ cảnh và hệ thống. Đây là lựa chọn dành cho máy tương đối mạnh; nếu máy yếu, nên chọn mô hình lập trình nhỏ hơn và kiểm tra khả năng tương thích với công cụ trước khi sử dụng. Không nên hứa mô hình 9B chạy mượt trên laptop phổ thông.

Thử câu lệnh: “Giải thích cách hoạt động của vòng lặp for trong JavaScript, kèm một ví dụ đơn giản.” Đây là bài kiểm tra khả năng trả lời, chưa chứng minh được hiệu quả sửa dự án lớn.

Bước 3 - Cài OpenCode

OpenCode là agent mã nguồn mở, có giao diện Terminal, ứng dụng desktop và phần mở rộng IDE. Có thể cài qua npm sau khi đã cài Node.js:

npm install -g opencode-ai

Nếu dùng Windows, nên đọc hướng dẫn Windows của OpenCode để chọn cách chạy phù hợp. Để thử nhanh liên kết Ollama và OpenCode, có thể tham khảo lệnh dưới đây; nếu không nhận đúng mô hình, hãy cấu hình provider Ollama và model qwen3.5:9b trong opencode.json như bài thực hành gốc:

ollama launch opencode --model qwen3.5:9b

Bạn cũng có thể bắt đầu từ thư mục dự án và chạy opencode, sau đó khởi tạo dự án bằng /init theo tài liệu của OpenCode. Kiểm tra kỹ tên model thực tế đã tải và chế độ chạy trước khi kết luận mọi thao tác là cục bộ.

Bước 4: Xác nhận đúng mô hình cục bộ

Trước khi ngắt mạng, kiểm tra Ollama có mô hình đã tải bằng lệnh ollama list. Mở OpenCode với cấu hình trỏ tới Ollama trên 127.0.0.1:11434 rồi xác nhận model Qwen3.5 9B được chọn. Chuẩn bị sẵn các package cần thiết; ngắt Wi-Fi và thử đọc một file cục bộ, sau đó chạy kiểm thử. Nếu gọi ra web hoặc model online thì chưa phải một bài thử offline hoàn chỉnh.

Bước 5: Bài thực hành 15 phút

Tạo thư mục hello-offline-ai với một file index.html đơn giản. Mở OpenCode trong thư mục đó và làm lần lượt:

1. Hỏi: “Hãy đọc dự án và giải thích cấu trúc. Đừng sửa file.”
2. Yêu cầu lập kế hoạch: “Thêm nút đổi giao diện sáng/tối, chỉ đề xuất các bước trước.”
3. Khi thấy hợp lý, cho phép AI chỉnh sửa. Đọc lại diff, mở trình duyệt kiểm tra nút hoạt động.
4. Ghi lại điểm AI làm đúng, điểm phải sửa tay và thời gian thực hiện.

OpenCode có chế độ Plan để thảo luận hướng triển khai mà chưa thay đổi mã. Đây là bước quan trọng với người mới: không nên để agent tự chạy lệnh nguy hiểm hoặc chỉnh sửa hàng loạt khi chưa xem kế hoạch.

Giới hạn phải biết

Không đồng nghĩa hoàn toàn không kết nối mạng. Một số tính năng bên ngoài, công cụ tìm kiếm, plugin hoặc lựa chọn model cloud vẫn có thể dùng mạng. Muốn kiểm tra quyền riêng tư cần xem cấu hình model/provider, network và log thực tế.

Không phải mọi máy đều đủ mạnh. Tốc độ phụ thuộc GPU, RAM, dung lượng và lượng mã nguồn đưa vào ngữ cảnh. Mô hình 9B có thể chậm hoặc không chạy được trên cấu hình thấp.

AI vẫn có thể tạo lỗi. Luôn làm trên nhánh Git riêng, không gửi khóa API vào prompt, đọc thay đổi và chạy kiểm thử trước khi triển khai.

Kết luận

Nếu muốn học cách dùng AI hỗ trợ lập trình mà không phụ thuộc hoàn toàn vào API tính tiền theo lượt, bộ ba này là điểm khởi đầu thú vị. Bắt đầu bằng bài tập nhỏ, kiểm chứng trên máy của bạn, rồi mới dùng cho mã nguồn thực tế.

Nguồn đọc thêm và hướng dẫn chính thức: OpenCode · Ollama Quickstart · Qwen3.5 9B trên Ollama. Bài học được gợi ý từ Latent Space.