Dùng AI ngay trong Terminal: thử công cụ LLM của Simon Willison

Bạn có một loạt tiêu đề cần phân loại, mấy đoạn ghi chú muốn tóm tắt hay một tệp văn bản cần sửa câu chữ. Cứ sao chép sang chatbot, chờ phản hồi, rồi dán lại cũng được. Nhưng làm nhiều lần thì khá mất công.

Với người quen dùng Terminal, LLM của Simon Willison là một cách khác: gọi mô hình AI ngay từ dòng lệnh. Công cụ này có mã nguồn mở và hỗ trợ nhiều nhà cung cấp mô hình thông qua plugin hoặc cấu hình tương thích.

Ba giai đoạn từ ý tưởng đến kết quả.

Tại sao nên thử LLM CLI?

Thay vì mỗi lần mở trình duyệt, bạn có thể chuyển nhanh một đoạn văn bản cho AI từ Terminal. Quan trọng hơn, lệnh này dễ ghép với thao tác xử lý tệp có sẵn. Nó phù hợp khi bạn làm việc với văn bản, metadata, báo cáo nhỏ hoặc đang muốn tìm hiểu tự động hóa.

Ngày 02/11/2026, Simon Willison giới thiệu LLM 0.37, trong đó có các cải tiến về cấu hình endpoint tương thích OpenAI và khả năng xử lý embedding đa phương tiện. Với người mới, chưa cần dùng hết; hãy bắt đầu từ một câu hỏi ngắn.

Cài LLM trên máy

Theo hướng dẫn chính thức, bạn có thể dùng pipx để cài công cụ Python:

pipx install llm

Nếu chưa có pipx, xem trang tài liệu của dự án trước. Cài xong, mở Terminal và thử:

llm --help

Đây là cách kiểm tra công cụ đã cài thành công, không phải lệnh gọi AI. Để sử dụng mô hình qua API, bạn cần cấu hình provider và khóa API theo tài liệu; các yêu cầu gửi đến dịch vụ đám mây có thể phát sinh chi phí.

Ví dụ 1: Nhờ AI viết lại một câu quá dài

Khi đã cấu hình một model đang hoạt động, bạn thử:

llm "Viết lại câu sau cho ngắn, tự nhiên, dễ hiểu: Sản phẩm cho phép tối ưu hóa quy trình quản trị nguồn dữ liệu."

Bạn có thể nhận được câu ngắn hơn như: “Công cụ giúp bạn quản lý dữ liệu gọn và dễ hơn”. Hãy đọc lại trước khi dùng, vì AI có thể làm thay đổi ý nếu viết quá ngắn.

Bốn bước để bắt đầu.

Ví dụ 2: Tóm tắt một đoạn văn bản

Nếu có file notes.txt, trên nhiều Terminal thông dụng bạn có thể dùng:

cat notes.txt | llm -s "Tóm tắt thành 5 ý chính, giữ nguyên tên công cụ và số liệu."

Tùy hệ điều hành, cách đọc file có thể khác nhau. Lệnh trên minh họa cách nối đầu ra của lệnh đọc tệp với LLM, còn cú pháp chi tiết cần đối chiếu hướng dẫn phiên bản bạn cài.

Bản 0.37 có gì mới?

Trong ghi chú phát hành, tác giả nêu lệnh llm openai endpoint add giúp cấu hình một số endpoint tương thích OpenAI tiện hơn. Các cải tiến cho embeddings cũng hướng tới dữ liệu không chỉ là văn bản. Đây là tín hiệu thú vị nếu bạn muốn dùng AI với hệ thống có nhiều định dạng nội dung.

Nhưng nếu chỉ cần tóm tắt một file TXT, bạn không phải học tất cả các tính năng mới. Cài được, cấu hình đúng model, chạy một câu hỏi và kiểm tra kết quả là đủ.

Cần lưu ý gì trước khi dùng?

• Khóa truy cập: không dán khóa thật vào ảnh chụp màn hình hay công khai log Terminal.
• Chi phí: plugin và model có thể tính phí theo nhà cung cấp. Công cụ CLI không đồng nghĩa model chạy miễn phí.
• Quyền riêng tư: nếu chọn model cloud, nội dung bạn gửi sẽ đi đến dịch vụ tương ứng.
• Tự động hóa: chạy một lệnh mẫu tốt chưa có nghĩa cả quy trình lớn sẽ đúng. Hãy kiểm tra đầu ra trước khi dùng hàng loạt.

Nếu bạn đã quen Terminal và thường xuyên xử lý tệp văn bản, LLM là một công cụ đáng thử. Nếu chưa quen, cứ bắt đầu với một câu hỏi ngắn, hiểu các bước rồi mới ghép thành quy trình lớn.

Xem tài liệu và hướng dẫn cài LLM