Phần lớn công cụ AI yêu cầu bạn tải dữ liệu lên cloud của họ trước khi giúp được gì. AgentOS làm ngược lại: tệp của bạn ở nguyên trên máy, và chỉ đúng đoạn bạn hỏi mới rời đi — cho một lần yêu cầu, và được thiết kế để không lưu lại.
“Local-first” ở đây nghĩa là gì
Local-first nghĩa là nguồn dữ liệu gốc nằm trên chính thiết bị của bạn, không phải trên máy chủ bạn không kiểm soát. Thuật ngữ này đến từ bài luận năm 2019 của Ink & Switch, Local-first software, đề xuất xem bản dữ liệu trên laptop hay điện thoại của bạn là bản chính, còn máy chủ chỉ giữ bản phụ. Trong AgentOS, tài liệu, chỉ mục tìm kiếm tạo ra từ chúng, lịch sử trò chuyện và dữ liệu của từng app đều được giữ cục bộ. AI là thứ bạn trỏ vào dữ liệu đó khi hỏi — nó không giữ sẵn một bản sao của mọi thứ.
Cái gì rời đi, cái gì ở lại
Điều quan trọng cho quyền riêng tư không phải "online hay offline" — mà là cái gì thực sự di chuyển. AgentOS được xây để phần lớn dữ liệu không bao giờ di chuyển, còn phần nhỏ có đi thì được giới hạn đúng theo câu hỏi trước mặt bạn: câu hỏi kèm một đoạn trích tối đa 16.000 ký tự.
Local-first so với AI cloud-first
Đây là khác biệt thực tế giữa kiểu "tải hết lên" thường thấy và kiểu local-first mà AgentOS dùng:
| Tiêu chí | AI cloud thông thường | AgentOS (local-first) |
|---|---|---|
| Tệp của bạn nằm ở đâu | Tải lên cloud của nhà cung cấp | Trên máy của bạn |
| Gửi gì mỗi lần hỏi | Thường là cả tài liệu hoặc cả thư viện | Câu hỏi của bạn kèm một đoạn văn bản, tối đa 16.000 ký tự |
| Lưu giữ | Tùy nơi; có thể lưu hoặc dùng để huấn luyện | Được thiết kế để không lưu lại sau khi trả lời |
| AI chạy ở đâu | Cloud dùng chung của nhà cung cấp | Máy chủ AgentOS tại Singapore |
AI chạy ở đâu — máy chủ AgentOS tại Singapore
Local-first nói về dữ liệu của bạn, không phải về con GPU. Bản thân AI chạy trên máy chủ AgentOS đặt tại Singapore: Node #1, một dịch vụ Google Cloud Run với một GPU NVIDIA L4 — Google ghi GPU L4 có 24 GB bộ nhớ GPU — ở vùng asia-southeast1, mà trang vùng của Cloud Run ghi rõ là Singapore. Nó chạy mô hình qwen2.5:14b — mô hình duy nhất đang hoạt động hiện nay. Ứng dụng desktop chỉ gọi đúng một địa chỉ AI, chỉ vậy thôi.
| Node #1 | Hiện nay |
|---|---|
| Mô hình | qwen2.5:14b (một mô hình đang chạy) |
| GPU | 1× NVIDIA L4, bộ nhớ GPU 24 GB |
| Nền tảng | Google Cloud Run |
| Vùng | asia-southeast1 (Singapore) |
| Văn bản gửi mỗi lần hỏi | Câu hỏi + một đoạn trích, tối đa 16.000 ký tự |
Thứ đi tới đó rất hẹp và có chủ đích. AgentOS mở và đọc tài liệu ngay trên máy bạn, trích phần văn bản, rồi gửi câu hỏi của bạn kèm một đoạn trích tối đa 16.000 ký tự. Tệp gốc không đi đâu cả. Thư viện, chỉ mục, lịch sử và dữ liệu của mọi app khác vẫn nằm nguyên chỗ cũ.
Còn chuyện kết nối máy của chính bạn? Đó là chương trình AOS Node — đăng ký một máy Mac hay một instance GCP bạn sở hữu để làm phần compute phục vụ yêu cầu của bạn. Đây là hướng mà AgentOS được xây quanh, và trang AOS Node là nơi bắt đầu — nhưng đó chưa phải thứ trả lời câu hỏi của bạn hôm nay. Hôm nay, mọi yêu cầu đều đi tới Node #1 tại Singapore. Bài AOS Node là gì? giải thích node và tài khoản khớp với nhau thế nào.
Vì sao điều này quan trọng
Giữ dữ liệu cục bộ không chỉ là quyền riêng tư — dù đây là một lập trường riêng tư mạnh. Nó còn nghĩa là bạn không trao một bản sao vĩnh viễn của công việc cho bên thứ ba, không phụ thuộc vào chính sách lưu giữ của họ, và câu trả lời bạn nhận được bám vào tệp của bạn chứ không phải một bản tải lên đã cũ. Local-first là một lựa chọn mặc định mà chúng tôi tin phần lớn mọi người sẽ chọn nếu được mời một cách rõ ràng. Trong AgentOS, đó là mặc định — và bạn có thể tải ứng dụng desktop để tự kiểm tra đường đi của dữ liệu.