Linger do SimplexAI phát triển, cung cấp hai phương pháp cài đặt: ứng dụng máy tính để bàn và triển khai qua Docker. Engine PolyStrata của nó phân bổ VRAM dựa trên tần suất sử dụng của các chuyên gia (expert); tính năng “Model Autopilot” chỉ với một lệnh có thể phát hiện phần cứng, đề xuất và cài đặt mô hình; “Another Me” đọc hộp thư, lịch và Slack để chủ động theo dõi, đồng thời mỗi đêm tự viết lại các quy tắc ra quyết định dựa trên phản hồi của bạn. Các tác nhân (agent) còn có thể thao tác trên các ứng dụng trong máy tính và trình duyệt Chrome đã đăng nhập, cho phép làm việc theo nhóm, đưa các tác vụ dài chạy ngầm, cũng như chuyển đổi sang sử dụng Claude Code, Codex hoặc Pi làm runtime.
Tại sao quan trọng Engine suy luận MoE tự phát triển đặt các chuyên gia thường dùng vào VRAM, phần còn lại vào RAM hoặc ổ cứng, giúp chạy các mô hình lớn hơn trên thiết bị có VRAM nhỏ; mỗi đêm tự động tổng hợp email và tin nhắn chat thành một wiki để các tác nhân truy xuất.
Số sao 1403 (+40 / 24h)
Lý do
- Tăng 40 sao trong 24 giờ, tổng số sao 1403 (chỉ phản ánh mức độ quan tâm)
- README kèm bảng tốc độ sinh văn bản của bảy mô hình MoE trên các card đồ họa 8, 12, 32 GB, và ghi chú rằng hầu hết các phép đo này được thực hiện bằng cách giới hạn VRAM trên các card đồ họa lớn hơn
Cách sử dụng
- Tải xuống gói cài đặt từ Releases cho macOS 14 trở lên (Apple Silicon), Windows x64 hoặc Linux x64, kiểm tra tính toàn vẹn bằng cách đối chiếu với SHA256SUMS.txt, và sử dụng Quick Install để cài đặt dịch vụ cục bộ khi khởi động lần đầu
Rủi ro
- README quảng bá bằng cách so sánh với “cấp độ Claude” và điểm số từ bên thứ ba; tác giả tuyên bố card đồ họa 12 GB có thể chạy mô hình 125B, nhưng ở cấu hình này, thời gian chờ cho token đầu tiên khoảng 3 phút
- Gói macOS chưa được ký, cần phải gỡ bỏ cách ly (quarantine) thủ công; các tác nhân có thể thao tác trên trình duyệt đã đăng nhập và các ứng dụng máy tính để bàn, đọc email, nên có quyền hạn rất lớn
- Giấy phép là Linger Open Source License, dựa trên Apache 2.0 nhưng có thêm các điều kiện bổ sung