[Hacker News] Darkbloom – Private inference on idle Macs
Nguồn: darkbloom.dev Tóm tắt Darkbloom là dự án cho phép chạy private AI inference trên các máy Mac đang idle — tận dụng Apple Silicon (GPU/Neural Engine) để xử lý các yêu cầu AI mà không cần gửi dữ liệu lên cloud. Đây là hướng tiếp cận edge computing cho AI, với trọng tâm là privacy và tận dụng phần cứng sẵn có. Ý tưởng cốt lõi: thay vì gửi queries lên các API providers (OpenAI, Anthropic, Google), người dùng có thể chạy inference locally trên Apple Silicon chip vốn có hiệu năng per-watt rất cao....