https://news.dhphong.com/tags/intel/ Recent content in Intel on Tech News Feed Hugo -- 0.131.0 vi Fri, 01 May 2026 13:06:30 +0700 https://news.dhphong.com/posts/2026-05-01-intel-autoround-advanced-quantization-llms/ Fri, 01 May 2026 13:06:30 +0700 https://news.dhphong.com/posts/2026-05-01-intel-autoround-advanced-quantization-llms/ Nguồn: GitHub: intel/auto-round Tóm tắt AutoRound là bộ công cụ quantization tiên tiến cho Large Language Models (LLMs) và Vision-Language Models (VLMs), được phát triển bởi Intel. Thuật toán sử dụng sign-gradient descent để đạt độ chính xác cao ở ultra-low bit width (2–4 bits) với overhead tuning tối thiểu, đồng thời tương thích rộng với các hardware platform (CPU/XPU/CUDA). Điểm nổi bật là AutoRound đã được tích hợp vào hệ sinh thái chính: vLLM (5/2025), SGLang (10/2025), Transformers của HuggingFace (5/2025), và LLM-Compressor (11/2025).