Nguồn: Aphyr
Tóm tắt
Kyle Kingsbury (Aphyr) — tác giả của Jepsen distributed systems testing framework — tiếp tục series bài viết sắc bén về AI safety và cách các AI companies trình bày sản phẩm của họ. Với background là một trong những người có tiếng nói nhất trong distributed systems verification, Aphyr mang một lens độc đáo: ông biết rõ khoảng cách giữa claims về system correctness và reality.
Bài viết phân tích cách các AI labs frame “safety” như một feature marketing trong khi các fundamental problems — hallucination, deceptive alignment, specification gaming — vẫn chưa được giải quyết một cách rigorous. Giống như database vendors tuyên bố “ACID compliance” nhưng Jepsen testing tiếp tục tìm ra data loss bugs, AI safety claims thường không chịu được scrutiny thực sự.
Aphyr lập luận rằng cộng đồng cần demand cùng level of rigor từ AI systems như chúng ta đã làm với distributed databases: concrete failure modes, reproducible test cases, và independent verification. Bài viết là một lời kêu gọi áp dụng engineering discipline vào AI safety thay vì chấp nhận assurances dựa trên trust.