Trong quá trình triển khai các mô hình AI trên nền tảng AWS, mình nhận thấy có một vấn đề lớn: các máy sử dụng GPU thường có chi phí khá cao nhưng hiệu quả mang lại chưa thật sự tương xứng, tình trạng bị lấy lại Spot Instance bất ngờ khiến việc duy trì […]
A/B testing has become a cornerstone of data-driven decision-making in the digital age. It’s a tool that empowers teams to evaluate ideas, combat biases, and uncover user insights. This article will explore the essence of A/B testing, from its foundational principles to practical applications, drawing lessons from industry expertise. What Is A/B Testing? At its […]
Searching, also known as Information Retrieval, is a common area in Machine Learning (ML), and it is primarily employed by large corporations because it requires vast amounts of data and good infrastructure to construct.Not only are data and architecture cumbersome, but there are also several challenges that data scientists must face. Unfortunately, few individuals discussed […]
Cứ vào mỗi mùa hè hàng năm, PIXTA Vietnam lại hân hạnh chào đón các sinh viên đến từ Đại học Quốc gia Singapore (NUS) sang thực tập và trải nghiệm. Và mùa hè năm nay, chúng ta cùng chào mừng ba bạn Ashmita Haldar, SNG Wei Kang Darren (Major in Computer Science), Evan Adhitya […]
Part 2: System-Level and Deployment-Centric Optimization for LLMs In Part 1, we looked at the internal mechanics of big language models, concentrating on architectural strategies such as sparse attention, cache compression, and speculative decoding to reduce compute and memory costs during inference. However, even the most intelligent model optimizations can fail if the underlying system […]
Part 1: Architectural and Algorithmic Optimisations in LLM Inference What 20+ Papers and Open-Source Projects Taught Me About Cracking LLM Inference If you’re developing AI solutions and hosting foundation models built around large language models (LLMs), you should think about the cost of serving them. However, money is not the only consideration; believe me, if […]
9 năm qua là một hành trình thật đặc biệt với nhiều cung bậc cảm xúc khó quên đối với PIXTA Vietnam. Sau 9 năm, PIXTA Vietnam đã vững vàng vươn mình, gặt hái được những thành tựu đáng kể và sẽ tiếp tục vươn xa hơn nữa. Để chúc mừng cho chặng đường đầy […]
Trong bất kỳ dự án nào, đặc biệt là trong lĩnh vực phát triển phần mềm – nơi công nghệ thay đổi từng ngày và yêu cầu liên tục biến động – rủi ro là điều không thể tránh khỏi. Tuy nhiên, điều làm nên sự khác biệt giữa một dự án thất bại và […]
Từ Bất Ngờ Đến Bình Tĩnh, Từ Khủng Hoảng Đến Khôi Phục Dù bạn có chuẩn bị kỹ lưỡng đến đâu, có một điều luôn đúng trong phát triển phần mềm: sự cố sẽ xảy ra. Đó có thể là một lỗi sản phẩm lọt ra ngoài, một sự cố sập hệ thống khiến người […]
Tiếng Nhật cho mọi người – Những câu giao tiếp cơ bản trong công sở Tiếng Nhật không chỉ là chìa khóa giúp bạn khám phá nền văn hóa độc đáo của đất nước mặt trời mọc, mà còn là một công cụ quan trọng trong công việc, đặc biệt khi làm việc trong môi […]
